La casa matriz de Facebook e Instagram identificará cualquier contenido generado por IA
Meta reafirma su confianza en su red de aproximadamente 100 verificadores de datos independientes para detectar y abordar contenidos generados por IA que sean falsos o engañosos.
Meta, la empresa matriz de plataformas líderes como Facebook, Instagram y Threads, anunció recientemente su compromiso de identificar cualquier contenido generado por inteligencia artificial (IA) con el objetivo de fortalecer la lucha contra la desinformación.
La vicepresidenta de contenido de Meta, Monika Bickert, anunció que a partir de mayo de 2024, la plataforma comenzará a etiquetar contenido generado por IA con la mención “Made with AI“, extendiéndola no solo a imágenes fotorrealistas, sino también a una variedad más amplia de contenido, incluyendo video y audio.
Este video te puede interesar
Estas medidas buscan ofrecer mayor transparencia y contexto a los usuarios.
Marcas de identificación y agregado de contexto
Los contenidos generados por IA serán marcados con etiquetas visibles y una “marca de agua” digital invisible por la plataforma, lo que servirá como una especie de “tatuaje” digital para identificar su origen. Meta se une a otras grandes empresas tecnológicas como Google, Microsoft y OpenAI, que ya emplean tecnologías similares para abordar la proliferación de contenido generado por IA.
La decisión de Meta de etiquetar y proporcionar contexto a los contenidos creados con IA surge después de una consulta con su junta de supervisión. La empresa considera que la transparencia y el contexto son fundamentales para abordar los contenidos manipulados, evitando así restringir innecesariamente la libertad de expresión.
En lugar de eliminar estos contenidos, como se hacía anteriormente, Meta optará por agregar “etiquetas y contexto” para brindar una experiencia más informativa a los usuarios.
Combatir la desinformación y salvaguardar la integridad
Meta reafirma su confianza en su red de aproximadamente 100 verificadores de datos independientes para detectar y abordar contenidos generados por IA que sean falsos o engañosos.
Este enfoque refleja el compromiso de la plataforma para combatir la desinformación y salvaguardar la integridad de su ecosistema en línea.
Las telecomunicaciones en 2024: del blockchain al 6G
Específicamente, la identificación y etiquetado de contenido generado por IA busca prevenir la manipulación y el abuso de estas herramientas para sembrar el caos político y propagar desinformación, especialmente en períodos electorales.
Desafíos y compromisos futuros
El desarrollo de programas de IA generativa plantea desafíos significativos, incluida la proliferación de contenido degradante como los “deepfakes” pornográficos y la difusión de información errónea. Estos desafíos son especialmente relevantes en el contexto de elecciones importantes y en la esfera política, donde el uso indebido de la IA puede tener consecuencias graves.
Meta y otras empresas tecnológicas están asumiendo compromisos para abordar estos problemas y garantizar la integridad de sus plataformas en línea en beneficio de sus usuarios y de la sociedad en genera.