Meta detectó contenido engañoso generado por IA
Meta busca poner un alto al uso indebido de IA para crear contenido falso que se difunde en sus distintas redes sociales.
Meta, la empresa detrás de Facebook, detectó contenido engañoso en sus redes, probablemente generado por una Inteligencia Artificial (IA), donde se pueden ver comentarios y publicaciones que elogian problemas sociales de China, Israel, Irán, Rusia y otros países.
En el informe trimestral de la empresa, se mencionan las posibles amenazas que presentan actualmente, como la difusión de contenido falso en sus diversas plataformas como Facebook e Instagram; que se han visto afectadas por promover las fake news, debido a la creación de textos, imágenes y videos por IA.
Este video te puede interesar
Sin embargo, estas implicaciones no han afectado directamente a la empresa, solo en la difusión del material.
Meta identificará en sus redes sociales imágenes creadas con IA
Campañas de desinformación en Meta
Meta descubrió una red engañosa de China que compartía imágenes generadas con IA, donde se apreciaba un movimiento a favor de Israel, con comentarios a favor del ejército israelí, bajo una red de medios de comunicación y figuras públicas.
No obstante, la empresa informó que todo este contenido ya se eliminó de muchas de las redes antes de que creciera una audiencia entre las comunidades.
Recordemos que desde el año 2019, la empresa ha tenido problemas con la difusión de contenido falso dentro de la plataforma, pero no fue hasta este nuevo informe donde se detectó el uso de tecnología IA generativa basada en texto, que surgió desde 2022.
El avance tecnológico de esta herramienta ha representado un temor al poder producir imágenes, videos, audio y textos similares a los humanos de una forma rápida y, sobre todo, barata, lo que implica que pueda seguir replicando campañas de este tipo.
El plan de Meta para proteger y transparentar la información durante las elecciones en México
El peligro que puede representar
Este año 2024, en diferentes países se llevarán a cabo comicios electorales de cualquier tipo, por lo que el uso indebido de esta tecnología podría afectar la imagen de las personas.
Y es que, la avanzada tecnología de la IA logra crear una imagen muy cercana a la realidad del rostro humano, entre otras cosas, lo que llegaría a confundir a la audiencia que se encuentre con este material.
Entre las políticas de Meta, se han actualizado sus reglas para que, en lugar de eliminar el contenido, también se le exija a los anunciantes informar a la audiencia cuando utilicen IA, esto, aplicado a los anunciantes de Facebook o Instagram, relacionado con temas sociales. Sin embargo, de ser necesario, el contenido puede llegar a eliminarse.