Únete a nuestro canalGoogle lanza herramienta para identificar imágenes creadas con inteligencia artificial
Google ha presentado SynthID en versión beta, una herramienta que tiene la capacidad de identificar y marcar imágenes generadas por inteligencia artificial (IA).
Google ha presentado SynthID en versión beta, una herramienta que tiene la capacidad de identificar y marcar imágenes generadas por inteligencia artificial (IA).
En sus inicios, esta herramienta estará disponible para un grupo limitado de usuarios que utilicen “Imagen”, el modelo de IA basado en la nube de Google que crea imágenes a partir de texto.
SynthID añade marcas de agua digitale
SynthID añade marcas de agua digitales a las imágenes de IA Aunque las marcas de agua son comúnmente usadas para indicar la propiedad de los derechos de autor, a menudo pueden ser eliminadas o modificadas con facilidad mediante herramientas de edición de imágenes estándar.
Este video te puede interesar
SynthID incorpora una marca de agua directamente en los píxeles de las imágenes generadas por el modelo “Imagen”, siendo invisible al ojo humano, pero detectable mediante software específico.
Los investigadores de Google explican que han diseñado SynthID de manera que no comprometa la calidad de la imagen. Esto permite que la marca de agua permanezca detectable incluso después de cambios como la aplicación de filtros, alteración de colores o la compresión en formatos como JPEG.
La herramienta utiliza dos modelos de aprendizaje profundo
La herramienta utiliza dos modelos de aprendizaje profundo entrenados con una amplia variedad de imágenes.
Uno de ellos añade una marca de agua imperceptible, mientras que el otro calcula la probabilidad de que una imagen haya sido generada por el modelo “Imagen”, proporcionando tres niveles de confianza en la identificación.
Google Meet integra una Inteligencia Artificial que ya podrá sustituirte en juntas y reuniones
Mientras que los metadatos (información que almacena detalles sobre la creación de un archivo de imagen y su fecha) también se utilizan para identificación, pueden ser modificados o eliminados en la edición.
La marca de agua de SynthID, insertada en los píxeles de la imagen, permanece detectable incluso en ausencia de metadatos.
La herramienta podría expandirse a otros modelos
Hacia un futuro seguro en IA Aunque SynthID no es infalible ante manipulaciones extremas de imágenes, representa un enfoque técnico prometedor para fomentar el trabajo responsable con contenido generado por IA.
La herramienta podría expandirse a otros modelos y modalidades de IA más allá de las imágenes, como audio, video y texto, según los investigadores.
Google planea integrar SynthID en más productos y hacerla accesible a terceros en el futuro. La compañía también se ha unido a otros líderes de la IA para desarrollar tecnología de IA segura y transparente, incluyendo mecanismos para identificar contenido generado por IA, como marcas de agua o información sólida de procedencia en imágenes y audio generados por IA.
