Desbloqueando el futuro de la autenticación de contenido: el gran avance de IMATAG en la marcación de agua de imágenes generada por IA

Marca de agua digital: cómo funciona

Para entender la innovación de IMATAG, es esencial comprender cómo funcionan las marcas de agua digitales. El proceso consta de dos pasos cruciales: la marca de agua y la identificación.

Durante la creación de marcas de agua, se incrusta una marca de agua digital invisible en la imagen. La identificación implica escanear la imagen o el vídeo para detectar la presencia de la marca de agua.

‍

‍

Tradicionalmente, la marca de agua se producía después de la creación del contenido. Sin embargo, con la IA generativa, un enfoque más adecuado es introducir marcas de agua durante el proceso de generación, como se explica más adelante en este artículo.

‍

La marca de agua de IMATAG para imágenes generadas por IA

La «demostración de SDXL-Turbo con marca de agua» de IMATAG en Hugging Face

El 28 de noviembre de 2023, Stable Diffusion lanza el SDXL Turbo, un modelo avanzado de generación de imágenes con IA. Solo dos días después, los expertos de IMATAG pusieron a disposición una solución invisible de marcas de agua en Hugging Face para identificar las imágenes generadas por esta IA.

En esta demostración, los usuarios pueden generar una imagen proporcionando un mensaje que describa la imagen deseada. Durante el proceso de generación de la imagen, se inserta una marca de agua imperceptible para certificarla como sintética. La demostración también permite detectar marcas de agua (en forma de probabilidad) después de someter la imagen generada a varios ataques, como la compresión o la recoorización.

Esta técnica se basa en el refinamiento de un proceso desarrollado por científicos del INRIA y del Meta, conocido como Firma estable (ver referencias). Implica modificar los pesos del modelo de IA generativa (en este caso, el SDXL Turbo) para que genere imágenes con marcas de agua de forma natural. Este enfoque es ideal para la IA generativa de código abierto, a diferencia de las técnicas de «generar y luego marcar». Para aumentar la solidez, IMATAG combinó este método con su decodificador interno de cero bits (que indica la presencia o ausencia de una marca de agua, sin carga útil), capaz de decodificar incluso las marcas de agua muy alteradas.

‍

Pruébalo

Para explorar el potencial de esta técnica, puedes probarlo en Hugging Face, ajustando los parámetros para controlar la visibilidad y la solidez de las marcas de agua.

Impacto en la visibilidad: el proceso de formación equilibra la solidez de las marcas de agua y la calidad de la imagen. El objetivo de perceptibilidad se alinea con el objetivo original de Stable Diffusion, que se basa en imágenes reales.

Robustez: la demostración le permite ajustar la intensidad de la marca de agua en el modelo generado, probando varias compensaciones entre perceptibilidad y robustez.

Limitaciones de la demostración

Es importante tener en cuenta que el detector utilizado en esta demostración es una versión «degradada» de nuestro detector interno. Ha sido entrenado para resistir el recorte, la compresión JPEG y la captura de pantalla por parte de los teléfonos inteligentes. Los desafíos como voltear imágenes, tener perspectivas extremas, rotaciones y añadir texto no formaban parte de la capacitación. Este ejercicio se centra en una sola marca de agua (sin localizar a un traidor), sin ningún mensaje oculto. El detector solo identificará esta marca de agua específica y ninguna otra.

Para funciones adicionales, como llaves de seguridad, múltiples marcas de agua, mensajes ocultos o mayor robustez, no dude en ponerse en contacto con nosotros.

‍

¿Qué hace que esta demostración sea extraordinaria?

La solución de IMATAG se destaca como la primera tecnología de marca de agua independiente para modelos de IA. Si bien algunos desarrolladores de IA, como DeepMind con SynthID, ya aplican algoritmos de marcas de agua, por lo general limitan estos algoritmos a sus propios modelos.

El objetivo principal de esta demostración es el avance científico. En el caso de Stable Diffusion, basta con volver a cargar el modelo sin marcas de agua para generar imágenes sin marcas de agua, ya que los pesos originales están a disposición del público. El objetivo de IMATAG es animar a los productores de modelos, como StabilityAI, a poner marcas de agua a sus modelos delante de cualquier liberación de peso pública.

Esta iniciativa subraya el mensaje de Imatag a la comunidad de IA de código abierto: busque expertos en marcas de agua digitales para la protección y el cumplimiento de las marcas de agua de GenAI. La implementación rápida y eficaz de una solución personalizada, tal y como se muestra en la demostración publicada tan solo dos días después del lanzamiento del modelo, es posible, ya que se evita la pérdida de calidad que suele ocasionar la marca de agua posterior a la generación de marcas de agua.

‍

Conclusión y perspectivas futuras

En una era en la que las imágenes generadas por la IA son cada vez más convincentes, la importancia de la autenticación es primordial, especialmente en el contexto de los deepfakes y las creaciones de IA altamente realistas. Autoridades europeas y estadounidenses ahora insisto en proporcionar a los usuarios herramientas para distinguir el contenido genuino de las creaciones sintéticas.

Si bien los anuncios recientes de la industria, como SynthID de DeepMind, ofrecen tranquilidad, ya que a menudo permanecen en versión beta para poner marcas de agua, con un impacto inmediato limitado. En el futuro, el camino implica perfeccionar las herramientas, adaptar las regulaciones, crear conciencia y fomentar la colaboración entre los líderes tecnológicos, los reguladores y los usuarios. En esta era dominada por la IA, la confianza, la seguridad y la autenticidad siguen siendo preocupaciones fundamentales, y viaje de marca de agua digital, que se inició en la década de 1950, sigue evolucionando.

‍

-----

Acerca de StableSignature: El enfoque de Stable Signature consiste en entrenar el modelo de IA generativa para generar imágenes con marcas de agua nativas. Esto blog la publicación refleja el trabajo de Matthijs Douze y Pierre Fernández, con las contribuciones de Guillaume Couairon, Teddy Furón, y Herve Jegou a esta investigación. Otros recursos disponibles en su Repositorio de GitHub.

Más detalles técnicos de Imatag-Lab sobre el algoritmo aquí.