Detección de imágenes generadas por IA: por qué son importantes los estándares sólidos de marcas de agua

Avances en la marca de agua invisible

Marcas de agua invisibles incrustar una firma digital oculta directamente en una imagen. Si bien son imperceptibles a la vista, pueden detectarse mediante herramientas automatizadas para indicar que el contenido ha sido creado por un sistema de inteligencia artificial.

La inversión de la industria en este ámbito se está acelerando. Esfuerzos como SyntHid de Google muestran un claro impulso y una voluntad de establecer estándares más altos de seguridad, transparencia y alineación regulatoria, especialmente a medida que marcos como el Ley de IA de la UE y Ley de transparencia de la IA de California exigen una divulgación más clara de los medios generados por la IA.

Como resultado, las marcas de agua se están consolidando como una capa fundamental para la verificación de la autenticidad, la confianza y la procedencia de los medios y el cumplimiento de las próximas obligaciones de transparencia.

El desafío: detectar contenido generado por IA

A pesar de los avances, la detección sigue siendo un problema altamente técnico. Las marcas de agua invisibles deben sobrevivir a todas las transformaciones que sufren las imágenes en el mundo real, ya sean intencionales o no. Incluso acciones simples como recortar, cambiar el tamaño, ajustar el brillo o modificar el fondo pueden alterar la distribución de píxeles lo suficiente como para debilitar una marca de agua.

Los grandes cultivos, en particular, representan un desafío. Cuando se elimina más del 50% de una imagen, muchos métodos de creación de marcas de agua pierden una parte importante de su señal. Las modificaciones basadas en el contenido (eliminar un objeto, regenerar parte de una escena o realizar ajustes semánticos locales) también pueden alterar las regiones en las que está incrustada la marca de agua.

Trabajos académicos recientes, incluidos los Ataque UnMarker de la Universidad de Waterloo, ha demostrado que las transformaciones sutiles basadas en la frecuencia pueden debilitar o borrar significativamente las marcas de agua en muchos métodos sin introducir artefactos visibles.

Y más allá de la eliminación, hay que tener en cuenta la amenaza inversa: si se puede añadir artificialmente una marca de agua a una fotografía real, todo el sistema de verificación deja de ser confiable. Estos desafíos no son específicos de ninguna solución en particular, sino que reflejan la complejidad fundamental de la marca de agua en sí misma.

Por qué es importante la certeza de la detección

Las personas con malas intenciones han descubierto que es fácil eludir las reglas de divulgación. Algunos simplemente las ignoran. Otros manipulan los vídeos para eliminar las marcas de agua identificativas. El New York Times encontró docenas de ejemplos de vídeos de Sora que aparecen en YouTube sin la etiqueta automática.

Han surgido varias empresas que ofrecen eliminar logotipos y marcas de agua. Además, editar o compartir vídeos puede acabar eliminando los metadatos incrustados en el vídeo original que indican que se hizo con inteligencia artificial.

Esta erosión de las señales de procedencia se produce en un momento en que las expectativas de la audiencia van en la dirección opuesta. »Los espectadores quieren cada vez más transparencia sobre si el contenido que ven es alterado o sintético.», dijo Jack Malon, un portavoz de YouTube.

En este contexto, el las consecuencias de una detección imperfecta no son teóricas. Una imagen ligeramente recortada o filtrada puede engañar a millones de personas si su marca de agua pasa a ser indetectable. Un deepfake puede circular durante un ciclo electoral sin ser reconocido como sintético. Es posible que los creadores auténticos se vean mal señalados como productores de contenido basado en la IA, mientras que las imágenes reales generadas por la IA eluden la identificación en contextos delicados, como el periodismo o las investigaciones legales.

En estos escenarios, «mayormente confiable» no es suficiente. Las marcas de agua deben funcionar de manera confiable en las condiciones desordenadas e impredecibles de la circulación de imágenes en el mundo real.

El estándar de Imatag para marcas de agua ultrarrobustas

El enfoque de Imatag se centra en lograr un nivel de confiabilidad adecuado para la verificación de alto riesgo.

Un requisito central es un tasa de falsos positivos extremadamente baja. Nuestro umbral de detección está calibrado a aproximadamente 1 en 1.000.000.000.000 para una identificación positiva. Una investigación interna reciente ha demostrado la importancia de establecer unos umbrales estrictos, ya que algunos métodos de establecimiento de marcas de agua pueden producir falsos positivos de vez en cuando en determinadas condiciones.

Otro principio clave es la vinculación semántica: la la marca de agua debe permanecer detectable dentro del significado principal de la imagen, incluso si cambian los elementos periféricos o estilísticos. Esto se complementa con la resistencia a las ediciones rutinarias, como recortar, voltear o ajustar el brillo, operaciones que pueden producirse de forma natural al compartir imágenes.

Para apoyar la confianza y la responsabilidad, el sistema se evalúa mediante exhaustivas pruebas de resistencia y puntos de referencia transparentes. Y para garantizar la compatibilidad en todo el ecosistema, la marca de agua de Imatag se alinea con marcos de procedencia emergentes como C2PA.

​​Construyendo un estándar industrial más sólido

Los avances de los principales actores, incluidas iniciativas como SyntHid, muestran la rapidez con la que el campo avanza y la seriedad con la que los líderes de la industria se toman el desafío de la procedencia y la seguridad. Sin embargo, todos compartimos el desafío de una detección sólida. La marca de agua solo cumplirá su promesa si la cumple normas sólidas y verificables capaces de soportar las transformaciones cotidianas y la manipulación contradictoria.

En el futuro, la colaboración será esencial. Unos estándares más sólidos y compartidos benefician a todos: las plataformas, los creadores, los investigadores, los reguladores y el público. La marca de agua invisible está destinada a convertirse en una fuente fundamental de confianza, pero su éxito a largo plazo depende de que se cumplan unos estándares que no solo sean ambiciosos, sino también verificables y ampliamente probados.

‍