La innovadora legislación de California: la «Ley de normas de procedencia, autenticidad y marcas de agua de California»

En febrero de 2024, California introdujo una ley fundamental conocida como»Ley de normas de procedencia, autenticidad y marcas de agua de California». Este proyecto de ley, que actualmente está siendo revisado por el Senado del Estado de California, establece un marco integral destinado a autenticar tanto el contenido sintético como el real. He aquí un análisis detallado de lo que implica esta legislación y su posible impacto.

A la luz de la adopción generalizada de tecnologías de inteligencia artificial generativa (Gen-AI) que son cada vez más capaces de generar contenido de imágenes, audio, vídeo y texto no auténtico, normalmente denominadas «deepfakes», es cada vez más importante que la procedencia de este contenido se divulgue y etiquete claramente de manera que pueda prevenir y reducir la gravedad de los daños y también hacer que sea más difícil y costoso para los malos actores causar estos daños.

Desde la política hasta la seguridad pública, la desinformación puede tener múltiples impactos negativos en la sociedad. Puede sesgar los resultados electorales, como puede haber sido el caso de una convincente falsificación de audio en Eslovaquia. En vísperas de las elecciones de 2024 en los Estados Unidos, ya hemos visto anuncios producidos por candidatos y partidos que utilizaban contenido de audio y vídeo muy falso. La falsedad de una explosión en el Pentágono provocó una caída breve pero significativa de la bolsa de valores.

Por las razones descritas anteriormente, la ley tiene como objetivo proporcionar al público herramientas para comprender cómo se produjo el contenido que ve en los medios digitales y si es, de hecho, auténtico, generado por IA o auténtico con modificaciones menores por parte de la IA.

Disposiciones clave de la ley

1. Implementación de marcas de agua por parte de los proveedores de IA

A partir del 1 de febrero de 2025, los proveedores de contenido generado por IA (iAgen) deberán incrustar marcas de agua imperceptibles e indelebles en el contenido sintético. Estas marcas de agua contendrán datos de procedencia, lo que garantizará la trazabilidad del contenido creado o alterado de manera significativa.

2. Requisitos de etiquetado para plataformas en línea

A partir del 1 de marzo de 2025, las principales plataformas en línea deberán divulgar de manera visible los datos de procedencia que se encuentran en las marcas de agua o firmas digitales dentro del contenido distribuido a los usuarios. El objetivo es mejorar la transparencia y permitir a los usuarios identificar el origen del contenido que consumen.

3. Capacidades de marca de agua para dispositivos de grabación

Para el 1 de enero de 2026, todas las cámaras digitales y dispositivos de grabación de nueva fabricación que se vendan o distribuyan en California, incluidos los teléfonos inteligentes, deberán ofrecer a los usuarios la opción de insertar marcas de agua que indiquen la autenticidad y la procedencia en el contenido que producen. En el caso de los dispositivos adquiridos antes de 2026, el proyecto de ley exige una actualización del firmware para añadir funciones de marca de agua.

En una versión anterior de la Ley (eliminada en este momento), tenía exigió a todos los productores de medios que incorporaran datos de procedencia del contenido que fueran indelebles y preservaran al máximo la privacidad en el contenido que generaran, ya fuera generado por IA o auténtico. Si se reintegrara esta disposición, la ley debería ser una pieza imprescindible con un enfoque de 360°.

La definición y la importancia de las marcas de agua

Según el proyecto de ley, una marca de agua se define como «una marca de agua diseñada para que sea lo más difícil posible de eliminar utilizando técnicas avanzadas y estándares industriales relevantes». Esta definición estricta garantiza que las marcas de agua sigan siendo una herramienta sólida contra la manipulación del contenido, en consonancia con las soluciones ofrecidas por empresas como ETIQUETA DE IMAGEN.

Informes anuales de evaluación de riesgos

La ley exige que los proveedores de contenido de IA y las principales plataformas en línea presenten informes anuales de evaluación y mitigación de riesgos relacionados con el contenido sintético. Estos informes, auditados por organismos independientes, reflejan el espíritu de la Ley de Servicios Digitales de la Unión Europea, con el objetivo de mantener estándares rigurosos de integridad y seguridad de los contenidos.

Sanciones por incumplimiento

El incumplimiento de la ley podría resultar en multas cuantiosas de hasta 1 millón de dólares o el 5% de la facturación global de la empresa, lo que sea mayor. Esta importante sanción subraya la seriedad de la legislación y su compromiso de mantener altos estándares de autenticidad del contenido.

Implicaciones más amplias y alcance global

Esta legislación es particularmente notable, ya que se dirige no solo al contenido generado por la IA, sino también al contenido real creado por personas que utilizan dispositivos de grabación. Este enfoque global contrasta con la Ley Europea de Inteligencia Artificial, que se centra únicamente en el contenido generado por la IA. Dado que muchos proveedores de contenido de IA, las principales plataformas y fabricantes de dispositivos de grabación tienen su sede en California, se espera que el impacto de esta ley se extienda mucho más allá de las fronteras del estado, lo que podría influir en las prácticas mundiales.

Una perspectiva global

La necesidad de marcar el contenido generado por la IA, pero también el contenido genuino, es fundamental en la era digital actual. Este enfoque se repite en la reciente Resolución de las Naciones Unidas A/78/L.49 y las recomendaciones de Reporteros sin Fronteras (RSF), destacando un cambio mundial hacia una mayor autenticidad y transparencia del contenido.

Conclusión

La ley fue adoptada por la Asamblea de California el 22 de mayo de 2024 con 62 votos a favor, 0 en contra y 18 abstenciones. Todavía tiene que ser aprobada por el Senado y el Gobernador, con buenas posibilidades de ser adoptada.

La «Ley de normas de procedencia, autenticidad y marcas de agua de California» representa un importante paso adelante en la regulación del contenido digital. Al implementar estrictos requisitos de marca de agua y medidas de transparencia, California pretende establecer un nuevo estándar en la autenticación de contenido que podría tener implicaciones de gran alcance a nivel mundial. A medida que este proyecto de ley avance en el proceso legislativo, será crucial monitorear su desarrollo y el impacto más amplio en el panorama del contenido digital.

‍