China regula el contenido generado por la IA: ¿hacia un nuevo estándar global de transparencia?

‍Un objetivo: recuperar el control sobre los flujos de información

El enfoque es claro: recuperar el control sobre un entorno de información que se ha vuelto inestable haciendo que los generadores de inteligencia artificial, las plataformas y los ciudadanos chinos rindan cuentas. Por lo tanto, China establece un estándar para identificar el contenido sintético, que bien podría inspirar otras regulaciones internacionales, empezando por la Ley Europea de Inteligencia Artificial, que no entrará en vigor hasta agosto de 2026, y cuya Oficina de Inteligencia Artificial (organismo regulador europeo de la IA) debe desarrollar normas para la transparencia del contenido generado por la IA antes de fin de año.

7 medidas clave para recordar

Estas son las principales disposiciones de esta nueva regulación china:

1. Se trata de todo tipo de contenido: texto, imagen, audio, vídeo, escenas virtuales...

2. Doble marcado obligatorio directamente para los generadores de IA:

• Una mención explícita, visible para el usuario (panel de advertencia, mensaje de voz, etc.)
• Una mención implícita, invisible, en forma de metadatos y marcas de agua digitales.

3. Las plataformas de distribución deben leer las menciones implícitas de los generadores de IA y traducirlas en menciones explícitas para los usuarios finales.

4. A falta de marcas explícitas e implícitas, se impone una mención explícita si el usuario declara que el contenido es sintético; en este caso, el ciudadano chino debe declarar si, por ejemplo, ha utilizado un generador de IA ubicado fuera de China.

5. A falta de cualquier declaración o marca, las propias plataformas deben detectar los indicadores de generación y marcar el contenido como «sospechoso de ser sintético».

6. La eliminación o falsificación de las menciones, tanto explícitas como implícitas, está estrictamente prohibida.

7. También están prohibidas las herramientas que permiten eliminar marcas, metadatos y marcas de agua digitales.

Una apuesta tecnológica: marcas de agua digitales y detección forense

Para implementar este sistema de identificación, China apuesta por dos tecnologías clave:

• Marca de agua digital, discreta e integrada en la fuente del contenido. China se suma así al consenso científico mundial en torno al uso de marcas de agua, la tecnología más adecuada para identificar el contenido generado por la IA
  
• Detección forense, capaz de detectar indicadores sutiles de la generación de IA.
  

Estos enfoques plantean verdaderos desafíos técnicos: garantizar la solidez, la resistencia a la falsificación y la escalabilidad de estas herramientas es un desafío científico importante.

‍

‍

Innovación y control: una línea roja ética

Esta regulación también revela una visión política asumida: el control prevalece sobre la innovación. Al imponer obligaciones estrictas a la generación de contenido y a lo largo de la cadena de distribución de contenido, China obliga a los actores tecnológicos a integrar el cumplimiento en sus modelos de negocio. Se traza así una línea roja: se desea innovar, pero nunca a expensas de la confianza y la ética.

¿Hacia un estándar internacional?

Mientras el mundo sigue buscando el equilibrio entre la innovación, la libertad de expresión y la seguridad digital, China está dando un paso adelante. No cabe duda de que esta regulación plantea interrogantes (costo, libertad, implementación), pero demuestra la firme voluntad de definir una norma en un campo que, en gran medida, aún no está regulado.

Queda por ver si otros países seguirán su ejemplo y, sobre todo, cómo. Sin embargo, esta ambiciosa regulación podría haberse complementado con la obligatoriedad de marcar con marcas digitales de agua los sitios y medios de comunicación de confianza, con el fin de dar aún más seguridad a los ciudadanos chinos, tal y como pretenden hacer los proyectos de regulación federal en los EE. UU.

‍