Loi californienne sur les normes de provenance, d'authenticité et de watermark : un projet de loi révolutionnaire

En février 2024, la Californie a introduit un texte législatif essentiel connu sous le nom de "Loi californienne sur les normes de provenance, d'authenticité et de filigrane." Actuellement examiné par le Sénat de l'État de Californie, ce projet de loi définit un cadre complet visant à authentifier à la fois le contenu synthétique et le contenu réel. Voici un aperçu détaillé de ce que cette législation implique et de son impact potentiel.

À la lumière de l'adoption généralisée de technologies d'intelligence artificielle générative (Gen-AI) qui sont de plus en plus capables de générer des images, des contenus audio, vidéo et textuels non authentiques, généralement appelés « deepfakes », il est de plus en plus important que la provenance de ce contenu soit clairement divulguée et étiquetée de manière à prévenir les préjudices, à réduire la gravité des préjudices et à rendre plus difficile et plus coûteux pour les acteurs malveillants de les causer.

De la politique à la sécurité publique, la désinformation peut avoir de multiples impacts négatifs sur la société. Cela peut fausser les résultats des élections, comme cela a pu être le cas avec un deepfake audio convaincant en Slovaquie. À l'approche des élections américaines de 2024, nous avons déjà vu des publicités produites par des candidats et des partis utilisant du contenu audio et vidéo deepfake. Un deepfake d'une explosion au Pentagone a provoqué une chute boursière brève mais significative.

Pour les raisons décrites ci-dessus, la loi vise à fournir au public des outils pour comprendre comment le contenu qu'il voit sur les médias numériques a été produit et s'il est authentique, généré par l'IA ou authentique avec des modifications mineures par l'IA.

Principales dispositions de la Loi

1. Mise en œuvre de filigranes par les fournisseurs d'IA

À compter du 1er février 2025, les fournisseurs de contenu généré par l'IA (iAgen) devront intégrer des filigranes imperceptibles et indélébiles dans leurs contenus synthétiques. Ces filigranes contiendront des données de provenance, garantissant la traçabilité du contenu modifié ou créé de manière significative.

2. Exigences d'étiquetage pour les plateformes en ligne

À compter du 1er mars 2025, les principales plateformes en ligne devront divulguer de manière visible les données de provenance figurant dans les filigranes ou les signatures numériques du contenu distribué aux utilisateurs. Cela vise à améliorer la transparence et à permettre aux utilisateurs d'identifier l'origine du contenu qu'ils consomment.

3. Capacités de filigrane pour les appareils d'enregistrement

D'ici le 1er janvier 2026, tous les appareils photo numériques et appareils d'enregistrement nouvellement fabriqués vendus ou distribués en Californie, y compris les smartphones, devront offrir aux utilisateurs la possibilité d'intégrer des filigranes indiquant l'authenticité et la provenance du contenu qu'ils produisent. Pour les appareils achetés avant 2026, le projet de loi impose une mise à jour du micrologiciel pour ajouter des fonctionnalités de filigrane.

Dans une version précédente du projet de loi (supprimée pour le moment), il y avait l'obligation pour les médias d'intégrer des données de provenance du contenu le plus indélébile qui soit et préservant la confidentialité dans le contenu qu'ils génèrent, qu'il soit généré par l'IA ou authentique. Si cette disposition devait être réintégrée, la loi devrait devenir une pièce incontournable avec une approche à 360 degrés.

Définition et importance des filigranes

Selon le projet de loi, un filigrane est défini comme « un filigrane conçu pour être aussi difficile à supprimer que possible à l'aide de techniques avancées et de normes industrielles pertinentes ». Cette définition stricte garantit que les filigranes restent un outil robuste contre la falsification du contenu, conformément aux solutions proposées par des entreprises telles que IMATAG.

Rapports annuels d'évaluation des risques

La loi oblige les fournisseurs de contenu basé sur l'IA et les principales plateformes en ligne à soumettre des rapports annuels d'évaluation et d'atténuation des risques concernant le contenu synthétique. Ces rapports, audités par des organismes indépendants, reflètent l'esprit de la loi sur les services numériques de l'Union européenne, qui vise à faire respecter des normes rigoureuses en matière d'intégrité et de sécurité des contenus.

Sanctions en cas de non-conformité

Le non-respect de cette loi peut entraîner de lourdes amendes pouvant aller jusqu'à 1 000 000$ ou 5 % du chiffre d'affaires global de l'entreprise, le montant le plus élevé étant retenu. Cette sanction importante souligne le sérieux de la législation et son engagement à maintenir des normes élevées d'authenticité des contenus.

Implications plus larges et portée mondiale

Cette législation est particulièrement remarquable car elle cible non seulement le contenu généré par l'IA, mais également le contenu réel créé par des individus à l'aide d'appareils d'enregistrement. Cette approche globale contraste avec la loi européenne sur l'IA "AI Act", qui se concentre uniquement sur le contenu généré par l'IA. Étant donné que de nombreux fournisseurs de contenu d'IA, principales plateformes et fabricants d'appareils d'enregistrement sont basés en Californie, l'impact de cette loi devrait s'étendre bien au-delà des frontières de l'État, influençant potentiellement les pratiques mondiales.

Une perspective mondiale

La nécessité de filigraner le contenu généré par l'IA mais également le contenu authentique est essentielle à l'ère numérique d'aujourd'hui. Cette approche trouve un écho dans la récente Résolution de l'ONU A/78/L.49 et les recommandations de Reporters sans frontières (RSF), mettant en évidence une évolution mondiale vers une plus grande authenticité et transparence des contenus.

Conclusion

La loi a été adoptée par l'Assemblée de Californie le 22 mai 2024 par 62 voix pour, 0 contre et 18 abstentions. Elle doit encore être adoptée par le Sénat et le Gouverneur pour être adoptée.

La « Loi californienne sur les normes de provenance, d'authenticité et de filigrane » représente une avancée significative dans la réglementation du contenu numérique. En mettant en œuvre des exigences strictes en matière de filigrane et des mesures de transparence, la Californie vise à établir une nouvelle norme en matière d'authentification du contenu qui pourrait avoir de profondes implications à l'échelle mondiale. Au fur et à mesure que ce projet de loi progresse dans le processus législatif, il sera crucial de suivre son évolution et son impact plus large sur le paysage du contenu numérique.

‍