Détecter les images générées par l’IA : pourquoi des standards robustes de watermarking sont essentiels

Les avancées du watermarking invisible

Les watermarks invisibles (tatouages numériques) intégrer une signature numérique masquée directement dans une image. Bien qu'imperceptibles à l'œil nu, ils peuvent être détectés par des outils automatisés pour indiquer que le contenu a été créé par un système d'IA.

Les investissements de l'industrie dans ce domaine s'accélèrent. Des efforts tels que SynthID de Google montrent une dynamique claire et une volonté de fixer des normes plus élevées en matière de sécurité, de transparence et d'alignement réglementaire, en particulier en ce qui concerne les cadres tels que le Loi sur l'IA de l'UE et Loi californienne sur la transparence de l'IA exiger une divulgation plus claire des médias générés par l'IA.

Dans ce contexte, le watermarking s’impose progressivement comme une couche fondamentale pour la vérification de l’authenticité, la confiance et la provenance des contenus médiatiques, ainsi que pour le respect des obligations de transparence à venir.

Le défi : détecter le contenu généré par l'IA

Malgré les progrès réalisés, la détection reste un problème très technique. Les watermarks invisibles doivent survivre à toutes les transformations que subissent les images dans le monde réel, qu'elles soient intentionnelles ou non. Même des actions simples telles que le recadrage, le redimensionnement, le réglage de la luminosité ou la modification de l'arrière-plan peuvent modifier suffisamment la distribution des pixels pour affaiblir un filigrane.

Les recadrages importants constituent un défi particulier. Lorsque plus de 50 % d’une image est supprimée, de nombreuses méthodes de watermarking perdent une part significative de leur signal, ce qui réduit leur détectabilité. Les modifications dites « content-aware », (suppression d’un objet, régénération partielle d’une scène ou ajustements sémantiques locaux) peuvent également perturber les zones où l’information de watermark est intégrée.

Des travaux universitaires récents, notamment le Attaque UnMarker de l'université de Waterloo, a montré que de subtiles transformations basées sur la fréquence peuvent considérablement affaiblir ou effacer les tatouages numériques selon de nombreuses méthodes sans introduire d'artefacts visibles.

Au-delà de la suppression, la menace inverse doit être prise en compte : si un watermark peut être ajouté artificiellement à une vraie photo, l'ensemble du système de vérification perd sa fiabilité. Ces défis ne sont pas propres à une solution en particulier ; ils reflètent la complexité intrinsèque du watermarking lui-même.

Pourquoi la certitude de détection est importante

Des personnes mal intentionnées ont découvert qu'il est facile de contourner les règles de divulgation. Certains les ignorent tout simplement. D'autres manipulent les vidéos pour supprimer les filigranes d'identification. Le New York Times a trouvé des dizaines d'exemples de vidéos de Sora apparaissant sur YouTube sans l'étiquette automatique.

Plusieurs entreprises se sont également spécialisées dans la suppression de logos et de watermarks. Et le simple fait d’éditer ou de partager des vidéos peut entraîner la perte des métadonnées intégrées au contenu original, indiquant qu’il a été généré par une IA.

Cette érosion des signaux de provenance survient à un moment où les attentes du public évoluent dans la direction opposée. »Les spectateurs souhaitent de plus en plus de transparence quant à savoir si le contenu qu'ils voient est modifié ou synthétique», a déclaré Jack Malon, porte-parole de YouTube.

Dans ce contexte, le les conséquences d'une détection imparfaite ne sont pas théoriques. Une image légèrement recadrée ou filtrée peut induire des millions de personnes en erreur si son watermark devient indétectable. Un deepfake peut circuler pendant un cycle électoral sans être reconnu comme étant synthétique. Les créateurs authentiques peuvent être considérés à tort comme produisant du contenu basé sur l'IA, tandis que les visuels générés par l'IA échappent à toute identification dans des contextes sensibles tels que le journalisme ou les enquêtes judiciaires.

Dans ces scénarios, « généralement fiable » ne suffit pas. Le watermarking doit fonctionner de manière fiable dans les conditions chaotiques et imprévisibles de la circulation d'images dans le monde réel.

Le standard Imatag pour un watermarking ultra-robuste

L'approche d'Imatag vise à atteindre un niveau de fiabilité adapté à une vérification à enjeux élevés.

Une exigence centrale est une taux de faux positifs extrêmement faible. Notre seuil de détection est calibré à environ 1 sur 1 000 000 000 000 pour une identification positive. De récentes recherches internes ont confirmé à quel point les seuils stricts sont essentiels, car certaines méthodes de watermarking peuvent produire des faux positifs occasionnels dans certaines conditions.

Un autre principe clé est la liaison sémantique : le watermark doit rester détectable dans le sens essentiel de l'image, même si des éléments périphériques ou stylistiques changent. À cela s'ajoute la résistance aux modifications de routine telles que le recadrage, le retournement ou le réglage de la luminosité, opérations qui peuvent se produire naturellement lors du partage d'images.

Pour renforcer la confiance et la responsabilité, le système est évalué au moyen de tests de résistance approfondis et de critères de référence transparents. Et pour garantir la compatibilité au sein de l'écosystème, le watermarking d'Imatag s'aligne sur des cadres de provenance émergents tels que le C2PA.

​​Élaboration d'une norme industrielle plus stricte

Les progrès réalisés par les principaux acteurs, notamment des initiatives telles que SynthID, montrent à quelle vitesse le domaine progresse et à quel point les leaders du secteur prennent au sérieux le défi de la provenance et de la sécurité. Pourtant, le défi d'une détection robuste est partagé par tous. Le watermarking ne tiendra ses promesses que s’il répond à des standards forts et vérifiables, capables de résister aux transformations courantes comme aux manipulations adverses.

À l’avenir, la collaboration sera déterminante. Des standards plus solides et partagés bénéficient à tous : plateformes, créateurs, chercheurs, régulateurs et public. Le watermarking invisible est appelé à devenir une couche fondamentale de confiance, à condition de s’appuyer sur des exigences ambitieuses, mesurables et rigoureusement testées.

‍