Erkennung von KI-generierten Bildern: Warum robuste Wasserzeichenstandards wichtig sind

Fortschritte bei unsichtbaren Wasserzeichen

Unsichtbare Wasserzeichen betten Sie eine versteckte digitale Signatur direkt in ein Bild ein. Obwohl sie für das Auge nicht wahrnehmbar sind, können sie von automatisierten Tools erkannt werden, was darauf hinweist, dass der Inhalt von einem KI-System erstellt wurde.

Die Investitionen der Industrie in diesen Bereich nehmen zu. Bemühungen wie SynthID von Google zeigen eine deutliche Dynamik und Bereitschaft, höhere Standards für Sicherheit, Transparenz und regulatorische Angleichung festzulegen, insbesondere in Bezug auf Rahmenbedingungen wie die EU-Gesetz über künstliche Intelligenz und Kalifornisches KI-Transparenzgesetz eine klarere Offenlegung von KI-generierten Medien erfordern.

Infolgedessen etabliert sich das Wasserzeichen als Grundlage für die Echtheitsprüfung, das Vertrauen und die Herkunft der Medien sowie die Einhaltung künftiger Transparenzverpflichtungen.

Die Herausforderung: Erkennung von KI-generierten Inhalten

Trotz Fortschritten Erkennung bleibt ein hochtechnisches Problem. Unsichtbare Wasserzeichen müssen alle Transformationen überstehen, die Bilder in der realen Welt erfahren, ob beabsichtigt oder nicht. Selbst einfache Aktionen wie Zuschneiden, Ändern der Größe, Anpassen der Helligkeit oder Ändern des Hintergrunds können die Pixelverteilungen so stark verändern, dass ein Wasserzeichen schwächer wird.

Vor allem große Nutzpflanzen stellen eine Herausforderung dar. Wenn mehr als 50% eines Bildes entfernt werden, verlieren viele Wasserzeichenmethoden einen erheblichen Teil ihres Signals. Inhaltssensitive Änderungen (das Entfernen eines Objekts, das Regenerieren eines Teils einer Szene oder das Vornehmen lokaler semantischer Anpassungen) können auch die Bereiche, in denen das Wasserzeichen eingebettet ist, verändern.

Aktuelle wissenschaftliche Arbeiten, darunter die UnMarker-Angriff von der University of Waterloo, hat gezeigt, dass subtile frequenzbasierte Transformationen Wasserzeichen bei vielen Methoden erheblich schwächen oder löschen können, ohne dass sichtbare Artefakte entstehen.

Und neben der Entfernung muss auch die umgekehrte Bedrohung in Betracht gezogen werden: Wenn einem echten Foto ein Wasserzeichen künstlich hinzugefügt werden kann, Das gesamte Verifizierungssystem wird unzuverlässig. Diese Herausforderungen sind nicht spezifisch für eine bestimmte Lösung, sie spiegeln die grundlegende Komplexität des Wasserzeichens selbst wider.

Warum Erkennungssicherheit wichtig ist

Personen mit böswilliger Absicht haben festgestellt, dass es leicht ist, die Offenlegungsregeln zu umgehen. Manche ignorieren sie einfach. Andere manipulieren die Videos, um die identifizierenden Wasserzeichen zu entfernen. Die New York Times fand Dutzende von Beispielen von Sora-Videos, die auf YouTube ohne automatisiertes Label erscheinen.

Mehrere Unternehmen bieten an, Logos und Wasserzeichen zu entfernen. Und das Bearbeiten oder Teilen von Videos kann dazu führen, dass die im Originalvideo eingebetteten Metadaten entfernt werden, die darauf hinweisen, dass es mit KI aufgenommen wurde.

Diese Erosion der Provenienzsignale kommt zu einer Zeit, in der sich die Erwartungen des Publikums in die entgegengesetzte Richtung bewegen. “Die Zuschauer wünschen sich zunehmend mehr Transparenz darüber, ob die Inhalte, die sie sehen, verändert oder synthetisch sind.„, sagte Jack Malon, ein YouTube-Sprecher.

In diesem Zusammenhang ist die Die Folgen einer unvollständigen Erkennung sind nicht theoretisch. Ein leicht beschnittenes oder gefiltertes Bild kann Millionen in die Irre führen, wenn das Wasserzeichen nicht mehr erkennbar ist. Ein Deepfake kann während eines Wahlzyklus zirkulieren, ohne als synthetisch erkannt zu werden. Authentische YouTuber können fälschlicherweise als Produzenten von KI-Inhalten gekennzeichnet werden, während tatsächlich durch KI generierte Bilder in sensiblen Kontexten wie Journalismus oder rechtlichen Ermittlungen nicht identifiziert werden können.

In diesen Szenarien „meistens zuverlässig“ reicht nicht. Wasserzeichen müssen unter den chaotischen, unvorhersehbaren Bedingungen der realen Bildzirkulation zuverlässig funktionieren.

Imatags Standard für ultrarobuste Wasserzeichen

Der Ansatz von Imatag konzentriert sich darauf, ein Zuverlässigkeitsniveau zu erreichen, das für die Überprüfung mit hohen Risiken geeignet ist.

Eine zentrale Anforderung ist eine extrem niedrige Falsch-Positiv-Rate. Unsere Erkennungsschwelle ist kalibriert auf ca. 1 in 1.000.000.000.000 für eine positive Identifizierung. Neuere interne Untersuchungen haben gezeigt, wie wichtig strenge Schwellenwerte sind, da einige Wasserzeichenmethoden unter bestimmten Bedingungen gelegentlich zu falsch positiven Ergebnissen führen können.

Ein weiteres Schlüsselprinzip ist die semantische Bindung: das Das Wasserzeichen sollte innerhalb der Kernbedeutung des Bildes erkennbar bleiben, auch wenn sich periphere oder stilistische Elemente ändern. Hinzu kommt der Widerstand gegen routinemäßige Änderungen wie Zuschneiden, Spiegeln oder Helligkeitsanpassungen — Vorgänge, die beim Teilen von Bildern ganz natürlich ablaufen können.

Um Vertrauen und Rechenschaftspflicht zu stärken, wird das System anhand umfangreicher Stresstests und transparenter Benchmarks evaluiert. Und um die Kompatibilität im gesamten Ökosystem zu gewährleisten, entspricht das Wasserzeichen von Imatag neue Provenienz-Frameworks wie C2PA.

​​Aufbau eines stärkeren Industriestandards

Die Fortschritte wichtiger Akteure, darunter Initiativen wie SynthID, zeigen, wie schnell sich das Feld weiterentwickelt und wie ernst Branchenführer die Herausforderung der Herkunft und Sicherheit nehmen. Doch die Herausforderung einer robusten Erkennung wird von allen geteilt. Wasserzeichen werden ihr Versprechen nur erfüllen, wenn sie auch eingehalten werden starke, überprüfbare Standards, die in der Lage sind, alltäglichen Veränderungen und gegnerischen Manipulationen standzuhalten.

In Zukunft wird Zusammenarbeit unerlässlich sein. Stärkere, gemeinsame Standards kommen allen zugute: Plattformen, Entwicklern, Forschern, Aufsichtsbehörden und der Öffentlichkeit. Unsichtbare Wasserzeichen werden zu einer grundlegenden Vertrauensebene werden, doch ihr langfristiger Erfolg hängt davon ab, ob Standards eingehalten werden, die nicht nur ehrgeizig, sondern auch überprüfbar und umfassend getestet sind.

‍