Die Zukunft der Inhaltsauthentifizierung eröffnen: Der Durchbruch von IMATAG im Bereich KI-generierter Bildwasserzeichen

Digitales Wasserzeichen: So funktioniert es

Um die Innovation von IMATAG zu verstehen, ist es wichtig zu verstehen, wie digitale Wasserzeichen funktionieren. Der Prozess besteht aus zwei wichtigen Schritten: Wasserzeichen und Identifizierung.

Beim Wasserzeichen wird ein unsichtbares digitales Wasserzeichen in das Bild eingebettet. Bei der Identifizierung wird das Bild oder Video gescannt, um festzustellen, ob das Wasserzeichen vorhanden ist.

‍

‍

Traditionell erfolgte das Wasserzeichen nach der Erstellung von Inhalten. Bei generativer KI ist es jedoch besser, während des Generierungsprozesses ein Wasserzeichen einzuführen, wie später in diesem Artikel erläutert wird.

‍

IMATAGs Wasserzeichen für KI-generierte Bilder

IMATAGs „Watermarked SDXL-Turbo Demo“ auf Hugging Face

Am 28. November 2023, Stable Diffusion veröffentlicht SDXL Turbo, ein fortschrittliches KI-Bildgenerierungsmodell. Nur zwei Tage später stellten IMATAG-Experten auf Hugging Face eine unsichtbare Wasserzeichen-Lösung zur Verfügung, mit der Bilder identifiziert werden konnten, die von dieser KI generiert wurden.

In dieser Demo können Benutzer ein Bild generieren, indem sie eine Eingabeaufforderung eingeben, die das gewünschte Bild beschreibt. Während der Bildgenerierung wird ein nicht wahrnehmbares Wasserzeichen eingefügt, wodurch bestätigt wird, dass das Bild synthetisch ist. Die Demo ermöglicht auch die Erkennung von Wasserzeichen (in Form einer Wahrscheinlichkeit), nachdem das generierte Bild verschiedenen Angriffen wie Komprimierung oder Neueinfärbung ausgesetzt wurde.

Diese Technik basiert auf der Verfeinerung eines von Wissenschaftlern von INRIA und Meta entwickelten Verfahrens, bekannt als Stabile Signatur (siehe Referenzen). Dabei werden die Gewichte des generativen KI-Modells (in diesem Fall SDXL Turbo) so geändert, dass es auf natürliche Weise Bilder mit Wasserzeichen generiert. Dieser Ansatz ist im Gegensatz zu den Techniken „Generieren-dann-Wasserzeichen“ ideal für generative Open-Source-KI. Um die Robustheit zu erhöhen, kombinierte IMATAG diese Methode mit seinem hauseigenen Null-Bit-Decoder (der das Vorhandensein oder Fehlen eines Wasserzeichens anzeigt, ohne Nutzlast), der in der Lage ist, selbst stark veränderte Wasserzeichen zu dekodieren.

‍

Probiere es aus

Um das Potenzial dieser Technik auszuloten, du kannst es auf Hugging Face testen, Anpassung von Parametern zur Steuerung der Sichtbarkeit und Robustheit von Wasserzeichen.

Auswirkung auf die Sichtbarkeit: Der Trainingsprozess gleicht die Robustheit von Wasserzeichen und Bildqualität aus. Das Ziel der Wahrnehmbarkeit entspricht dem ursprünglichen Ziel der stabilen Diffusion, das auf realen Bildern trainiert wurde.

Robustheit: In der Demo können Sie die Wasserzeichenstärke im generierten Modell anpassen und dabei verschiedene Kompromisse zwischen Wahrnehmbarkeit und Robustheit testen.

Einschränkungen der Demo-Version

Es ist wichtig zu beachten, dass der in dieser Demo verwendete Detektor eine „degradierte“ Version unseres hauseigenen Detektors ist. Er wurde so trainiert, dass er dem Zuschneiden, der JPEG-Komprimierung und der Bildschirmaufnahme durch Smartphones standhält. Herausforderungen wie das Umdrehen von Bildern, extreme Perspektiven, Drehungen und das Hinzufügen von Text waren nicht Teil des Trainings. Diese Übung konzentriert sich auf ein einzelnes Wasserzeichen (keine Suche nach Verrätern), ohne eine versteckte Botschaft. Der Detektor identifiziert nur dieses spezielle Wasserzeichen und kein anderes.

Für zusätzliche Funktionen wie Sicherheitsschlüssel, mehrere Wasserzeichen, versteckte Nachrichten oder erhöhte Robustheit, bitte zögern Sie nicht, uns zu kontaktieren.

‍

Was macht diese Demo bemerkenswert?

Die Lösung von IMATAG zeichnet sich als erste unabhängige Wasserzeichen-Technologie für KI-Modelle aus. Während einige KI-Entwickler, wie DeepMind mit SynthID, bereits Wasserzeichen-Algorithmen anwenden, beschränken sie diese Algorithmen in der Regel auf ihre eigenen Modelle.

Das Hauptziel dieser Demo ist der wissenschaftliche Fortschritt. Im Fall von Stable Diffusion kann das Modell ohne Wasserzeichen einfach neu geladen werden, um Bilder ohne Wasserzeichen zu erzeugen, da die ursprünglichen Gewichte öffentlich verfügbar sind. IMATAG zielt darauf ab, Modellhersteller wie StabilityAI zu ermutigen, ihre Modelle mit Wasserzeichen zu versehen vor jede Veröffentlichung von öffentlichem Gewicht.

Diese Initiative unterstreicht die Botschaft von Imatag an die Open-Source-KI-Community: Suchen Sie nach Experten für digitale Wasserzeichen, um den Schutz und die Einhaltung von GenAI-Wasserzeichen zu gewährleisten. Die schnelle und effektive Implementierung einer maßgeschneiderten Lösung, wie in der Demo gezeigt, die nur zwei Tage nach der Markteinführung des Modells veröffentlicht wurde, zeigt, ist machbar, wobei der typische Qualitätsverlust vermieden wird, der mit Wasserzeichen nach der Generierung von Wasserzeichen einhergeht.

‍

Fazit und Zukunftsausblick

In einer Zeit zunehmend überzeugender KI-generierter Bilder ist die Bedeutung der Authentifizierung von größter Bedeutung, insbesondere im Zusammenhang mit Deepfakes und hochrealistischen KI-Kreationen. Europäische und US-Behörden bestehen Sie jetzt darauf, den Nutzern Tools zur Verfügung zu stellen, mit denen sie echte Inhalte von synthetischen Kreationen unterscheiden können.

Während aktuelle Branchenankündigungen, wie SynthID von DeepMind, bieten Sicherheit, sie bleiben oft in der Beta-Phase, wenn es um Wasserzeichen geht, was nur begrenzte unmittelbare Auswirkungen hat. In Zukunft geht es darum, die Tools zu verfeinern, Vorschriften anzupassen, das Bewusstsein zu schärfen und die Zusammenarbeit zwischen Technologieführern, Aufsichtsbehörden und Nutzern zu fördern. In dieser von KI dominierten Ära sind Vertrauen, Sicherheit und Authentizität nach wie vor zentrale Anliegen, und Reise mit digitalen Wasserzeichen, initiiert in den 1950er Jahren, entwickelt sich ständig weiter.

‍

-----

Über StableSignature: Der Ansatz von Stable Signature besteht darin, das generative KI-Modell so zu trainieren, dass es nativ mit Wasserzeichen versehene Bilder generiert. Das Blog Beitrag spiegelt die Arbeit von Matthijs Douze und Pierre Fernandez, mit den Beiträgen von Guillaume Couairon, Teddy Furon, und Herve Jégou zu dieser Forschung. Andere Ressourcen sind auf ihrer verfügbar GitHub-Repositorium.

Weitere technische Details von IMATAG-Lab über den Algorithmus hier.