Kaliforniens bahnbrechende Gesetzgebung: Der „California Provenance, Authenticity and Watermarking Standards Act“

Im Februar 2024 führte Kalifornien ein zentrales Gesetz ein, das als“Gesetz über Provenienz-, Echtheits- und Wasserzeichenstandards in Kalifornien.“ Dieser Gesetzentwurf, der derzeit vom Senat des Bundesstaates Kalifornien geprüft wird, sieht einen umfassenden Rahmen vor, der sowohl synthetische als auch echte Inhalte authentifizieren soll. Im Folgenden wird detailliert beschrieben, was diese Gesetzgebung beinhaltet und welche möglichen Auswirkungen sie hat.

Angesichts der weit verbreiteten Verbreitung von Technologien der generativen künstlichen Intelligenz (Gen-KI), die zunehmend in der Lage sind, unauthentische Bild-, Audio-, Video- und Textinhalte zu generieren, die üblicherweise als „Deepfakes“ bezeichnet werden, wird es immer wichtiger, dass die Herkunft dieser Inhalte eindeutig offengelegt und gekennzeichnet wird, sodass sowohl Schäden verhindert als auch die Schwere von Schäden verringert und es für böswillige Akteure schwieriger und kostspieliger wird, diese Schäden zu verursachen.

Von der Politik bis zur öffentlichen Sicherheit kann Desinformation eine Vielzahl negativer Auswirkungen auf die Gesellschaft haben. Sie kann die Wahlergebnisse verfälschen, wie es bei einem überzeugenden Audio-Deepfake in der Slowakei der Fall gewesen sein könnte. Im Vorfeld der Wahlen in den Vereinigten Staaten 2024 sahen wir bereits Werbeanzeigen, die von Kandidaten und Parteien produziert wurden, in denen Deepfake-Audio- und Videoinhalte verwendet wurden. Ein Deepfake einer Explosion im Pentagon verursachte einen kurzen, aber deutlichen Kursrückgang an den Aktienmärkten.

Aus den oben beschriebenen Gründen zielt das Gesetz darauf ab, der Öffentlichkeit Werkzeuge an die Hand zu geben, mit denen sie nachvollziehen kann, wie die Inhalte, die sie in den digitalen Medien sehen, produziert wurden und ob sie tatsächlich authentisch, KI-generiert oder authentisch sind, wenn sie durch KI geringfügig geändert wurden.

Die wichtigsten Bestimmungen des Gesetzes

1. Implementierung von Wasserzeichen durch KI-Anbieter

Ab dem 1. Februar 2025 müssen Anbieter von KI-generierten Inhalten (iaGEN) unmerkliche und unauslöschliche Wasserzeichen in synthetische Inhalte einbetten. Diese Wasserzeichen werden Angaben zur Herkunft enthalten, sodass die Rückverfolgbarkeit erheblich veränderter oder erstellter Inhalte gewährleistet ist.

2. Kennzeichnungsanforderungen für Online-Plattformen

Ab dem 1. März 2025 müssen große Online-Plattformen Herkunftsdaten, die in Wasserzeichen oder digitalen Signaturen in den an die Nutzer verteilten Inhalten enthalten sind, sichtbar offenlegen. Dies soll die Transparenz erhöhen und es den Nutzern ermöglichen, die Herkunft der von ihnen konsumierten Inhalte zu identifizieren.

3. Funktionen zum Markieren von Wasserzeichen für Aufnahmegeräte

Bis zum 1. Januar 2026 müssen alle neu hergestellten Digitalkameras und Aufnahmegeräte, die in Kalifornien verkauft oder vertrieben werden, einschließlich Smartphones, den Nutzern die Möglichkeit bieten, Wasserzeichen, die Echtheit und Herkunft angeben, in die von ihnen produzierten Inhalte einzubetten. Für Geräte, die vor 2026 gekauft wurden, sieht die Gesetzesvorlage ein Firmware-Update vor, um Funktionen für Wasserzeichen hinzuzufügen.

In einer früheren Version des Gesetzes (zu diesem Zeitpunkt gelöscht) hat es verpflichtete alle Medienproduzenten, möglichst unauslöschliche und die Privatsphäre schützende Daten zur Herkunft der Inhalte in die von ihnen generierten Inhalte einzubetten, unabhängig davon, ob sie von künstlicher Intelligenz generiert oder authentisch sind. Sollte diese Bestimmung wieder aufgenommen werden, sollte das Gesetz ein Muss sein und einen 360°-Ansatz verfolgen.

Die Definition und Bedeutung von Wasserzeichen

Dem Gesetzentwurf zufolge ist ein Wasserzeichen definiert als „ein Wasserzeichen, das so gestaltet ist, dass es mithilfe fortschrittlicher Techniken und relevanter Industriestandards so schwer wie möglich zu entfernen ist“. Diese strenge Definition stellt sicher, dass Wasserzeichen ein robustes Mittel gegen die Manipulation von Inhalten bleiben, und entspricht den Lösungen von Unternehmen wie IMATAG.

Jährliche Berichte zur Risikobewertung

Das Gesetz schreibt vor, dass Anbieter von KI-Inhalten und große Online-Plattformen jährliche Berichte zur Risikobewertung und Risikominderung in Bezug auf synthetische Inhalte einreichen müssen. Diese von unabhängigen Stellen geprüften Berichte spiegeln den Geist des Gesetzes über digitale Dienste der Europäischen Union wider, das darauf abzielt, strenge Standards für die Integrität und Sicherheit von Inhalten aufrechtzuerhalten.

Strafen bei Nichteinhaltung

Die Nichteinhaltung des Gesetzes kann zu hohen Bußgeldern von bis zu 1.000.000 USD oder 5% des weltweiten Umsatzes des Unternehmens führen, je nachdem, welcher Wert höher ist. Diese erhebliche Strafe unterstreicht die Ernsthaftigkeit der Gesetzgebung und ihr Engagement für die Aufrechterhaltung hoher Standards in Bezug auf die Authentizität von Inhalten.

Breitere Implikationen und globale Reichweite

Diese Gesetzgebung ist besonders bemerkenswert, da sie nicht nur auf KI-generierte Inhalte abzielt, sondern auch auf echte Inhalte, die von Personen erstellt wurden, die Aufzeichnungsgeräte verwenden. Dieser umfassende Ansatz steht im Gegensatz zum europäischen KI-Gesetz, das sich ausschließlich auf KI-generierte Inhalte konzentriert. Angesichts der Tatsache, dass viele Anbieter von KI-Inhalten, große Plattformen und Hersteller von Aufnahmegeräten in Kalifornien ansässig sind, wird erwartet, dass die Auswirkungen dieses Gesetzes weit über die Grenzen des Bundesstaates hinausgehen und möglicherweise globale Praktiken beeinflussen werden.

Eine globale Perspektive

Die Notwendigkeit, KI-generierte, aber auch echte Inhalte mit einem Wasserzeichen zu versehen, ist im heutigen digitalen Zeitalter von entscheidender Bedeutung. Dieser Ansatz findet seinen Widerhall in jüngster Zeit Resolution A/78/L.49 und die Empfehlungen von Reporter ohne Grenzen (RSF), was den weltweiten Wandel hin zu mehr Authentizität und Transparenz von Inhalten hervorhebt.

Fazit

Das Gesetz wurde am 22. Mai 2024 von der kalifornischen Versammlung mit 62 Ja-Stimmen, 0 Nein-Stimmen und 18 Enthaltungen verabschiedet. Es muss noch vom Senat und vom Gouverneur verabschiedet werden und hat gute Chancen, verabschiedet zu werden.

Der „California Provenance, Authenticity and Watermarking Standards Act“ ist ein bedeutender Fortschritt bei der Regulierung digitaler Inhalte. Durch die Einführung strenger Anforderungen an Wasserzeichen und Transparenzmaßnahmen will Kalifornien einen neuen Standard für die Inhaltsauthentifizierung setzen, der weltweit weitreichende Auswirkungen haben könnte. Während dieser Gesetzentwurf das Gesetzgebungsverfahren durchläuft, wird es von entscheidender Bedeutung sein, seine Entwicklung und die weiteren Auswirkungen auf die digitale Inhaltslandschaft zu beobachten.

‍