China reguliert KI-generierte Inhalte: Auf dem Weg zu einem neuen globalen Transparenzstandard?

‍Ein Ziel: Wiedererlangung der Kontrolle über Informationsflüsse

Der Ansatz ist klar: Wiedererlangen der Kontrolle über eine instabil gewordene Informationsumgebung, indem KI-Generatoren, Plattformen und chinesische Bürger zur Rechenschaft gezogen werden. China legt daher einen Standard zur Identifizierung synthetischer Inhaltsstoffe fest, der durchaus als Vorbild für andere internationale Vorschriften dienen könnte, angefangen bei Europäisches KI-Gesetz, das erst im August 2026 in Kraft treten wird und dessen KI-Büro (europäische KI-Regulierungsbehörde) bis Ende des Jahres Standards für die Transparenz von KI-generierten Inhalten entwickeln muss.

7 wichtige Maßnahmen, an die Sie sich erinnern sollten

Hier sind die wichtigsten Bestimmungen dieser neuen chinesischen Verordnung:

1. Alle Arten von Inhalten sind betroffen: Text, Bild, Audio, Video, virtuelle Szenen...

2. Obligatorische Doppelkennzeichnung direkt für KI-Generatoren:

• Eine ausdrückliche Erwähnung, die für den Benutzer sichtbar ist (Warnfeld, Sprachnachricht usw.)
• Eine implizite, unsichtbare Erwähnung in Form von Metadaten und digitalen Wasserzeichen.

3. Vertriebsplattformen müssen implizite Erwähnungen von KI-Generatoren lesen und sie in explizite Erwähnungen für Endbenutzer übersetzen.

4. In Ermangelung einer expliziten und impliziten Kennzeichnung wird eine ausdrückliche Erwähnung vorgeschrieben, wenn der Inhalt vom Nutzer als synthetisch deklariert wird; in diesem Fall muss der chinesische Staatsbürger angeben, ob er beispielsweise einen KI-Generator verwendet hat, der sich außerhalb Chinas befindet.

5. Erfolgt keine Deklaration oder Kennzeichnung, müssen die Plattformen selbst Erzeugungsindikatoren erkennen und den Inhalt als „vermutlich synthetisch“ kennzeichnen.

6. Das Entfernen oder Verfälschen von Erwähnungen, sowohl explizit als auch implizit, ist strengstens untersagt.

7. Tools, die das Entfernen von Markierungen, Metadaten und digitalen Wasserzeichen ermöglichen, sind ebenfalls verboten.

Eine technologische Wette: Digitales Wasserzeichen und forensische Erkennung

Um dieses Identifikationssystem zu implementieren, setzt China auf zwei Schlüsseltechnologien:

• Digitales Wasserzeichen, diskret und integriert an der Quelle des Inhalts. China schließt sich damit dem weltweiten wissenschaftlichen Konsens über die Verwendung von Wasserzeichen an, der am besten geeigneten Technologie zur Identifizierung von KI-generierten Inhalten
  
• Forensische Erkennung, die in der Lage ist, subtile Indikatoren für die KI-Generierung zu erkennen.
  

Diese Ansätze stellen echte technische Herausforderungen dar: Die Sicherstellung der Robustheit, Fälschungsresistenz und Skalierbarkeit dieser Tools ist eine große wissenschaftliche Herausforderung.

‍

‍

Innovation und Kontrolle: Eine ethische rote Linie

Diese Verordnung zeigt auch eine angenommene politische Vision: Kontrolle hat Vorrang vor Innovation. Durch die Einführung strenger Verpflichtungen bei der Erstellung von Inhalten und in der gesamten Vertriebskette von Inhalten zwingt China die Technologieakteure dazu, die Einhaltung der Vorschriften in ihre Geschäftsmodelle zu integrieren. Somit wird eine rote Linie gezogen: Innovation ist erwünscht, aber niemals auf Kosten von Vertrauen und Ethik.

Auf dem Weg zu einem internationalen Standard?

Während die Welt immer noch nach einem Gleichgewicht zwischen Innovation, Meinungsfreiheit und digitaler Sicherheit sucht, geht China einen Schritt weiter. Sicherlich wirft diese Verordnung Fragen auf (Kosten, Freiheit, Umsetzung), aber sie zeigt den festen Willen, einen Standard in einem Bereich zu definieren, der noch weitgehend ungeregelt ist.

Es bleibt abzuwarten, ob andere Länder diesem Beispiel folgen werden und vor allem wie. Diese ehrgeizige Regelung hätte jedoch durch verpflichtende digitale Wasserzeichen für vertrauenswürdige Websites und Medien ergänzt werden können, um den chinesischen Bürgern noch mehr Sicherheit zu bieten, wie es die staatlichen Regulierungsprojekte in den USA tatsächlich vorsehen.

‍