Europäischer KI-Act: Kennzeichnungspflicht für KI-generierte Inhalte

Authentizität und KI-Detektion

April 9, 2024

Europäischer KI-Act: Kennzeichnungspflicht für KI-generierte Inhalte

SCHNELLES LESEN

<div class="hs-cta-embed hs-cta-simple-placeholder hs-cta-embed-148431706223"
 style="max-width:100%; max-height:100%; width:170px;height:570.703125px" data-hubspot-wrapper-cta-id="148431706223">
 <a href="https://cta-service-cms2.hubspot.com/web-interactives/public/v1/track/redirect?encryptedPayload=AVxigLJrUZ4Wxh0Qdo01FJ4Q3Oz5oJ8RUjWzxCE%2BkELt17Qi2%2BAAgPkuS8Pt33eRL3Zai2iDrxc%2FuuXDvNXR%2BItXjwgeAhIXwgNyEvtavhEWQ1W%2B3kCeRwLJYI0D0JQDHo%2F0khIj%2FAZrBa0oo%2F%2BIZ6ECmgP4hWoacTzMsQhF5Lrsykdo2Mj93DVdYAiPwA2cdnSRc5KmPlLxe7GX8sRN3ji8mITa6cPIJhWFgcXNP4z9K5TzbvTAVkNT04SmM8LpLg%3D%3D&webInteractiveContentId=148431706223&portalId=4144962" target="_blank" rel="noopener" crossorigin="anonymous">
   <img alt="History of Digital Watermarking &nbsp; Download our infographic &quot;the Invisible Digital Watermarking Saga: A Journey Through Time&quot;" loading="lazy" src="https://no-cache.hubspot.com/cta/default/4144962/interactive-148431706223.png" style="height: 100%; width: 100%; object-fit: fill"
     onerror="this.style.display='none'" />
 </a>
</div>

Teile diesen Artikel

__wf_reserviert_dekorativ__wf_reserviert_dekorativ__wf_reserviert_dekorativ

Abonniere den Blog!

Ich abonniere

Entdecken Sie die neue Anforderung des europäischen KI-Gesetzes zur transparenten Kennzeichnung von KI-generierten Inhalten. Erfahren Sie, wie die digitale Wasserzeichen-Technologie eine Schlüsselrolle bei der Unterscheidung von synthetischen Medien spielt, und erkunden Sie die Auswirkungen für KI-Anbieter und den Kampf gegen Deepfakes.

Das Europäische Gesetz über künstliche Intelligenz ("KI-Gesetz") wurde vom Europäischen Parlament am 13. März verabschiedet und wird im Mai 2024, 20 Tage nach seiner Veröffentlichung im Amtsblatt der EU, in Kraft treten. Verbote für KI-Systeme, die als "unannehmbare Risiken" eingestuft werden, werden sechs Monate später (November 2024) in Kraft treten, Governance-Regeln und Verpflichtungen für KI-Modelle für allgemeine Zwecke werden nach 12 Monaten (Mai 2025) gelten, und die vollständige Umsetzung wird nach 24 Monaten (Mai 2026) erwartet.

Dieses Gesetz gilt weltweit für alle Systeme der künstlichen Intelligenz, mit Ausnahme derjenigen, die für die wissenschaftliche Forschung und im militärischen Bereich verwendet werden, solange sie auf dem Gebiet der Europäischen Union verfügbar sind.

Allgemeiner Ansatz des AI ACT

Das Gesetz reguliert KI-Systeme durch einen risikobasierten Ansatz, der vier Risikostufen für KI-Systeme definiert, die jeweils mit spezifischen Verboten und Pflichten verbunden sind:

Die vier im AI-Gesetz definierten Risikostufen

Generative KI-Systeme werden als Systeme mit begrenztem Risiko betrachtet.

Unter den verschiedenen KI-Systemen werden generative Systeme der künstlichen Intelligenz in Artikel 50 Absatz 2 wie folgt definiert: "KI-Systeme, einschließlich allgemeiner KI-Systeme, die synthetische Inhalte wie Audio, Bilder, Videos oder Text erzeugen". Beispiele für solche Systeme sind Adobes Project Music GenAI Control für die Audioerzeugung, Midjourney für die Bilderzeugung, Sora von OpenAI für die Videoproduktion und Anthropic's Claude Textgenerator. Diese Systeme werden im Rahmen des AI ACT als Systeme künstlicher Intelligenz mit begrenztem Risiko eingestuft und unterliegen Transparenzanforderungen, wie der Verpflichtung, die Nutzer darüber zu informieren, dass die Inhalte von KI erzeugt wurden.

Die leistungsstärksten und multimodalen generativen KI-Modelle (die in der Lage sind, jede Art von Inhalt zu generieren), wie ChatGPT von OpenAI oder Gemini von Google, werden als universelle KI-Systeme betrachtet, die zu systemischen Risiken führen könnten. Sie unterliegen zusätzlich zu den Transparenzverpflichtungen detaillierten Bewertungen und Gegentests, um signifikante Vorfälle zu verhindern, die nachteilige Folgen haben könnten, wie etwa die Produktion illegaler Inhalte.

Verpflichtung zur Transparenz: Kennzeichnungspflicht für KI-generierte Inhalte

Alle Anbieter von generativen KI-Systemen, unabhängig von ihrem Standort, ihrer Größe, ihrer Leistung oder ihrer Art, ob offen (frei und quelloffen) oder proprietär, müssen grundlegende Transparenzverpflichtungen einhalten. Diese ermöglichen es der Öffentlichkeit, zu erkennen, ob die Inhalte künstlich erzeugt wurden, und sie von authentischen, von Menschen erstellten Inhalten zu unterscheiden.

Die größte Herausforderung besteht darin, dass diese Systeme verwendet werden können, um ultra-realistische Deepfakes oder Fake News zu erstellen, die zu groß angelegten Desinformationskampagnen, Betrug, Identitätsdiebstahl oder Täuschung beitragen können. Um diesem Phänomen entgegenzuwirken, schreibt das KI-Gesetz (Art. 50 2) vor, dass "Anbieter von KI-Systemen, einschließlich GPAI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherstellen müssen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können. Die Anbieter stellen sicher, dass ihre technischen Lösungen wirksam, interoperabel, robust und zuverlässig sind, soweit dies technisch machbar ist, wobei die Besonderheiten und Beschränkungen verschiedener Arten von Inhalten, die Kosten der Implementierung und der allgemein anerkannte Stand der Technik, wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann, berücksichtigt werden."

Ein verbindliches, wirksames, robustes und zuverlässiges digitales Wasserzeichen

Die Transparenzverpflichtung geht weit über einen einfachen Hinweis auf "KI-generierte Inhalte" hinaus, der leicht entfernt werden kann, und zielt auf robuste und maschinenlesbare technologische Methoden ab, um der Öffentlichkeit sicher zu zeigen, dass es sich um generierte Inhalte handelt.

In Erwägungsgrund 133 des KI-Gesetzes heißt es: "Diese Techniken und Methoden sollten hinreichend zuverlässig, interoperabel, wirksam und robust sein, soweit dies technisch machbar ist, wobei verfügbare Techniken oder eine Kombination solcher Techniken zu berücksichtigen sind, z. B. Wasserzeichen, Metadatenkennzeichnungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität von Inhalten, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken, soweit dies angemessen ist."

Das durch das KI-Gesetz geschaffene KI-Büro, das derzeit eingerichtet wird, wird den Stand der Technik in diesem Bereich überprüfen und die Standards festlegen, die alle Anbieter generativer KI strikt einhalten müssen. Eine gültige Kombination, die derzeit den höchsten Standard darstellt, könnte die Übernahme des C2PA-Standards sein, bei dem verschiedene Arten von Metadaten, die für den Inhalt einzigartig sind (Autor, Datum, verwendetes generatives System usw.), mit einem kryptografischen Schlüssel vor Änderungen geschützt und mit einem robusten digitalen Wasserzeichen wie dem von IMATAG versehen werden, um die Löschung dieser Metadaten zu verhindern. Der Inhalt ist dann vor jeder Änderung oder Löschung seiner Metadaten geschützt und bleibt während seiner gesamten Lebensdauer in der Informationssphäre perfekt erfasst und integriert.

Content Credentials
C2PA standard
Kennzeichnung von ai-generierten Dateien mit einem unsichtbaren Wasserzeichen

Déverrouiller l'Avenir de l'Authentification de Contenu : La Percée d'IMATAG dans le Marquage des Images Générées par IA
Generierte Inhalte können auch während des Generierungsprozesses mit einem Wasserzeichen versehen werden (siehe unseren Artikel)

Sanktionen bei Nichteinhaltung der Kennzeichnungspflicht

Die Nichteinhaltung dieser Kennzeichnungspflicht führt automatisch zu einer Geldstrafe von bis zu 15 Mio. EUR oder bis zu 3 % des im vorangegangenen Geschäftsjahr weltweit erzielten Gesamtjahresumsatzes, je nachdem, welcher Betrag höher ist.

Zeit: Der entscheidende Faktor gegen Deepfakes

KI-Systeme für allgemeine Zwecke, die Funktionen zur Generierung synthetischer Inhalte enthalten, müssen die Anforderungen bis Mai 2025 erfüllen, alle anderen Systeme bis Mai 2026. Diese Frist wird als sehr spät angesehen, zumal sich die technologischen Entwicklungen und die breite Einführung generativer und allgemeiner KI-Systeme sowie der Ultra-Realismus der generierten Inhalte in den letzten Monaten erheblich beschleunigt haben.

Diese Besorgnis über den späten Zeitpunkt der Einführung der generativen KI-Kennzeichnungspflicht wurde kürzlich von Anna Ascani, der Vizepräsidentin der italienischen Abgeordnetenkammer, geteilt, die die Verabschiedung eines nationalen Gesetzes zur Beschleunigung der Einführung in Erwägung zieht. Diese Reaktion erfolgte insbesondere als Reaktion auf ein Deepfake des Sprechers des ukrainischen Präsidenten Wolodymyr Zelensky, der die Verantwortung für einen Terroranschlag in Moskau übernahm, das sich über alle Online-Plattformen verbreitete und einmal mehr die Auswirkungen von Desinformation durch künstlich erzeugte Inhalte deutlich machte.

Der Erlass des US-Präsidenten vom 30. Oktober 2023 für sichere und vertrauenswürdige künstliche Intelligenz sieht die flächendeckende Einführung digitaler Wasserzeichen für generierte Inhalte ab Anfang 2025 vor, also viel früher, als es das europäische KI-Gesetz vorschreibt.

Auf der Münchner Sicherheitskonferenz am 16. Februar 2024 haben sich zahlreiche Akteure im Bereich der generativen KI (z. B. Anthropic, Google, Meta, Microsoft, OpenAI und Stability AI) im Rahmen des "Tech Accord to Combat Deceptive Use of AI in 2024 Elections" verpflichtet, Technologien einzusetzen, um schädlichen, von KI generierten Inhalten entgegenzuwirken, die darauf abzielen, die Wähler zu täuschen, und um von KI generierte Inhalte zu erkennen, insbesondere mithilfe digitaler Wasserzeichen.

Um den Übergang zum neuen Rechtsrahmen zu erleichtern, hat die Europäische Kommission in dieser Notsituation den KI-Pakt ins Leben gerufen, eine freiwillige Initiative, die die künftige Umsetzung unterstützen soll und KI-Entwickler aus Europa und anderen Ländern dazu auffordert, den Verpflichtungen des KI-Gesetzes im Voraus nachzukommen und mit der Umsetzung der Anforderungen vor Ablauf der gesetzlichen Frist zu beginnen, einschließlich der Verpflichtung zur Kennzeichnung von Inhalten mit Wasserzeichen.

Jenseits des Gesetzes: Ethik

Abgesehen von den rechtlichen Verpflichtungen möchte kein Anbieter generativer KI, dass sein Name mit einer Desinformationskampagne, Betrug oder Manipulation der öffentlichen Meinung in Verbindung gebracht wird, und zwar aus Gründen des Images, des Rufs und letztlich der wirtschaftlichen Lebensfähigkeit.

Die Kennzeichnung generierter Inhalte spielt eine entscheidende Rolle bei der Bekämpfung von Deepfakes und Fehlinformationen, bei der Verringerung der Informationsflut für Internetnutzer durch die eindeutige Unterscheidung zwischen authentischen und generierten Inhalten und bei der Unterstützung von Medienkompetenzbemühungen. Es ist eine Frage der Rechenschaftspflicht und der Ethik, wie kürzlich durch die nicht bindende Resolution der UN-Generalversammlung vom 21. März 2024 hervorgehoben wurde, die von den Vereinigten Staaten unterstützt und von 123 Ländern, darunter China, mitgetragen wurde und die die Kennzeichnung generierter Inhalte definitiv in den Bereich der Ethik bringt, bevor sie in den Bereich der reinen Rechtskonformität gelangt.

Generative KI-Anbieter aus allen Ländern, warten Sie nicht länger und markieren Sie Ihre generierten Inhalte mit IMATAGs Technologie, einer der robustesten und sichersten der Welt!

Foto: C2PA-konformes, KI-generiertes Bild.

Erfahren Sie mehr über die IMATAG-Lösung zum Einfügen unsichtbarer Wasserzeichen in Ihre visuellen Inhalte.

Willst du ein unsichtbares Wasserzeichen „sehen“?

Erfahren Sie mehr über die IMATAG-Lösung zum Einfügen unsichtbarer Wasserzeichen in Ihre visuellen Inhalte.

Eine Demo buchen

Diese Artikel könnten Sie auch interessieren

Kaliforniens bahnbrechende Gesetzgebung: Der „California Provenance, Authenticity and Watermarking Standards Act“

Authentizität und KI-Detektion

June 14, 2024

Kaliforniens bahnbrechende Gesetzgebung: Der „California Provenance, Authenticity and Watermarking Standards Act“

Mehr sehen
Die Zukunft der Inhaltsauthentifizierung eröffnen: Der Durchbruch von IMATAG im Bereich KI-generierter Bildwasserzeichen

Authentizität und KI-Detektion

January 29, 2024

Die Zukunft der Inhaltsauthentifizierung eröffnen: Der Durchbruch von IMATAG im Bereich KI-generierter Bildwasserzeichen

Mehr sehen
Kommende EU- und US-Wahlen 2024 im Rahmen des Deep Fakes-Imperiums

Authentizität und KI-Detektion

October 16, 2023

Kommende EU- und US-Wahlen 2024 im Rahmen des Deep Fakes-Imperiums

Mehr sehen

Abonniere den Blog!

Mit dem Absenden dieses Formulars erkläre ich mich damit einverstanden Imatag-Datenschutzrichtlinie.

__wf_reserviert_dekorativ