Kommende EU- und US-Wahlen 2024 im Rahmen des Deep Fakes-Imperiums

Was diesen Kampf schwierig macht, ist die Tatsache, dass Desinformation nicht grundsätzlich illegal ist. Es ist von entscheidender Bedeutung, ein empfindliches Gleichgewicht zwischen dem Schutz der Meinungsfreiheit und der Umsetzung wirksamer Maßnahmen zur Eindämmung der Verbreitung und der Auswirkungen von Desinformation zu finden. Dies erfordert einen vernünftigen Ansatz, der demokratische Werte wahrt und gleichzeitig die schädlichen Auswirkungen falscher Informationen abmildert.

Die EU-Institutionen sind sich der Desinformationsrisiken voll bewusst und versuchen, dem Phänomen mit einem ganzheitlichen Ansatz zu begegnen.

Die vier Angriffspunkte des Digital Services Act gegen Desinformation

Am 25. August 2023 wurde der Gesetz über digitale Dienste („DSA“) trat für sehr große Online-Plattformen (Facebook, Instagram, Pinterest, Snapchat, TikTok, X...) und sehr große Online-Suchmaschinen (Google-Suche, Bing) in Kraft.

Die DSA zielt darauf ab, Desinformation für Online-Plattformen aus vier Hauptgesichten zu bekämpfen:

1. schnellere Entfernung offensichtlich illegaler Fake News,
2. geringere Sichtbarkeit in den Empfehlungssystemen für gefälschte Nachrichten, die nicht als illegal gelten,
3. nach einer Analyse ihrer spezifischen Risiken Maßnahmen zur Schadensbegrenzung ergreifen, um der Verbreitung von Desinformation und der unauthentischen Nutzung ihres Dienstes entgegenzuwirken und
4. spezifische Protokolle zur Bekämpfung von Inhalten, die tatsächliche oder vorhersehbare negative Auswirkungen auf die öffentliche Sicherheit und die demokratischen Prozesse bzw. Wahlprozesse haben könnten, und verstärkte spezifische Maßnahmen im Krisenfall, wie z. B. bestehende oder neue bewaffnete Konflikte, Terrorakte oder Naturkatastrophen sowie Pandemien.

Die vom EU-Verhaltenskodex zur Bekämpfung von Desinformation geforderten Instrumente

Neben der DSA ist die EU-Verhaltenskodex zur Bekämpfung von Desinformation („der Kodex“) ist ein einzigartiges Instrument, mit dem sich die relevanten Akteure der Branche 2018 — zum ersten Mal — auf Selbstregulierungsstandards zur Bekämpfung von Desinformation geeinigt haben.

Der am 16. Juni 2022 unterzeichnete überarbeitete Kodex wird in Kombination mit dem DSA Teil eines umfassenderen Regulierungsrahmens werden. Für die Unterzeichner — also sehr große Online-Plattformen und Suchmaschinen — soll der Kodex zu einer Abschwächungsmaßnahme werden, die im Rahmen der Koregulierung der DSA anerkannt ist.

Der Kodex enthält 44 Verpflichtungen und 128 spezifische Maßnahmen.

Commitment 20 sieht vor: „Die relevanten Unterzeichner verpflichten sich, den Nutzern die Möglichkeit zu geben Tools zur Bewertung der Herkunft und Bearbeitung der Geschichte, Echtheit oder Richtigkeit digitaler Inhalte. Die relevanten Unterzeichner werden Technologielösungen entwickeln, um den Nutzern zu helfen überprüfen Sie die Echtheit oder identifizieren Sie die Herkunft oder Quelle digitaler Inhalte, wie z. B. neue Tools oder Protokolle oder neue offene technische Standards für die Herkunft von Inhalten.“

Commitment 22 präzisiert: „Die relevanten Unterzeichner verpflichten sich, den Nutzern Tools zur Verfügung zu stellen, die ihnen helfen, fundiertere Entscheidungen zu treffen, wenn sie auf Online-Informationen stoßen, die falsch oder irreführend sein können, und um den Nutzern den Zugang zu Tools und Informationen zu erleichtern, mit denen sie die Vertrauenswürdigkeit von Informationsquellen wie Vertrauenswürdigkeitsindikatoren beurteilen können für eine informierte Online-Navigation, insbesondere in Bezug auf gesellschaftliche Themen oder Debatten von allgemeinem Interesse. Die zuständigen Unterzeichner werden den Nutzern ihrer Dienste den Zugang zu Vertrauenswürdigkeitsindikatoren ermöglichen (wie Vertrauenssiegel, die sich auf die Integrität der Quelle konzentrieren und die Methodik hinter solchen Indikatoren) entwickelt von unabhängigen Dritten in Zusammenarbeit mit den Nachrichtenmedien, einschließlich Journalistenverbänden und Organisationen für Medienfreiheit, sowie Faktenprüfer und andere relevante Stellen, die Nutzer dabei unterstützen können, fundierte Entscheidungen zu treffen. Die relevanten Unterzeichner geben den Nutzern die Möglichkeit Übertragung von Signalen in Bezug auf die Vertrauenswürdigkeit von Medienquellen in die Empfehlungssysteme oder den Feed solche Signale in ihre Empfehlungssysteme.“

Zusammenfassend lässt sich sagen, dass zur Eindämmung des Desinformationsphänomens den Nutzern transparente Vertrauenswürdigkeitsinstrumente zur Bewertung von Informationen zur Verfügung gestellt werden müssen und dass echte Inhalte, die aus vertrauenswürdigen Quellen stammen, erkannt und ihre Sichtbarkeit erhöht werden müssen, und zwar mit Tools, die die Richtigkeit, Integrität und Vertrauenswürdigkeit ihrer Herkunft gewährleisten können.

‍

‍

Es scheint zwar wichtig zu sein, KI-generierte Inhalte zu identifizieren, um den Nutzern die Orientierung zu erleichtern, doch sollte der Identifizierung echter Inhalte aus verifizierten und zuverlässigen Quellen, wie Nachrichteninhalten von Presseagenturen, Medien oder anderen maßgeblichen Quellen, die gleiche Bedeutung beigemessen werden.

Die Europäische Kommission hat empfohlen, Tools zu verwenden, die von unabhängigen Dritten bereitgestellt werden, aber gemäß den Zentrum für Transparenz werden diese Verpflichtungen in der Regel als „nicht unterzeichnet“ gekennzeichnet oder durch Initiativen der Unterzeichner des Kodex zur Überprüfung der Fakten eingeschränkt.

‍

Auf welche Weise wird das unsichtbare Wasserzeichen einer unabhängigen dritten Partei das Problem wirklich lösen?

Der beste Weg, einen Inhalt technisch zu zertifizieren, besteht darin, ihn direkt an der Quelle mit einem unsichtbaren Signal zu versehen (vgl.SynthID von Google DeepMind und der Imperativ umfassender Wasserzeichen“). Diese Technologie gibt es seit vielen Jahren, hat aber in letzter Zeit bemerkenswerte Verbesserungen erfahren (DeepMind arbeitet mit Google Cloud zusammen, um KI-generierte Bilder mit Wasserzeichen zu versehen | TechCrunch ). Sowohl OpenAI als auch Google zufolge ist ein robustes Wasserzeichen die beste Lösung, um visuelle Inhalte zu zertifizieren. Im vergangenen Monat hat Google sein eigenes Wasserzeichensystem namens SynthID eingeführt. Eine erhebliche Einschränkung ist jedoch offensichtlich: SynthID identifiziert ausschließlich von Google KI-generierte Inhalte, die beispielsweise von Imagen produziert wurden, und zwar ausschließlich innerhalb des Google-Ökosystems.

Diese Einschränkung besteht nicht, wenn ein unabhängiger Dritter eingesetzt wird, der in der Lage ist, ein Wasserzeichen für echte Inhalte aus verifizierten Quellen zu generieren, eine Technologie, die potenziell von allen Online-Plattformen übernommen werden könnte.

Die Kennzeichnung authentischer Inhalte aus vertrauenswürdigen Quellen mit einem robusten und unsichtbaren Wasserzeichen bietet von Natur aus mehrere Vorteile sowohl für die Öffentlichkeit als auch für Online-Plattformen:

‍

Wiederherstellung des Vertrauens zwischen Nutzern und Online-Plattformen

Erstens kann das Vertrauen zwischen Nutzern und Online-Plattformen wiederhergestellt werden, indem echte Inhalte aus vertrauenswürdigen Quellen gekennzeichnet werden, zusätzlich zur Kennzeichnung von KI-generierten Inhalten und zur Verfügung gestellt werden, um den Nutzern Werkzeuge für kritisches Denken zur Verfügung zu stellen. Benutzer könnten sich sofort vorstellen, ob es sich um KI-generierte Inhalte, echte Inhalte, manipulierte oder fälschlicherweise zugewiesene echte Inhalte oder unbekannte Inhalte handelt.

‍

‍

Zweitens wäre die Fähigkeit, echte Inhalte, zugehörige Metadaten und den Herkunftskontext zu visualisieren, ein großer Vorteil für Nutzer und Online-Plattformen. Beide könnten sofort Manipulationen oder falsche Zuschreibungen erkennen. Damit könnten Online-Plattformen in Fällen, in denen es sich um „nicht illegale“ Fake News handelt oder die Sichtbarkeit innerhalb der Empfehlungssysteme beeinträchtigt wird, sofort gelöscht werden.

‍

‍

Ein weiterer Vorteil für sehr große Online-Plattformen und Suchmaschinen bestünde darin, die von der DSA geforderten Maßnahmen zur Eindämmung der Verbreitung von Desinformation zu verbessern und gleichzeitig zur Entwicklung neuer Strategien zur Bekämpfung von Fehlinformationen in politischen und wirtschaftlichen Krisen beizutragen. Kürzlich Wahlen in der Slowakei zeigte einen Mangel an Effizienz in Bezug auf Anti-Fake-News-Tools, die von einigen Online-Plattformen eingesetzt werden.

‍

Der Kampf gegen Infocalypse

Infocalypse bedeutet in der Regel die drohende Überflutung falscher Informationen.

Am 26. September 2023 berichteten große Online-Plattformen über die ersten sechs Monate im Rahmen des neuen Verhaltenskodex zur Desinformation.

Kommissarin Jourova erklärte:“Desinformation ist immer noch eines der größten Risiken für den europäischen demokratischen Informationsraum, auch im Zusammenhang mit dem Krieg Russlands in der Ukraine und den Wahlen. Während sich die Europäer darauf vorbereiten, 2024 zu den Wahllokalen zu gehen, müssen alle Akteure ihren Beitrag zur Bekämpfung von Online-Desinformation und ausländischer Einmischung leisten, um unsere Online-Debatte zu schützen. Der Kodex erweist sich als nützliche Übung, aber wir müssen alle mehr tun“

Die nächsten Berichte sind Anfang 2024 fällig (mit Informationen und Daten für die zweite Jahreshälfte 2023) und sollten weitere Einblicke in die Umsetzung des Kodex geben. Diese Berichte werden auch Informationen darüber enthalten, wie die Unterzeichner Maßnahmen vorbereiten und ergreifen, um die Verbreitung von Desinformation im Vorfeld der EU- und US-Wahlen 2024 einzudämmen. Gleichzeitig werden sie weiterhin über ihre Bemühungen im Zusammenhang mit dem Krieg in der Ukraine berichten, zu dem wir bereits den Krieg in Israel hinzufügen können.

Dies ist ein Aufruf zur Kennzeichnung echter Inhalte aus zuverlässigen Quellen durch digitale Wasserzeichen. Wenn diese Maßnahme in naher Zukunft von großen Online-Plattformen übernommen wird, könnten einer oder mehrere der vier Reiter von Infocalypse von ihren Pferden fallen.

‍