Von Sonntag an verlangt das EU-Gesetz für Künstliche Intelligenz, dass Deepfakes und KI-Inhalte gekennzeichnet werden. Fachleute warnen: Techniklücken und fehlende Standards könnten die Durchsetzung schwächen.
Ab Sonntag, den 2. August, gelten für KI-Unternehmen neue Pflichten aus dem KI-Gesetz der EU. Sie müssen dafür sorgen, dass Deepfakes und andere KI-generierte Inhalte eindeutig als künstlich erkennbar sind.
WERBUNG
WERBUNG
Technische Hürden lassen allerdings zweifeln, wie wirksam diese Regeln am Ende sind.
Vor zwei Jahren hat die EU umfassende Vorschriften für künstliche Intelligenz verabschiedet und ein eigenes KI-Büro geschaffen, das die Umsetzung des Gesetzes überwachen soll.
Zu den zahlreichen Vorgaben gehört auch das weltweit erste Transparenzregime für ´die sogenannten synthetischen Medien. Anbieter generativer KI-Systeme wie Claude von Anthropic oder ChatGPT von OpenAI sollen dafür sorgen, dass künstlich erzeugte oder manipulierte Inhalte als solche erkannt und nachgewiesen werden können.
Für Deepfakes fallen die Regeln strenger aus. Gemeint sind realistisch wirkende, KI-generierte oder -veränderte Bilder, Audios oder Videos, die das Aussehen, die Stimme oder Handlungen realer Personen nachahmen und den Eindruck erwecken können, jemand habe etwas gesagt oder getan, das nie passiert ist.
Von Satire zu Manipulation
Wie jede Technologie lässt sich auch KI kreativ nutzen – oder für schädliche Zwecke.
In Brüssel ist man sich bewusst, dass nicht jede synthetische Produktion täuschen soll. Inhalte mit eindeutig künstlerischem, kreativem, satirischem oder fiktionalem Charakter fallen in der Regel nicht unter die besonderen Offenlegungspflichten für Deepfakes.
Ein prominentes Beispiel war 2023 ein KI-Bild von Papst Franziskus in einer modischen weißen Daunenjacke, das weltweit viral ging. Das Foto war zwar erfunden, wurde aber überwiegend als Scherz verstanden.
Die gleiche Technik kann jedoch deutlich destruktiver eingesetzt werden.
2024 geriet Popstar Taylor Swift ins Visier einer Welle expliziter KI-Bilder, die ohne ihre Zustimmung im Netz zirkulierten. Das befeuerte die Debatte über die Risiken synthetischer Medien erneut.
Auch in der Politik tauchen Deepfakes inzwischen als Instrument der Manipulation auf.
2022, kurz nach Beginn des russischen Großangriffs auf die Ukraine, kursierte ein Fake-Video, in dem der ukrainische Präsident Wolodymyr Selenskyj Soldaten zur Kapitulation aufforderte. Das Material war schnell als Fälschung entlarvt, zeigte aber, wie sich synthetische Medien im Krieg als Waffe einsetzen lassen.
Die Sorge wächst, dass immer realistischere KI-Inhalte über soziale Netzwerke massenhaft verbreitet werden und es den Nutzern zunehmend schwerfällt, echte Informationen von erfundenem Material zu unterscheiden.
Deepfakes regulieren
Um gegenzusteuern, hat die EU-Kommission einen freiwilligen Verhaltenskodex entwickelt. Er gibt einen Rahmen vor, wie Unternehmen den künstlichen Ursprung synthetischer Inhalte sichtbar machen sollen – mit maschinenlesbaren Markierungen und gut sichtbaren Kennzeichnungen für Deepfakes.
Die Grundidee ist einfach: Menschen sollen erkennen können, wenn sie Inhalte sehen, die von KI erzeugt oder verändert wurden. Die Regeln gelten deshalb sowohl für Firmen, die die Technologie entwickeln, als auch für Akteure, die KI beruflich einsetzen; private Nutzung bleibt ausgenommen.
Der Verhaltenskodex behandelt nicht nur die Kennzeichnung, sondern auch die Mechanismen zur Erkennung solcher Inhalte. Dafür ist Zusammenarbeit aller Beteiligten nötig: KI-Unternehmen, soziale Netzwerke, Organisationen der Zivilgesellschaft und Faktenchecker.
Die schwierigere Frage ist, ob die Technologie dieses Versprechen verlässlich einlösen kann.
Ein Regelwerk, viele Hürden
Die erste Hürde ist geografischer Natur. Die EU kann Unternehmen regulieren, die hier operieren oder den europäischen Markt ins Visier nehmen. Online-Inhalte enden jedoch nicht an Grenzen. Ein Deepfake, der außerhalb Europas entsteht, kann innerhalb weniger Minuten Millionen Nutzerinnen und Nutzer in der EU erreichen.
Die zweite Hürde ist der technische Reifegrad. Große KI-Anbieter wie OpenAI und Google unterstützen die Transparenzziele und haben den Kodex der Kommission unterzeichnet. Gleichzeitig warnen sie, dass Technologien zum Markieren und Erkennen von KI-Inhalten ein bewegliches Ziel bleiben.
Eine einheitliche Branchenlösung gibt es derzeit nicht. Unternehmen testen unterschiedliche Ansätze – Wasserzeichen, Metadaten, Systeme zur Herkunftsnachverfolgung –, die nicht immer zusammenpassen und oft kaum miteinander kommunizieren.
Die dritte Hürde: Digitale Spuren sind fragil. Fachleute warnen, dass Wasserzeichen entfernt, verändert oder verloren gehen können, sobald Inhalte bearbeitet, komprimiert oder über verschiedene Plattformen hinweg geteilt werden. Die vollständige Geschichte eines KI-Bildes oder Videos über viele Bearbeitungsschritte hinweg zu rekonstruieren, ist extrem schwierig.
Angesichts dieser Grenzen gehen Forscher davon aus, dass eine einzelne Technologie nicht ausreichen wird. Unternehmen brauchen eher einen Ansatz mit mehreren Ebenen, der verschiedene Methoden kombiniert.
"Eine Kombination verschiedener Lösungen ist wirkungsvoller als jede Einzelmaßnahme. Als gute Praxis gilt daher, mehrere Ebenen der Kennzeichnung und Erkennung für KI-generierte Inhalte zu implementieren", heißt es in der technischen Studieder Europäischen Kommission zu dem Thema.
Mit der Entwicklung Schritt halten
Die EU nimmt eine führende Rolle bei einem der zentralen Probleme des KI-Zeitalters ein: einer Welt, in der sich synthetische Inhalte immer schwerer von der Realität unterscheiden lassen.
Inwieweit die Politik in Brüssel mit einer sich rasant weiterentwickelnden Technologie Schritt halten kann, entscheidet darüber, ob die Transparenzregeln des KI-Gesetzes zum wirksamen Schutz werden oder nur zum Etikett für ein Problem, das der Öffentlichkeit immer wieder entgleitet.