Die europäische Einigung auf ein Verbot von KI-Systemen, die sexuelle Deepfakes erzeugen, ist ein Meilenstein für den digitalen Schutz. Was sind diese synthetischen Inhalte und welche Gefahren gehen laut Europol von ihnen aus?
Spanien hat vergangene Woche in der Europäischen Union eine Einigung über ein Verbot bestimmter KI-Systeme erzielt, die ohne Zustimmung sexualisierte Fälschungen erzeugen. Die vom Europäischen Parlament, dem Rat und der Kommission unterstützte Änderung untersagt die Vermarktung, Nutzung und Inbetriebnahme von Anwendungen, die Bilder, Videos oder Audiodateien erzeugen oder manipulieren, um Menschen ohne deren ausdrückliche Zustimmung in intimen Situationen darzustellen.
WERBUNG
WERBUNG
Die Initiative ist Teil der Reform des europäischen KI-Gesetzes und reagiert auf die zunehmende Verbreitung von gefälschten Nacktaufnahmen von Frauen und Minderjährigen durch KI-gestützte Bildgeneratoren. Das Verbot soll zudem Inhalte erfassen, die Darstellungen von Kindesmissbrauch reproduzieren oder simulieren.
Erst vergangene Woche hatte Italiens Ministerpräsidentin Giorgia Meloni öffentlich vor den Gefahren von Deepfakes gewarnt. Als Beispiel veröffentlichte sie ein mithilfe künstlicher Intelligenz erstelltes Bild, auf dem ihr Gesicht auf den Körper einer Frau in Unterwäsche montiert worden war.
In Spanien begrüßte der Minister für digitale Transformation und öffentliche Verwaltung, Óscar López, die Einigung. Die Regierung wolle "weiterhin eine führende Rolle bei der Entwicklung eines europäischen KI-Modells einnehmen, das sich vor allem durch Vertrauen und Sicherheit auszeichnen soll", hieß es in einer Mitteilung des Ministeriums.
Die Maßnahme ergänzt das spanische Gesetz zum Schutz von Minderjährigen in digitalen Räumen. Dieses sieht unter anderem strengere Strafen für die Erstellung und Verbreitung sexualisierter Deepfakes vor.
Die Vereinbarung sieht außerdem ein vereinfachtes Register für bestimmte KI-Systeme vor, von denen keine unmittelbaren Risiken ausgehen. Zudem sollen die Vorgaben zur digitalen Kompetenz im Umgang mit KI für Anbieter und Betreiber verschärft werden - unterstützt durch öffentliche Stellen und Behörden.
Was sind Deepfakes?
Deepfakes sind eine Art synthetischer Inhalte , die durch künstliche Intelligenz erzeugt werden, die in der Lage ist, extrem realistische Audio-, Bild- oder Videodateien zu produzieren, in denen Menschen Dinge sagen oder tun, die nie passiert sind.
Die Technologie basiert auf neuronalen Netzen mit tiefem Lernvermögen, wie z. B. Generative Adversarial Networks (GANs), die Modelle aus großen Mengen visueller und auditiver Daten aus dem Internet trainieren. In Kombination mit großen Datensätzen können diese Modelle Simulationen erstellen, die von der Realität praktisch nicht zu unterscheiden sind.
Europol beschreibt, dass Deepfakes Menschen zeigen können, die Dinge tun oder sagen, die sie nie getan haben, oder sogar Personen erschaffen können, die nie existiert haben. Das stellt eine erhebliche Herausforderung für die Wahrhaftigkeit der Medien und das Vertrauen der Öffentlichkeit dar.
Wer ist in erster Linie betroffen?
Einem Europol-Bericht zu diesem Thema zufolge stellen Deepfakes eine vielschichtige Bedrohung dar. Bestimmte Kategorien von Opfern sind jedoch besonders gefährdet:
Sexuelle "Deepfakes" ohne Zustimmung können den Ruf zerstören, die psychische Gesundheit beeinträchtigen und irreparable Schäden im Privat- und Berufsleben verursachen. Darüber hinaus erhöht die Möglichkeit, nicht einvernehmliche Pornografie zu erstellen, das Risiko für Frauen und Minderjährige.
Die Manipulation von Bildern politischer oder wirtschaftlicher Führungspersönlichkeiten, um falsche Botschaften zu verbreiten oder eine Vertrauenskrise zu provozieren, kann die öffentliche Meinung beeinflussen und die Glaubwürdigkeit von Institutionen untergraben.
Bei polizeilichen Ermittlungen und Gerichtsverfahren können Deepfakes audiovisuelle Aufnahmen in manipulierte Beweise verwandeln und so die juristische Arbeit und die Rechtspflege erschweren.
Warum stellen Deepfakes eine Bedrohung dar?
- Verbreitung von Desinformationen:
Deepfakes können in Desinformationskampagnen eingebettet werden und so das Vertrauen in die Medien, öffentliche Einrichtungen und demokratische Prozesse untergraben. Die Leichtigkeit, mit der sie sich viral verbreiten können, verstärkt ihre sozialen Auswirkungen.
- Die Glaubwürdigkeit von Beweisen wird in Frage gestellt:
Die Technologie stellt die Gültigkeit von audiovisuellen Beweisen in Ermittlungen oder Verfahren in Frage, da die erzeugten Inhalte authentisch erscheinen können, auch wenn sie völlig gefälscht sind.
- Eskalation der digitalen Kriminalität:
Fortschritte in der künstlichen Intelligenz machen es böswilligen Akteuren mit geringen Ressourcen leichter, qualitativ hochwertige Deepfakes zu erstellen. Diese werden vermehrt für Betrug, Erpressung und die Verbreitung von unerlaubter Pornografie verwendet.
Antworten und Herausforderungen
Die Erkennung und Eindämmung von Deepfakes erfordert ebenso fortschrittliche Technologien zur Erkennung von Fälschungen und zur Bereitstellung von Präventionsinstrumenten. Darüber hinaus unterstreicht der Europol-Bericht, der seit langem vor den Gefahren dieser Technologie warnt, die Notwendigkeit, dass Strafverfolgungsbehörden und politische Entscheidungsträger spezielle Fähigkeiten entwickeln, um mit diesem Phänomen umzugehen. Zudem brauche es internationale Zusammenarbeit und Regulierung, um sowohl die Produktion als auch die Verbreitung von bösartigen synthetischen Inhalten zu bekämpfen.
Mit seinem europäischen Vorstoß zum Verbot sexueller Deepfakes will Spanien angesichts der von künstlicher Intelligenz ausgehenden Risiken einen Standard für den Schutz der Grundrechte setzen. Dies geschieht in einer Zeit, in der sich diese Technologie weiterentwickelt und ihre- sowohl positiven als auch negativen - Anwendungen im digitalen Leben von Millionen von Menschen ausweitet.