Die EU verbietet sogenannte Nudification-Apps: KI-Programme, die Kleidung von Fotos entfernen und so intime Bilder ohne Zustimmung erzeugen.
Diese Apps, die 2017 erstmals vorgestellt wurden, haben sich in rasantem Tempo weiterentwickelt: Sie nutzen generative KI, um die Konturen eines bekleideten Subjekts zu analysieren und einen synthetischen nackten Körper an dessen Stelle zu setzen. Durch fortschrittliche Diffusionsmodelle können sie aus einem einzigen Social-Media-Foto in Sekundenschnelle hochauflösende, fotorealistische Ergebnisse erzeugen.
WERBUNG
WERBUNG
Bis zum Jahr 2026 wurden Deepfake-Porno-Apps weltweit mehr als 705 Millionen Mal heruntergeladen. Berichten zufolge ist allein im Jahr 2024 ein Anstieg um 118 % zu verzeichnen, und bis Anfang 2026 wird sich die Zahl der KI-Vorfälle verzehnfachen, von denen 99 % Frauen betreffen. Ein Teil dieses Anstiegs betraf Grok, den Chatbot von Elon Musk, der Millionen von nicht einvernehmlichen sexuellen Bildern von Frauen und Kindern generierte.
Am 7. Mai einigten sich die EU-Gesetzgeber auf ein ausdrückliches Verbot von Nacktbild-Apps und bezeichneten es als moralische und rechtliche "rote Linie". Die Vereinbarung verhindert, dass KI-Systeme, die in erster Linie dazu bestimmt sind, Menschen auf Bildern zu "entkleiden" oder identifizierbare Personen ohne deren Zustimmung in sexuell eindeutigen Szenarien darzustellen, verwendet oder auf den EU-Markt gebracht werden. Der Durchsetzungsmechanismus verlangt von den Entwicklern und App-Stores, diese Dienste bis Dezember 2026 zu entfernen, andernfalls drohen empfindliche Geldstrafen.
Sind Sie mit diesem Verbot einverstanden? Sollte die EU mehr gegen diese Apps unternehmen? Unsere Umfrage ist anonym und nimmt nur wenige Sekunden in Anspruch. Die Ergebnisse werden in die EU-weite XL-Berichterstattung einfließen - in Videos, Artikeln und Newslettern - und werden unsere Berichterstattung beeinflussen, wenn wir untersuchen, wie Europa seine Position im Zeitalter der künstlichen Intelligenz sichern kann.