Das Europäische Parlament und der Rat wollen "Nudifier-Apps" verbieten. Das Verbot soll am 2. Dezember in Kraft treten richtet sich gegen KI-Deepfakes ohne Zustimmung sowie deren Anbieter und Nutzer.
Am 7. Mai haben sich die Mitgesetzgeber auf ein Verbot von "Nudifier-Apps" im Rahmen des Digital Omnibus zu KI geeinigt.
WERBUNG
WERBUNG
Die umstrittenen Tools können von KI erstellte sexuelle Bilder oder Videos erzeugen, die Personen ohne deren Zustimmung "entkleiden", was Bedenken hinsichtlich des Datenschutzes und der ethischen Nutzung der Technologie aufwirft.
Die neue Generation der KI macht die Erstellung synthetischer Inhalte immer erschwinglicher und realistischer. Etwa 8 Millionen DeepFakes waren im Jahr 2025 online, wobei 90 Prozent der Online-Inhalte bis zum Jahr 2026 durch KI generiert wurden, so der Forschungsdienst des Europäischen Parlaments.
Bisher behandelte das EU-Recht Deepfakes nur indirekt, indem es sie als Verletzung der Privatsphäre und der Transparenz einstufte. Das führte zu Forderungen nach einem stärkeren Schutz im Rahmen eines EU-weiten Verbots.
"[...] man hatte den Eindruck, dass das Gesetz eine Lücke im Umgang mit ihnen [Deepfakes] aufweist. Deshalb wurde der Omnibus als Gelegenheit gesehen, diese Lücke zu schließen", sagte der Europaabgeordnete Michael McNamara von Renew Europe im Europäischen Parlament und Mitberichterstatter für den Ausschuss für bürgerliche Freiheiten, Justiz und Inneres.
Während die Mitgesetzgeber ihre Position noch formell absegnen müssen, gibt Europa bereits ein klares Signal: "Nudifier-Apps" sind demnach eine ernste Form des sexuellen digitalen Missbrauchs, die verboten werden müssen, bevor sie auf den Markt kommen.
Was ist ein "Nudifier"?
"Nudification"-Apps wie "Undressers", "Nudify Tools" und "Clothes Removers" manipulieren gewöhnliche Fotos, um mithilfe generativer KI immer realistischere, sexuell eindeutige Bilder ("DeepFakes") zu erstellen. Aktuellen Schätzungen zufolge werden bis zu 96 Prozent der Bilder ohne das Wissen der Betroffenen erstellt.
Die Tools verwenden Deep-Learning-Modelle, Bilderkennung und Technologien zur Körperrekonstruktion, um realistisch aussehende Bilder auf Grundlage der Beleuchtung, der Pose und des Hauttons des Originalfotos zu erstellen. Sie folgen im Wesentlichen der Form des Subjekts oder leiten sie aus der Kleidung ab und erfinden einen passenden nackten Körper.
Die Technologie ist über viele mobile Anwendungen zugänglich - im App Store gab es früher Apps wie "DeepNude" und "ClothOff" -, über spezialisierte Websites und automatisierte Bots auf Plattformen wie Telegram, die häufig als "KI-Kunst" oder Unterhaltung vermarktet wurden.
Elon Musks X machte den Zugang zu diesen Apps extrem einfach; bis Anfang Januar 2026 erstellte der Chatbot Grok etwa 6.700 sexualisierte Bilder pro Stunde, darunter Dutzende von Kindern.
Die Europäische Kommission leitete eine förmliche Untersuchung der Gesetze zur digitalen Sicherheit von Grok ein, und die Reaktionen darauf veranlassten X, Beschränkungen einzuführen. Jetzt ist die Erstellung von Bildern echter Menschen in "freizügiger Kleidung" in einigen Ländern gesperrt. Die Funktion ist auf zahlende Abonnenten beschränkt - obwohl die Nutzer der Website immer noch Möglichkeiten finden, die KI mit Hilfe von Befehlen auszutricksen.
Die Werkzeuge machen die generative KI zu einem gezielten Instrument für Belästigung und digitalen Missbrauch, das die körperliche Autonomie der Betroffenen aushebelt. Unerwünschte explizite Inhalte verletzen direkt die grundlegenden Rechte auf Privatsphäre und untergraben die digitalen ethischen Standards. Diese Programme werden zunehmend als räuberische Technologien eingestuft.
"Es gibt bestimmte Praktiken, die keine Scherze sind. Es geht um Menschen. Und in diesem Kampf sollte die Würde immer auf der Gewinnerseite stehen", betonte der deutsche Grünen-Europaabgeordnete Sergey Lagodinsky.
Die Tools verursachen bei den Opfern psychischen Stress und Rufschädigung: Eine UNICEF-Studie aus dem Jahr 2026, die sich auf 11 Länder erstreckte, ergab, dass im Jahr 2025 Bilder von mindestens 1,2 Millionen Kindern zu sexuellen DeepFakes manipuliert wurden. Eine Studie aus demselben Jahr stellte fest, dass Drohungen, nicht einvernehmliche, sexuell explizite Medien zu veröffentlichen, die Wahrscheinlichkeit von Selbstmordplänen, -versuchen und Selbstverletzungen erhöhen.
Die Tools zielen auch unverhältnismäßig stark auf Frauen und Mädchen ab, die 99 % der DeepFake-Opfer ausmachen. Sie haben zu einem 26.385-prozentigen Anstieg der generierten Bilder von sexuellem Kindesmissbrauch (CSAM) seit 2024 und zu einem Anstieg von Straftaten wie Sextortion und Erpressung geführt.
Wie das Verbot funktioniert
Die vorläufige Einigung vom 7. Mai zielt auf alle KI-Entwickler ab und verbietet alle Systeme, die speziell für die Erzeugung dieser Art von Inhalten (einschließlich Bilder, Videos und Audio) entwickelt wurden.
Die Entwickler von KI-Modellen in großem Maßstab werden direkt verantwortlich gemacht, wenn ihre Systeme zur Erstellung von Nacktbildern ohne Einwilligung verwendet werden. Die entsprechenden Unternehmen müssen nun permanente Sicherheitsvorkehrungen in ihre Kernsoftware einbauen, um zu verhindern, dass die Nutzer derartige Inhalte erstellen.
Außerdem werden realistische Darstellungen des Intimbereichs und sexuell eindeutige Handlungen verboten.
Das Verbot betrifft die Anbieter, d. h. alle Unternehmen, die diese Systeme in der EU auf den Markt bringen oder sie Menschen in der EU anbieten, sowie Organisationen, die diese Software nutzen oder hosten und nicht einvernehmliche explizite Inhalte zulassen, und vor allem die Nutzer, die bei der Erzeugung dieser Art von Inhalten erwischt werden.
Die EU verlagert die Hauptlast der Verantwortung von den einzelnen Endnutzern auf die Unternehmen, die die Modelle entwickeln. Wie Lagodinsky sagte, "können wir hier kein menschliches Verhalten erzwingen. Wir wenden uns also gegen die Technologie selbst".
Die Anbieter sind nun gezwungen, jeden "vorhersehbaren Missbrauch" ihrer Technologie zu bewerten, bevor sie an die Öffentlichkeit gelangt. Sie müssen Maßnahmen ergreifen, um zu verhindern, dass Nutzer die Filter durch geschickte Eingabeaufforderungen oder geringfügige Bildveränderungen umgehen können. Um die Einhaltung der Vorschriften zu gewährleisten, wird das European AI Office überwachen, ob diese Schutzmaßnahmen in die Kernarchitektur des Modells integriert sind.
"Die Plattformen würden den Zugang zu bestimmten Aufforderungen und zu bestimmten Verhaltensweisen einschränken, so wie ChatGPT oder Grok bereits sagen, dass bestimmte Anfragen nicht zulässig sind", erklärte Lagodinsky.
"Der Gesetzgebungsprozess ist viel langsamer als die Innovation. Wir werden das nur bewältigen können, wenn wir eine prinzipielle Möglichkeit haben, risikobasiert zu regulieren. Deshalb gibt es zum Beispiel Möglichkeiten für die Kommission, bestimmte neue Technologien als Risikotechnologien in das KI-Gesetz aufzunehmen", fügte er hinzu.
Wenn ein Unternehmen diese Regeln nicht umsetzt, drohen ihm nach dem Rahmen des KI-Gesetzes strenge Durchsetzungsmaßnahmen. Die Strafen für die Nichteinhaltung der Vorschriften sind saftig und können bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Gesamtumsatzes eines Unternehmens betragen.
Die Vereinbarung ermächtigt die nationalen Behörden außerdem, unsichere KI-Produkte vollständig vom EU-Markt zu nehmen. Bis zum 2. Dezember 2026 müssen alle Anbieter nachweisen, dass ihre Systeme diese Sicherheitsstandards erfüllen, sonst drohen finanzielle Sanktionen. Die Aufsicht gilt sowohl für in der EU ansässige Firmen als auch für internationale Entwickler, die ihre KI-Dienste europäischen Bürgern anbieten.
Rechtliche Instrumente vor dem Verbot
"Ich glaube nicht, dass die politischen Entscheidungsträger sie [die Entwicklung der KI] unbedingt unterschätzt haben. Sicherlich gab es bis jetzt einen großen Mangel an Rechtssicherheit", sagte McNamara.
Vor dem Verbot bezeichnete die EU DeepFakes und "Nacktheit" in erster Linie als inhaltliche Probleme und Verstöße gegen die Privatsphäre und die Transparenz. Es gab zwar kein einzelnes Gesetz, das diese Aktivitäten ausdrücklich verbot, aber eine Mischung aus Vorschriften zum Datenschutz, zu Bildrechten, zum Schutz der Privatsphäre und zur Haftung von Plattformen regelte sie als allgemeine KI (GPAI) oder Systeme mit begrenztem Risiko.
Einer der Hauptstreitpunkte war [...] die Frage, ob man [KI-generierte Inhalte] regulieren oder nicht regulieren sollte, wobei die derzeitige Regierung der Vereinigten Staaten einen "hands-off"-Ansatz befürwortet", so McNamara zu Euronews.
Der Digital Services Act (DSA) ist eine der wichtigsten Vorschriften für Online-Plattformen. Er dient jedoch als reaktives Instrument, da er von großen Online-Plattformen (VLOPs) verlangt, gegen illegale Inhalte und Fehlinformationen vorzugehen, indem sie DeepFakes erst dann entfernen, wenn sie darauf aufmerksam werden. Außerdem schreibt es DeepFake-Meldemechanismen und andere Maßnahmen vor, um die von ihren Plattformen ausgehenden systemischen Risiken zu mindern.
Die derzeitigen DeepFake-Vorschriften des AI Acts verhindern nicht die Erstellung oder Weitergabe von Bildern ohne Zustimmung. Sie verpflichten die Anbieter lediglich, die Verwendung von KI bei der Erstellung von Online-Inhalten offenzulegen, und die Nutzer, synthetische Inhalte klar zu kennzeichnen.
Auch eine Entschädigung der Opfer ist nicht vorgesehen. Das Gesetz behandelt nicht-einvernehmliche intime Bilder (NCII) und Material über sexuellen Kindesmissbrauch (CSAM) in Bezug auf Transparenz und lässt den Anbietern im Rahmen des GPAI-Verhaltenskodex einen großen Ermessensspielraum.
Die Allgemeine Datenschutzverordnung (GDPR) ist eine allgemeine Datenschutzverordnung, die nicht speziell auf synthetische Inhalte zugeschnitten ist. Sie befasst sich mit der unrechtmäßigen Verarbeitung der Daten natürlicher Personen, ohne DeepFakes in ihrer jetzigen Form zu verbieten oder opferorientierte Abhilfemaßnahmen zu schaffen. Nicht einvernehmliche intime Bilder führen zu Demütigung und Rufschädigung, die über den Datenschutz hinausgehende Abhilfemaßnahmen erfordern, einschließlich Belästigung, Verleumdung und Strafrecht.
Die EU-Richtlinie 2024/1385 über Online- und Offline-Gewalt gegen Frauen stellt technologiegestützte geschlechtsspezifische Gewalt (TFGBV) unter Strafe. Dazu gehören digitale Werkzeuge zur Überwachung, Belästigung und zum Schweigen von Frauen und Mädchen. Der Text garantiert zwar einen rechtlichen Schutz gegen gefälschte sexuelle Inhalte, zielt aber nicht speziell auf Nacktbilder-Apps ab.