Die Europäische Union will Systeme, die ohne vorherige Zustimmung intime Bilder von Menschen erzeugen, verbieten. Aber wie reguliert die EU die KI-Täuschungsversuche? Fragen Sie den Euronews-Chatbot.
Deepfakes sind äußerst realistische, digital manipulierte visuelle Inhalte. Videos, Bilder und Audiodateien werden mithilfe ausgefeilter KI-Tools erstellt und können inzwischen so überzeugend wirken, dass sie kaum noch von echten Aufnahmen zu unterscheiden sind.
WERBUNG
WERBUNG
KI-Tools der neuen Generation haben es deutlich einfacher gemacht, illegale sexuelle Inhalte zu erstellen. Eine besondere Rolle spielen dabei sogenannte "Nudifier-Apps". Sie nutzen generative KI, um ohne Zustimmung der betroffenen Personen gefälschte Nacktbilder echter Menschen zu erzeugen. Dafür greifen sie häufig auf online verfügbare Bilder zurück und erstellen daraus realistisch wirkende, aber nicht autorisierte Inhalte.
Jedes dritte Deepfake-Tool kann in weniger als 25 Minuten kostenloses, nicht einvernehmliches pornografisches Material erstellen. Laut einer Studie von Security Hero macht Deepfake-Pornografie 98 Prozent aller Deepfake-Videos im Internet aus. 94 Prozent der Zielpersonen sind Frauen.
Europa setzt Zeichen gegen digitalen sexuellen Missbrauch
Am 7. Mai einigten sich das Europäische Parlament und die Europäische Kommission auf ein Verbot von "Nudifier-Apps" als Teil des Digitalen Omnibus zur KI. Das Verbot gilt für alle Anbieter von KI-Systemen sowie für Organisationen oder Einzelpersonen, die beabsichtigen, Video-, Bild- oder Tonmaterial für sexuell missbräuchliche Zwecke zu erstellen. Unternehmen haben bis zum 2. Dezember 2026 Zeit, die Vorgaben umzusetzen.
Vor dem Verbot fielen Deepfakes und KI-gestütztes sexuelles Online-Material unter ein breiteres Regelwerk, darunter das KI-Gesetz, die Datenschutz-Grundverordnung (GDPR) und das Gesetz über digitale Dienste (DSA). Spezifische Bestimmungen zu "Nudifier-Apps" gab es bislang jedoch nicht.
Diesmal sendet Europa ein klares Signal: "Nudifier-Apps" sind eine ernste Form des digitalen sexuellen Missbrauchs und müssen durch gezielte Regelungen adressiert werden, bevor sie auf den Markt gelangen.
Möchten Sie wissen, wie die EU ihre Bürger vor Online-Täuschungsversuchen schützt? Fragen Sie den Euronews KI-Chatbot!