Mehrere große internationale Organisationen, darunter Amnesty International und die EU-Kommission, fordern ein Verbot von KI-Tools, die Menschen nackt darstellen.
Mehr als hundert große humanitäre Organisationen und Kinderschutzverbände fordern ein dringendes Vorgehen gegen sogenannte KI‑„Nudification“-Apps und ähnliche Werkzeuge. Zu dem Bündnis gehören Amnesty International, die Europäische Kommission, Interpol, Safe Online, Save the Children sowie weitere Kinderschutzexpertinnen und ‑experten und Menschenrechtsorganisationen.
Auslöser der Bewegung ist die Empörung über Grok, den KI‑Chatbot von Elon Musk. Nutzerinnen und Nutzer hatten Grok aufgefordert, digitale Fotos von Frauen so zu verändern, dass sie keine Kleidung mehr tragen.
Der Trend begann mit dem Spruch „put her in a bikini“. Fotos wurden so bearbeitet, dass die abgebildeten Frauen plötzlich Bikinis trugen. Daraus entwickelten sich jedoch rasch immer stärker sexualisierte Bilder.
Diese nicht einvernehmlichen und gefälschten Aufnahmen landeten anschließend öffentlich auf der Plattform X und waren dort für Millionen Menschen sichtbar. Schätzungen zufolge hat Grok bereits rund drei Millionen Nacktaufnahmen ohne Zustimmung der Betroffenen erzeugt.
In mehreren Fällen standen mit KI-Nacktmachern erstellte Bilder in Verbindung mit Erpressung, Nötigung und Darstellungen sexualisierter Gewalt gegen Kinder. Besonders häufig betroffen sind Frauen und Kinder.
Ernsthafte Gefahr für Kinderschutz und Menschenwürde
Die weltweite Koalition warnt, dass diese Nudification‑Apps und ‑Tools eine erhebliche und untragbare Bedrohung für die Sicherheit von Kindern und die Menschenwürde darstellen.
„Nacktmach‑Tools haben eine nie dagewesene Gefahr für unsere Kinder geschaffen. KI – eine Technologie, die eigentlich menschliches Potenzial erweitern soll, wird zur Waffe gegen Kinder“, erklärte Marija Manojlovic, Leiterin von Safe Online, in einer Mitteilung.
„Wir verharmlosen den Schaden, indem wir ihn als ‚online‘ abtun, als wäre er weniger schwerwiegend als das, was in der physischen Welt passiert. Aber das Trauma ist real“, fügte sie hinzu.
Diese Anwendungen werden zwar häufig als Angebote „für Erwachsene“ beworben. In der Praxis entstehen damit jedoch immer öfter illegale sexualisierte Bilder von Kindern – ohne jede Form von Zustimmung, wirksamen Schutzbarrieren oder klarer Verantwortung.
„Tech-Unternehmen können Nacktaufnahmen von Kindern, die mit solchen Tools erzeugt wurden, erkennen und blockieren. Die Verbreitung von Darstellungen sexualisierter Gewalt gegen Kinder ist in allen Rechtsordnungen strafbar, und Onlineplattformen müssen denselben Regeln unterliegen wie andere Kanäle zur Erstellung und Verbreitung solcher Inhalte“, sagte Manojlovic.
„Es ist ehrlich gesagt schockierend, dass diese Plattformen Geld damit verdienen, aber weder verpflichtet sind, Täter zu melden, noch mit Branchenpartnern zusammenzuarbeiten, um Zahlungsströme zu kappen – genau solche Schutzmechanismen setzen wir in der analogen Welt ein und sie müssen auch für Onlineplattformen gelten.“
Die Forderungen nach einem Verbot von KI‑Nacktmachern werden lauter. Befürworterinnen und Befürworter betonen, dass diese Technologien keinerlei gesellschaftlichen Nutzen haben.
Die Koalition drängt deshalb darauf, entsprechende Anwendungen zu blockieren und Entwickler sowie Plattformbetreiber konsequent in die Verantwortung zu nehmen.