Mehr als 20 Mädchen in Spanien haben berichtet, dass sie von KI generierte Nacktbilder von sich erhalten haben. Aber können Deepfakes rechtlich geahndet werden?
WERBUNGAls sie nach den Sommerferien in die Schule zurückkehrten, erhielten mehr als zwanzig Mädchen aus Almendralejo, einer Stadt in Südspanien, Nacktfotos von sich auf ihren Mobiltelefonen.
Keine von ihnen hatte die Bilder aufgenommen, aber sie sahen völlig echt aus.
Die Bilder waren von ihren Instagram-Konten gestohlen, mit Hilfe einer Anwendung für künstliche Intelligenz verändert und dann in Whatsapp-Gruppen geteilt worden.
Die Teenager waren auf den echten Fotos vollständig bekleidet, aber die App ließ die Nacktheit völlig echt aussehen.
Nun fragen sich Eltern und Staatsanwälte, ob ein Verbrechen begangen wurde - könnten die Bilder als Kinderpornografie gelten?
"Die Montagen sind super realistisch, es ist sehr verstörend und ein echter Skandal", schrieb Miriam Al Adib, eine der Mütter der Mädchen, auf ihrem Instagram-Account.
"Meine Tochter hat mir mit großer Abscheu gesagt: 'Mama, schau, was sie mit mir gemacht haben'", fügte sie hinzu.
Al Adib behauptete sogar, dass die Fotos auf Internetportale wie Onlyfans oder pornografische Websites gelangt sein könnten. Die ganze Zeit über mussten die Mädchen die Kommentare ihrer Mitschülerinnen ertragen.
"Beschwert euch nicht, Mädchen laden Bilder hoch, auf denen man fast ihre P***y sieht", musste sich ein Mädchen anhören.
Das jüngste der Mädchen ist erst elf Jahre alt und geht noch nicht in die Oberschule.
Eine andere Mutter, Fátima Gómez, sagte gegenüber Extremadura TV, dass ihre Tochter erpresst worden sei.
In einem Gespräch mit einem Jungen in den sozialen Medien forderte er Geld von ihr, und als sie sich weigerte, schickte er ihr ein Nacktfoto.
Die Mütter haben sich organisiert, um etwas gegen den Vorfall zu tun, und die Nationale Polizei hat eine Untersuchung eingeleitet , bei der bereits mehrere Minderjährige identifiziert wurden, die möglicherweise beteiligt waren.
Einige von ihnen sind Klassenkameraden der Mädchen, wie ein Lokalpolitiker mitteilte.
Der Fall wurde an die Jugendstaatsanwaltschaft weitergeleitet, und der Bürgermeister der Stadt selbst warnte: "Es mag als Scherz begonnen haben, aber die Auswirkungen sind beträchtlich und könnten ernsthafte Konsequenzen für diejenigen haben, die diese Fotos gemacht haben".
10 Euro für 25 Nacktfotos
Die hyperrealistischen Kreationen künstlicher Intelligenz, besser bekannt als Deepfakes, wurden mit der ClothOff-App erstellt.
Mit dem Slogan "Undress anybody, undress girls for free" (Zieh jede aus, zieh kostenlos Mädchen aus) ermöglicht die App den Nutzern, jede Person auszuziehen, die in der Bildergalerie ihres Telefons erscheint. Es kostet 10 €, um 25 Nacktbilder zu erstellen.
Obwohl die Nacktheit nicht echt ist, sagen die Mütter, dass die Verzweiflung der Mädchen beim Anblick ihres Bildes sehr real ist.
WERBUNG"Ihr seid euch des Schadens nicht bewusst, den ihr diesen Mädchen zugefügt habt, und ihr seid euch auch des Verbrechens nicht bewusst, das ihr begangen habt", sagte Al Adib auf ihrem Instagram-Account in einer Nachricht an die Leute, die die Bilder geteilt haben.
"Meiner Tochter wurde von einem von ihnen gesagt, dass er 'Dinge' mit ihrem Foto gemacht hat", sagte eine andere der Mütter der spanischen Zeitung El País.
Aber können Deepfakes rechtlich geahndet werden?
"Die eine Frage ist, ob es bestraft werden sollte, und die andere, ob es durch die Art und Weise, wie das Gesetz in Spanien und in anderen EU-Ländern formuliert ist, bestraft werden kann", sagte Manuel Cancio, Professor für Strafrecht an der Autonomen Universität von Madrid, gegenüber Euronews.
Der Professor weist darauf hin, dass es eine Gesetzeslücke gibt, weil die Verwendung der Gesichter von Minderjährigen auf Fotos ihre Privatsphäre beeinträchtigt, aber wenn es um Verbrechen geht, bei denen intime Bilder verbreitet werden, ist es das Bild als Ganzes, das die Privatsphäre verletzt.
WERBUNG"Da es durch Deepfake erzeugt wird, ist die eigentliche Privatsphäre der betreffenden Person nicht betroffen. Die Wirkung, die es (auf das Opfer) hat, kann einem echten Nacktbild sehr ähnlich sein, aber das Gesetz hinkt hier einen Schritt hinterher", fügte er hinzu.
Cancio sagt, dass der rechtliche Rahmen, der in diesem Fall greifen könnte, ein Verbrechen gegen die moralische Integrität wäre, die er als "eine Art Katastrophenkiste für Verbrechen, von denen niemand weiß, wohin sie gehören" bezeichnete.
Im März 2022 schlug die Europäische Kommission vor, diese Art von Straftaten in einer Richtlinie über Cyberkriminalität unter Strafe zu stellen. Dem Professor zufolge ist das niederländische Strafgesetzbuch bislang das einzige, das eine Bestimmung zu diesem Thema enthält.
Kann es sich um Kinderpornografie handeln?
Experten sind sich uneinig darüber, ob die Straftat als Verbreitung von Kinderpornografie angesehen werden kann, was ein höheres Strafmaß zur Folge hätte.
Für Leandro Núñez, einen auf neue Technologien spezialisierten Anwalt der Anwaltskanzlei Audens, ist nicht entscheidend, ob das Foto zu 100 Prozent echt ist, sondern ob es den Anschein dessen hat.
WERBUNG"Das Wichtigste ist, ob das Gesicht identifizierbar ist. Wir könnten über Kinderpornographie, Verbrechen gegen die moralische Integrität oder die Verbreitung von Bildern mit nicht einvernehmlichen sexuellen Inhalten sprechen", so der Anwalt gegenüber Euronews.
"Im Falle eines Verbrechens gegen die moralische Integrität würde es sich um ein geringeres Verbrechen handeln, das mit einer geringeren Strafe von sechs Monaten bis zu zwei Jahren Gefängnis geahndet würde", fügt er hinzu.
Andere Experten wie Eloi Font, Rechtsanwalt bei Font Advocats, einer auf digitales Recht spezialisierten Kanzlei, sind der Meinung, dass es sich um ein ähnliches Verbrechen handeln könnte wie die Reproduktion sexueller Bilder von Minderjährigen.
In diesem Fall könnte die Strafe zwischen fünf und neun Jahren Gefängnis betragen.