Einige haben argumentiert, dass das vorgeschlagene EU-Gesetz durch das Scannen sämtlicher Kommunikation, einschließlich verschlüsselter Nachrichten, zu einer Massenüberwachung in der EU führen könnte.
WERBUNGRhiannon war erst dreizehn Jahre alt, als sie im Internet verführt, genötigt und sexuell missbraucht wurde.
Ihr Täter wurde angeklagt, aber die Folgen seiner Verbrechen sitzen tief.
"Ich habe sehr lange Zeit nicht über meinen Missbrauch gesprochen", sagte Rhiannon gegenüber Euronews. "Ich litt unter Angstzuständen, Panikattacken, Depressionen, Selbstverletzungen und Selbstmordversuchen.
Heute, mit 33 Jahren, lebt sie mit dem Wissen, dass Bilder und Videos von ihrem Missbrauch immer noch im Internet kursieren. Aber sie meldet sich zu Wort und fordert eine stärkere Regulierung, um gegen Sexualstraftäter vorzugehen.
Am Donnerstag werden die EU-Minister über die von der Europäischen Kommission vorgeschlagenen weitreichenden neuen Gesetze zur Bekämpfung des sexuellen Missbrauchs von Kindern im Internet beraten, um sicherzustellen, dass Verbrechen, wie die an Rhiannon begangenen, nicht Tag für Tag im Internet wiederholt werden.
Rhiannon ist britische Staatsbürgerin und sagt, dass die vorgeschlagene EU-Verordnung zusammen mit dem britischen Gesetz zur Online-Sicherheit, das bald in Kraft treten wird, von entscheidender Bedeutung für den weltweiten Kampf gegen den sexuellen Missbrauch von Kindern ist.
Die geplanten EU-Rechtsvorschriften würden neue Technologien nutzen, um neues und bestehendes Material zum sexuellen Missbrauch von Kindern (child sexual abuse material, CSAM) und "child grooming"-Aktivitäten aufzuspüren, und würden den nationalen Behörden die Befugnis geben, digitale Dienste zu verpflichten, die Kommunikation der Nutzer, einschließlich verschlüsselter Nachrichten, zu überprüfen.
Es ist jedoch ein erbitterter Streit ausgebrochen, in dem sich die Befürworter des Kinderschutzes und die Lobbyisten der digitalen Rechte gegenüberstehen, die behaupten, dass der Vorschlag zu einer Massenüberwachung führen und das Ende der digitalen Privatsphäre, wie wir sie kennen, bedeuten würde. Die Befürworter sagen, wenn die Verordnung nicht verabschiedet wird, bleiben Kriminelle unentdeckt und die große Technologiebranche unreguliert.
Zwischen beiden Lagern liegt ein schmaler Grat, der sich als schwierig erweist: Wie können Kinderschänder gefasst werden, ohne unsere Privatsphäre im Internet zu untergraben?
Sind die Technologien ausgereift genug?
Um bereits vorhandenes, den Strafverfolgungsbehörden bekanntes Material über sexuellen Kindesmissbrauch (CSAM) aufzuspüren, hat die Kommission vorgeschlagen, die so genannte perzeptive Hash-Funktion zu verwenden, die einen Fingerabdruck oder Hash von schädlichen Dateien erstellt und Wiederholungen im Internet aufspürt.
Akademische Experten warnen jedoch, dass die Täter die Bilder leicht manipulieren können, um der Entdeckung zu entgehen, und dass unschuldige Nutzer zu Unrecht beschuldigt werden könnten: "Das Problem ist, dass es sehr einfach ist, den Hash zu brechen, indem man ein Pixel verändert oder das Bild sogar leicht beschneidet", erklärt Professor Bart Preneel, Kryptographieexperte an der Universität KU Leuven, "Es ist auch möglich, dass ein völlig legitimes Bild als falsches Positiv gekennzeichnet wird."
Die Kommission will in Den Haag ein EU-Zentrum für sexuellen Kindesmissbrauch einrichten, in dem Mitarbeiter eingestellt werden sollen, die als illegal gekennzeichnete Inhalte manuell filtern, um eine Überflutung der Strafverfolgungsbehörden mit Falschmeldungen zu vermeiden.
Laut der zivilgesellschaftlichen Organisation ECPAT International gibt es jedoch genügend Beweise dafür, dass Wahrnehmungshash-Technologien tatsächlich funktionieren.
"Diese Technologien sind nicht nur vielversprechend, sie sind bewährt. Hash-basierte Methoden sind seit über einem Jahrzehnt wirksam und ermöglichen ein schnelleres Vorgehen gegen illegale Inhalte und unterstützen die Strafverfolgung. So nutzen beispielsweise mehr als 200 Unternehmen die PhotoDNA-Technologie, um zu verhindern, dass ihre Dienste zur Verbreitung von Material über sexuellen Kindesmissbrauch genutzt werden", sagte ein ECPAT-Sprecher.
Die Kommission will auch künstliche Intelligenz (AI) einsetzen, um neu erstellte CSAM zu erkennen und Verhaltensmuster zu markieren, die auf Child Grooming hindeuten könnten. Preneel sagte Euronews, dass diese Methoden ein noch größeres Risiko falscher Beschuldigungen mit sich bringen würden.
"Selbst wenn wir die Fehlerquote auf ein Prozent reduzieren, könnten wir bei Milliarden von Bildern, die jeden Tag in der EU verschickt werden, mit zig Millionen täglicher Falschmeldungen rechnen", warnte Preneel. "Wir könnten unschuldige Menschen belasten und sie der schwersten Verbrechen beschuldigen".
Preneel warnt auch davor, dass Teenager, die freiwillig und legal Nacktbilder untereinander austauschen, zu Unrecht kriminalisiert werden könnten.
ECPAT räumt zwar ein, dass sprachbasierte KI-Modelle zur Erkennung von Grooming-Verhalten noch nicht ausgereift sind, sagt aber, dass KI erfolgreich eingesetzt wurde, um neue CSAM mit "geringen Fehlerquoten" zu erkennen.
WERBUNG"Die Tools zur Erkennung von CSAM sind speziell darauf trainiert, keine legalen Bilder zu finden", erklärt der ECPAT-Sprecher, "diese Tools sind auf bekannte CSAM, Erwachsenenpornografie und harmlose Bilder trainiert, insbesondere um zwischen ihnen zu unterscheiden und um zu verhindern, dass harmlose Bilder als CSAM fehlinterpretiert werden."
Mié Kohiyama, eine weitere Überlebende von sexuellem Kindesmissbrauch aus Frankreich, die sich wie Rhiannon für eine stärkere Regulierung einsetzt, ist der Meinung, dass die Europäische Union angesichts der weiten Verbreitung von Bildern und Videos von Kindesmissbrauch im Internet die Verantwortung hat, Maßnahmen zu ergreifen.
"Mehr als 60 % dieser Bilder werden auf europäischen Servern gehostet, also haben wir die Verantwortung, darauf zu reagieren", erklärte sie. "Aufdeckung ist der Schlüssel, und Entfernung ist der Schlüssel".
Würden die neuen Regeln die Privatsphäre aushöhlen?
Der am meisten umstrittene Aspekt des Kommissionsvorschlags ist die Verpflichtung für Technologieunternehmen, Client-Side-Scanning (CSS)-Technologie einzusetzen, um die Nachrichten von Nutzern zu scannen, einschließlich der Ende-zu-Ende-verschlüsselten Kommunikation auf Plattformen wie Metas Whatsapp, wenn ein Risiko erkannt wird.
Dies würde bedeuten, dass die verschlüsselten Nachrichten, Bilder, E-Mails und Sprachnotizen der Nutzer abgehört werden könnten.
WERBUNGDatenschützer warnen davor, dass dies eine schwerwiegende Verletzung des Rechts der Menschen auf Privatsphäre im Internet darstellt und von böswilligen Akteuren leicht manipuliert werden könnte. CSS wurde im Jahr 2021 kurzzeitig von Apple eingesetzt, um iCloud-Uploads zu scannen, wurde aber innerhalb weniger Wochen wieder abgeschaltet, als das System gekapert wurde.
Laut ECPAT International ist es jedoch wichtig, daran zu denken, dass CSS arbeitet, "bevor Daten verschlüsselt werden".
"Es tut dies, indem es CSAM kennzeichnet, bevor es hochgeladen und durch eine verschlüsselte Umgebung gesendet wird - auf die gleiche Weise, wie WhatsApp, ein Ende-zu-Ende-verschlüsselter Dienst, bereits Technologie einsetzt, um Malware und Viren zu erkennen", sagte ein ECPAT-Sprecher.
Kritiker warnen auch davor, dass die Untergrabung der Verschlüsselung einen gefährlichen Präzedenzfall für autoritäre Regime schaffen könnte, die die Technologie manipulieren könnten, um Kritik zu erkennen und Dissidenten zu verfolgen.
Mié sagt, solche Panikmache sei nur ein Mittel, um vom eigentlichen Problem abzulenken.
WERBUNG"Europa ist eine Demokratie, keine Diktatur", sagte sie. Und seien wir nicht naiv: Wenn man in einer Diktatur die Bürger ausspionieren will, dann tut man das auch. Dafür braucht man keine neue Verordnung."
Können die EU-Minister einen Kompromiss finden?
Die vorgeschlagene Verordnung hat die EU-Hauptstädte aufgewühlt, denn viele sind besorgt über die Ausgereiftheit der Technologien und die Bedrohung der Privatsphäre der Verbraucher. Die Minister könnten beschließen, bestimmten Aspekten des Textes grünes Licht zu geben, während andere Pläne auf Eis gelegt werden, bis die Technologien ausreichend ausgereift sind.
Mié und Rhiannon sagten Euronews, die Minister sollten es vermeiden, sich dem Druck der großen Technologie- und Digital-Lobbys zu beugen. Sie sagen, der steile Anstieg von missbräuchlichem Material zeige, dass die freiwilligen Maßnahmen der Technologieunternehmen zur Erkennung und Entfernung von Inhalten eindeutig unzureichend seien. Eine am Dienstag veröffentlichte Studie der WeProtect Global Alliance zeigt, dass das gemeldete Material über sexuellen Kindesmissbrauch seit 2019 um 87 % gestiegen ist.
"Tech-Unternehmen entwickeln ihre Produkte so, dass sie Kinder anlocken und sie so lange wie möglich beschäftigen. Wenn das ihr Modell ist, muss es eine sichere Umgebung für Kinder sein", sagte Rhiannon.
"Das Modell der Selbstregulierung für Tech-Unternehmen hat nicht funktioniert, das zeigt die Zahl der missbrauchten Kinder. Wir müssen dieses Thema gesetzlich regeln, wir müssen die Tech-Unternehmen dazu zwingen, Kinder zu schützen", fügte sie hinzu.
WERBUNGMié ist außerdem der Ansicht, dass die EU dafür verantwortlich ist, Überlebende von digital unterstütztem Missbrauch vor einer erneuten Traumatisierung zu schützen, wenn sie wissen, dass die Bilder ihres Missbrauchs jeden Tag angesehen werden.
"Diese Überlebenden haben vor allem Angst. Sie sind nicht in der Lage, ihr Zuhause zu verlassen. Einige von ihnen haben sogar Angst, das Internet zu benutzen. Das sind Menschen, die völlig von der Gesellschaft ausgegrenzt sind", sagte sie. "Wir müssen sie schützen. Wir müssen die Kinder schützen. Das muss für uns alle an erster Stelle stehen."