Das Europäische Parlament hat am Dienstag seinen Entwurf für eine Stellungnahme zu den Plänen zur Bekämpfung des sexuellen Missbrauchs von Kindern im Internet angenommen und gefordert, dass die neuen EU-Vorschriften eine "Massenüberwachung" oder ein "Scannen" des Internets vermeiden.
WERBUNGEine überwältigende Mehrheit von 51 der 54 Mitglieder des Justizausschusses aus allen Fraktionen unterstützte die Position nach einem Prozess, den der Verhandlungsführer Javier Zarzalejos als "sensibel, komplex und kontrovers" bezeichnete.
Die Position des Ausschusses muss nächste Woche vom Plenum bestätigt werden, bevor die Verhandlungen mit den EU-Mitgliedstaaten aufgenommen werden können.
Im Mai 2022 schlug die Europäische Kommission vor, neue Technologien zu nutzen, um Ende-zu-Ende verschlüsselte Nachrichten auf Plattformen wie Metas Whatsapp zu scannen, um Material über sexuellen Kindesmissbrauch (CSAM) zu erkennen, zu melden und zu entfernen.
Der Vorschlag löste einen erbitterten Streit aus, bei dem sich Datenschutzlobbys und Befürworter der Kinderrechte gegenüberstanden. Die EU-Kommissarin für Inneres, Ylva Johansson, reagierte auf die Vorwürfe der unzulässigen Einflussnahme.
Kritiker verwiesen auf eine erhebliche Verletzung unserer Grundrechte auf Privatsphäre im Internet sowie auf Bedenken, dass die Technologien nicht ausgereift genug seien, um CSAM zu erkennen, ohne Millionen legaler Inhalte fälschlicherweise zu kennzeichnen und die Nutzer zu Unrecht zu belasten.
Der Kompromissentwurf des Parlaments verpflichtet digitale Plattformen dazu, das Risiko zu mindern, dass ihre Dienste für sexuellen Missbrauch im Internet und für die Anwerbung von Kindern genutzt werden. Er erlaubt es den Justizbehörden auch, digitale Plattformen mit sogenannten "Erkennungsanordnungen" zu beauftragen und sie zu verpflichten, neue Technologien - wie die sogenannte Perpetual-Hash-Funktion - zu nutzen, um Material über sexuellen Kindesmissbrauch (CSAM) zu erkennen. Im Gegensatz zum Kommissionsvorschlag müssten diese Anordnungen jedoch gezielt und zeitlich begrenzt sein und als "letztes Mittel" eingesetzt werden, wenn ein "begründeter Verdacht" besteht.
Im Gespräch mit Euronews nach der Abstimmung versicherte Zarzalejos, dass es dem Parlament gelungen sei, die Gratwanderung zwischen dem Schutz von Kindern im Internet und dem Schutz des Grundrechts auf digitale Privatsphäre zu meistern.
"Es geht darum, das richtige Gleichgewicht zwischen dem Schutz von Kindern und der Schaffung eines rechtlichen Rahmens zu finden, der den Schutz der Privatsphäre und den Datenschutz gewährleistet", sagte Zarzalejos: "Es ist aus rechtlicher Sicht komplex, aber auch im Hinblick auf die Intrusivität der Technologien, die eingesetzt werden sollten, um Material über sexuellen Missbrauch von Kindern zu erkennen und zu entfernen."
"Dieses Gleichgewicht ist erreicht worden. Und ich denke, dass die breite Unterstützung, die dieses Dossier erhalten hat, sehr aufschlussreich für den Geist des Kompromisses und die Bedeutung ist, die alle Fraktionen diesem Vorschlag beimessen", fügte er hinzu.
Das Parlament hat auch den Vorschlag unterstützt, ein EU-Zentrum für Kinderschutz einzurichten, das in Zusammenarbeit mit den zuständigen nationalen Behörden und Europol, der in Den Haag ansässigen EU-Strafverfolgungsbehörde, bei der Umsetzung der neuen Vorschriften helfen soll.
Das Zentrum soll dabei helfen, Aufdeckungstechnologien zu entwickeln, Untersuchungen durchzuführen und gegebenenfalls Geldstrafen gegen Plattformen zu verhängen.
Die Abgeordneten schlugen außerdem vor, ein neues beratendes Forum einzurichten, um sicherzustellen, dass die Stimmen der Opfer gehört werden.
"Das EU-Zentrum wird als zentrale Institution von großer Bedeutung sein, und zum ersten Mal werden die Opfer und Überlebenden in einem beratenden Forum innerhalb des Europäischen Zentrums anerkannt werden. Ich denke also, dass dieses Dossier alles in allem die notwendigen Instrumente bereitstellen wird, um sowohl rechtlich solide als auch effektiv zu sein", sagte Zarzalejos.
Gezielte" Aufdeckungsanordnungen
Die im Kommissionsvorschlag enthaltenen und heftig umstrittenen Aufdeckungsanordnungen würden digitale Nachrichtendienste dazu verpflichten, Client-Side-Scanning (CSS)-Technologie einzusetzen, um die verschlüsselten Nachrichten der Nutzer abzuhören.
In einer im Mai veröffentlichten Stellungnahme zu dem Vorschlag äußerte der Juristische Dienst des Rates der EU "ernste rechtliche Bedenken" gegen die Aufspürungsanordnungen und ihren potenziellen "schwerwiegenden Eingriff in die Grundrechte", die im EU-Recht verankert sind.
Der Positionsentwurf des Parlaments fordert, dass verschlüsselte Kommunikation vom Anwendungsbereich von Detektionsanordnungen ausgenommen wird. Die CSS-Technologie gefährde die "Integrität und Vertraulichkeit" der verschlüsselten Kommunikation, heißt es in dem Kompromisstext.
Die Abgeordneten haben auch den Anwendungsbereich von Ermittlungsanordnungen auf gerichtliche Anordnungen in Situationen mit begründetem Verdacht deutlich eingeschränkt.
Die europäische Gruppe für digitale Rechte (EDRi), die den Kommissionsvorschlag strikt ablehnt, begrüßt den Kompromiss des Parlaments.
WERBUNG"Die Abgeordneten haben zu Recht erkannt, dass niemand im Internet sicher sein wird, wenn die EU die Verschlüsselung aufhebt", sagte Ella Jakubowska, Senior Policy Advisor bei EDRi.
"Dies ist ein entscheidender Schritt, um sicherzustellen, dass die Regulierung des Internets auf Beweisen und der rechtlichen und technischen Realität basiert und nicht auf Versprechungen von KI-Unternehmen", fügte Jakubowska hinzu.
Kinderrechtsaktivisten haben dem Parlament jedoch vorgeworfen, dass es kurzsichtig sei, die Ambitionen der Kommission zu verwässern. Laut ECPAT International - einer globalen Plattform zur Beendigung der sexuellen Ausbeutung von Kindern - wird die Beschränkung der Fahndungsbefehle auf bestimmte Verdächtige es den Tätern ermöglichen, weiterhin unter dem Radar der Strafverfolgung zu missbrauchen.
Amy Crocker, Leiterin des Bereichs Kinderschutz und Technologie bei ECPAT, sagte, der Entwurf des Parlaments sei "ein alarmierender Rückschlag für die Sicherheit von Kindern im Internet".
"Er steht im krassen Widerspruch zu den Erwartungen der europäischen Bürger und untergräbt aktiv die Sicherheit unserer Kinder in digitalen Räumen. Es ist eine Entscheidung, die die Bürokratie über das Wohl der Kinder stellt", sagte sie.
WERBUNGGrooming könnte unentdeckt bleiben
Um das Online-Grooming von Minderjährigen zu bekämpfen, haben sich die Abgeordneten am Dienstag dafür ausgesprochen, dass digitale Dienste, die sich an Kinder richten, die Zustimmung der Nutzer für unerwünschte Nachrichten benötigen, Sperr- und Stummschaltungsoptionen haben und die elterliche Kontrolle verstärken.
Die Kommission wollte jedoch noch weiter gehen und KI-gestützte Sprachmodelle einsetzen, um Verhaltensmuster zu erkennen, die auf das Grooming von Kindern hindeuten könnten, um Online-Raubtiere zu erwischen.
ECPAT sagte: "Die Entscheidung gegen die Erkennung von Grooming bedeutet, dass wir die Möglichkeit aufgeben, zukünftigen Schaden von vornherein zu verhindern."
Ein neuer Bericht, der im Oktober von der WeProtect Global Alliance veröffentlicht wurde, legt nahe, dass soziale Spieleplattformen zu gefährlichen neuen Umgebungen für die Interaktion zwischen Erwachsenen und Kindern werden, in denen Gespräche innerhalb von nur 19 Sekunden zu hochriskanten Grooming-Situationen eskalieren können, wobei die durchschnittliche Grooming-Zeit 45 Minuten beträgt.
Laut Zarzalejos werden neue Maßnahmen zur Risikominderung auf den Plattformen jedoch dazu beitragen, Kinder vor solchen Gefahren zu schützen.
WERBUNG"Ich möchte klarstellen, dass Grooming in den Anwendungsbereich der Verordnung fällt. Es wird Maßnahmen zur Risikominderung geben, die speziell darauf ausgerichtet sind, Grooming zu verhindern", sagte er.
"Die einzige Änderung, auf die wir uns geeinigt haben, besteht darin, Grooming aus der Aufdeckungsprüfung herauszunehmen", fügte er hinzu.