Befürworter sehen im Chat-Scanning ein wichtiges Mittel gegen sexuelle Gewalt an Kindern. Kritiker warnen vor Fehlalarmen und davor, dass die Suche nach Inhalten direkt auf dem Gerät die Verschlüsselung untergraben könnte.
Wer heute eine Nachricht über Signal oder WhatsApp verschickt, fällt mit ihrem Inhalt vorerst nicht unter dieses EU-Regime. Wird dasselbe Foto über eine unverschlüsselte App versendet, kann es dagegen bereits von einem automatisierten System geprüft werden, bevor es jemand öffnet.
WERBUNG
WERBUNG
Diese Unterscheidung – und nicht der zugespitzte Vorwurf "Die EU liest deine Privatnachrichten" – steht im Zentrum der Debatte über die sogenannte Chatkontrolle und den Umgang mit Darstellungen sexualisierter Gewalt gegen Kinder, kurz CSAM, im Netz.
Eine wiederbelebte Übergangsverordnung, die bis zum 3. April 2028 gilt, erlaubt Plattformen, freiwillig private Nachrichten, Fotos und Videos auf CSAM zu durchsuchen. Ende-zu-Ende-verschlüsselte Dienste wie WhatsApp und Signal sind davon ausgenommen. Parallel verhandeln die EU-Staaten über einen dauerhaften Vorschlag, der häufig als "Chatkontrolle 2.0" bezeichnet wird. Ob dieser am Ende auch verschlüsselte Chats erfassen wird, ist die zentrale offene Frage.
Was als verdächtig gilt
Erkennungssysteme arbeiten im Wesentlichen auf zwei Arten. Die erste Methode ist der Hash-Abgleich: Ein Bild oder Video wird in einen kryptografischen Fingerabdruck umgewandelt und mit einer Datenbank bereits als illegal eingestufter Inhalte verglichen.
Das Verfahren ist schnell und bei identischen oder nahezu identischen Kopien sehr präzise. Allerdings lässt es sich oft schon durch kleine Veränderungen am Bild oder Video umgehen.
Die zweite Methode sind Klassifizierungen durch maschinelles Lernen. Sie kommen bei neuem oder veränderten Material zum Einsatz – und, noch umstrittener, beim Durchsuchen von Texten nach Sprachmustern, die auf Grooming hindeuten könnten.
Patrick Breyer, Digitalrechtsaktivist, Jurist und früherer Europaabgeordneter der Grünen/EFA, hält beide Verfahren für weniger verlässlich, als viele politische Entscheidungsträger annähmen. Selbst der Hash-Abgleich, der grundsätzlich genauer sei, "kommt mit einer sehr hohen Quote an Fehlalarmen und falschen Beschuldigungen", sagt er und verweist auf Deutschland.
Dort zeigten aktuelle Zahlen, dass "mehr als 50 Prozent der meisten Meldungen strafrechtlich gar nicht relevant sind".
Ein Teil des Problems liege nach seiner Einschätzung früher im Verfahren: Die Datenbanken entstünden häufig im Ausland und würden nicht nach europäischem Strafrecht überprüft. "Mitarbeiter von Anbietern, egal wo sie auf der Welt sitzen, tragen Inhalte in Datenbanken ein", sagt Breyer.
Oft fehle eine saubere rechtliche Bewertung der Absicht – obwohl sie darüber entscheiden könne, ob ein Vorgang überhaupt strafbar sei.
Wo gescannt wird
Auf unverschlüsselten Plattformen läuft die Prüfung auf den Servern des Anbieters. Bei Ende-zu-Ende-verschlüsselten Diensten kann ein Anbieter Nachrichten nach der Verschlüsselung nicht mehr lesen.
Jede Erkennung müsste deshalb weiter nach vorn in der Übertragungskette verlegt werden: direkt auf das Gerät, bevor die Nachricht verschlüsselt wird, oder in eine zusätzliche sichere Hardware-Schicht, die eigens dafür eingebaut würde.
Dieses Verfahren heißt "Client-Side-Scanning". Es ist der Hauptgrund, warum die Debatte über Verschlüsselung nicht abebbt: Die Nachricht wird geprüft, solange sie noch im Klartext vorliegt – "bevor das Schloss zufällt" – und nicht erst nach der Verschlüsselung.
Die derzeitige Übergangsregelung schließt ausdrücklich Maßnahmen aus, die Ende-zu-Ende-Verschlüsselung umgehen oder Client-Side-Scanning in verschlüsselter Kommunikation ermöglichen würden.
Was nach einem Treffer passiert
Ein markierter Inhalt landet nicht automatisch bei der Polizei. Nach Angaben von Anbietern wie Google geht ein Treffer – unabhängig davon, ob er durch Hash-Abgleich oder ein KI-Modell ausgelöst wurde – zunächst an geschulte Prüfer im Unternehmen.
Diese sollen bestätigen, ob tatsächlich ein Verdacht vorliegt, bevor eine Meldung an die Behörden erfolgt. Die Übergangsregeln sehen ebenfalls vor, dass ein menschlicher Prüfer Verdachtsfälle gegenprüft, bevor sie gemeldet werden.
Genau an diesem Punkt bricht der Prozess nach Breyers Ansicht in der Masse zusammen. Prüfer orientierten sich an unterschiedlichen Rechtsstandards, klärten die Absicht der Beteiligten oft nicht ausreichend und stuften alltägliches Sexting unter Jugendlichen oder selbst erstellte Bilder, die als Spaß in einer Chatgruppe kursierten, zu häufig falsch ein.
Viele der Minderjährigen, die auf diese Weise in Meldungen auftauchten, hätten laut Breyer nie etwas Illegales senden oder empfangen wollen. Sie hätten lediglich Inhalte in einer Gruppenunterhaltung weitergeleitet, "in der eigentlich über etwas ganz anderes gesprochen wurde".
Beim Bildabgleich werden Inhalte mit bereits eindeutig illegalem Material verglichen. Texte stellen ein anderes Problem dar: Die Sprache beim Grooming kann alltäglicher Kommunikation zwischen Jugendlichen oder Erwachsenen sehr ähnlich sehen.
Forschende bewerten textbasierte Erkennung deshalb als die fehleranfälligste Schicht des Systems. Diese Unterscheidung ist für den dauerhaften Rechtsrahmen entscheidend: Würden künftige Regeln von Bildern auf Gesprächstexte ausgeweitet, könnte sich das Fehlalarmproblem noch verschärfen.
Breyers Alternativen
Breyer lehnt Erkennung nicht grundsätzlich ab. Er wendet sich gegen massenhaftes Scannen. Aus seiner Sicht ist eine Durchsuchung nur dann gerechtfertigt, wenn "ein unabhängiges Gericht" einen konkreten Verdacht gegen eine Person bestätigt – vergleichbar mit einem richterlichen Beschluss zum Öffnen von Briefpost.
Alle Menschen "auf Verdacht" zu scannen, sei ein grundsätzlich anderer Eingriff.
Als Alternative verweist er auf zwei Ansätze. Erstens auf eine aktive Suche im offenen Web und im Darknet nach bereits bekannten illegalen Inhalten, die anschließend gemeldet und entfernt werden. Solche Programme liefen etwa im Vereinigten Königreich und in Kanada, in der EU bisher jedoch nicht.
Zweitens plädiert er für "Security by Design". Apps könnten Nutzerinnen und Nutzer direkt auf dem Gerät warnen, bevor sie etwa eine Telefonnummer oder ein Nacktbild teilen – ohne dass Inhalte das Telefon verlassen.
Was mit Ihren Daten geschieht
Der Umgang mit einer Nachricht hängt derzeit vollständig davon ab, über welche App sie verschickt wird. Auf unverschlüsselten Plattformen können Inhalte vor oder unmittelbar nach dem Versand als Fingerabdruck erfasst oder algorithmisch durchsucht, anschließend von geschultem Personal geprüft und bei bestätigtem Verdacht gemeldet werden.
In Ende-zu-Ende-verschlüsselten Apps besteht diese Kette derzeit nicht. Die noch offene Dauerregelung könnte aber verändern, ob und wie früh eine Scanschranke in solchen Diensten eingerichtet wird.