Die EU-Initiative „Chat Control“ gegen sexuellen Kindesmissbrauch im Netz sorgt für Streit: Plattformen sollen private Chats nach illegalen Inhalten durchsuchen.
Chat Control wurde erstmals 2021 entwickelt und liegt nun in abgeschwächter Form zur Genehmigung vor. Die Initiative der Europäischen Union soll helfen, Darstellungen des sexuellen Missbrauchs von Kindern (CSAM) zu bekämpfen. Vorgesehen sind Regeln, nach denen Messenger-Dienste, soziale Netzwerke und E-Mail-Anbieter private digitale Kommunikation auf illegale Inhalte durchsuchen dürfen. Der Gesetzgebungsprozess stockt: Das Europäische Parlament und der Rat konnten sich bislang nicht auf einen endgültigen Text einigen.
WERBUNG
WERBUNG
Befürworter betonen, dass automatisierte digitale Werkzeuge nötig seien, um Kinder im Netz besser zu schützen. Datenschützer und Sicherheitsexperten warnen jedoch, dass die Pläne letztlich eine Massenüberwachung legalisieren könnten.
Der Gesetzgebungsprozess ist in zwei Vorhaben gegliedert: eine Übergangsregelung (Chat Control 1.0) und eine dauerhafte Regulierung (Chat Control 2.0). Chat Control 1.0 schafft eine Ausnahme von der EU-ePrivacy-Richtlinie. Plattformen dürfen unverschlüsselte Kommunikation auf freiwilliger Basis scannen. Chat Control 2.0 ist der Vorschlag der Kommission für ein dauerhaftes, verpflichtendes Gesetz.
Im Mittelpunkt der Debatte steht die Ende-zu-Ende-Verschlüsselung, mit der Apps sicherstellen sollen, dass nur Absender und Empfänger Nachrichten lesen können. Damit auch verschlüsselte Inhalte geprüft werden können, verlangt der Entwurf von Technikunternehmen den Einsatz von „Client-side-Scanning“. Die Software greift direkt auf dem Gerät der Nutzerin oder des Nutzers ein und analysiert Nachrichten, bevor sie verschlüsselt werden.
Organisationen für digitale Rechte und technische Fachleute warnen, dass die automatisierten KI-Filter für diese Scans unzuverlässig sind und häufig Fehlalarme auslösen. Gewöhnliche Familienfotos oder Nachrichten könnten als illegal markiert werden. Das würde automatische Meldungen an Strafverfolgungsbehörden auslösen und die Unschuldsvermutung verwässern.
Sollten Nutzer Sicherheit über Privatsphäre stellen? Reicht eine KI-Lösung aus? Unsere Umfrage ist anonym und dauert nur wenige Sekunden. Die Ergebnisse fließen in unsere EU-weite XL-Berichterstattung ein – in Videos, Artikeln und Newslettern – und helfen, unsere Berichterstattung zu bereichern, wenn wir untersuchen, wie Europa seine Position im Zeitalter der Künstlichen Intelligenz sichern kann.