Die europäische NGO AI Forensics hat auf Telegram ein Missbrauchsnetz entdeckt: Dort haben mehrere tausend Nutzer, meist Männer, sexualisierte Bilder, Deepfakes und Missbrauchsdarstellungen geteilt und verkauft.
Es geht um Zehntausende Nacktbilder von Frauen, die ohne Zustimmung der Betroffenen getauscht und für Geld gehandelt worden sind. Das Netzwerk dahinter wurde von der Aktivistengruppe AI Forensics aufgedeckt.
WERBUNG
WERBUNG
Ein Netzwerk mit knapp 25.000 Personen soll über den Messenger-Dienst Telegram in Spanien und Italien Bildmaterial mit sexuellen Darstellungen, Deepfakes und Nacktbilder verbreitet haben. Unter den Bildern sollen auch Darstellungen von Kindesmissbrauch sein.
Das europäische Non-Profit-Institut AI Forensics, das sich mit der Untersuchung von Algorithmen befasst, stellte nach der Auswertung von 2,8 Millionen Telegram-Nachrichten aus 16 Gruppen über einen Zeitraum von sechs Wochen ein "Ökosystem des Missbrauchs im großen Maßstab" fest.
Dem Bericht zufolge handelt es sich bei den meisten Nutzern um junge, heterosexuelle Männer. Sie verbreiten Material von Frauen aus ihrem persönlichen Umfeld – etwa Partnerinnen, Ex-Partnerinnen oder Bekannten. Die extremsten Inhalte zeigen Kinder in inzestuösen und gewaltsamen Szenarien.
Der Bericht erscheint nur wenige Wochen, nachdem Mitglieder des Europäischen Parlaments ein Verbot von KI-Systemen unterstützt haben, die Bilder "entkleiden" – also durch künstliche Intelligenz Kleidung entfernen und so gefälschte Nacktaufnahmen ohne Zustimmung erzeugen.
Laut dem European Institute for Gender Equality hat jede dritte Frau in der Europäischen Union seit ihrem 15. Lebensjahr sexualisierte Gewalt erlebt, einschließlich digitaler Gewalt.
Netzwerk nährt sich aus direktem Umfeld der Täter
Die Studie zeigt, dass die Täter das Ausgangsmaterial häufig aus privaten Unterhaltungen auf Instagram und WhatsApp beziehen.
Die Inhalte werden monetarisiert: Für den vollständigen Zugang zu Kanälen und Archiven verlangen die Betreiber einmalige Gebühren von bis zu 50 Euro, teilweise auch monatliche Abonnements von rund fünf Euro.
Zudem werden sogenannte "Nudify"-Bots auf den Kanälen beworben, mit denen sich weitere nicht einvernehmliche Inhalte generieren lassen. Dadurch habe sich laut AI Forensics die Menge, Geschwindigkeit und Leichtigkeit der Verbreitung deutlich erhöht.
Die betroffenen Frauen werden häufig namentlich genannt, markiert und über geteilte Profil-Links auffindbar gemacht. Die Inhalte werden anschließend auch auf Plattformen wie TikTok und Instagram weiterverbreitet. Reddit diente dabei als "Rekrutierungsplattform", über die Links zu den ursprünglichen Telegram-Kanälen verbreitet werden.
Insgesamt erreichten die Inhalte laut Bericht rund 52.000 Personen – etwa 27.000 in Italien und 25.000 in Spanien. Die NGO sieht darin ein strukturelles Problem mit europaweiter Dimension, das eine gemeinsame europäische Antwort erfordere.
Kritik an der Moderation von Telegram
Zwar habe Telegram einige der beobachteten Gruppen geschlossen, diese seien jedoch "nur wenige Stunden später" unter denselben Namen wieder aufgetaucht. Das deute darauf hin, dass die Moderation der Plattform unzureichend sei.
AI Forensics empfiehlt unter anderem bessere Meldemechanismen und eine konsequentere Durchsetzung der Plattformregeln – insbesondere im Hinblick auf kostenpflichtige Angebote. Erst dadurch wurde die Monetarisierung solcher Inhalte ermöglicht.
Zudem fordert die Organisation, dass die Europäische Kommission Telegram als „Very Large Online Platform“ (VLOP) im Rahmen des Digital Services Act einstuft. Damit würden strengere Auflagen gelten, etwa mehr Transparenz über Algorithmen und verpflichtende Risikoanalysen für schädliche Inhalte.
Telegram selbst hatte im Februar angegeben, in der EU "deutlich weniger" als 45 Millionen Nutzer zu haben – die Schwelle für eine solche Einstufung.
Darüber hinaus fordert AI Forensics, dass der europäische AI Act Regelungen enthält, die das Entfernen von Darstellungen sexualisierter Gewalt und nicht einvernehmlicher Inhalte erleichtern.
Eine Stellungnahme von Telegram lag zunächst nicht vor. Laut den Nutzungsbedingungen der Plattform sind entsprechende Inhalte verboten.
Zur Bekämpfung von Missbrauch setzt Telegram sowohl automatisierte Systeme als auch menschliche Moderation ein. Nutzer können Inhalte melden; bei schweren Verstößen können Konten, Bots, Beiträge, Kanäle und Gruppen gesperrt oder gelöscht werden.