Gefälschte Massenproteste: Wie KI auf TikTok Europas Nutzer täuscht

Auf TikTok kursiert eine Reihe KI-generierter Videos. Sie zeigen scheinbar Tausende Demonstrierende in verschiedenen europäischen Städten – gegen Migration, den Zustand des Landes, die aktuelle Regierung oder für nationalistische Ziele. Die analysierten Clips wurden in den vergangenen vier Monaten veröffentlicht. Einige von ihnen verzeichneten mehr als 300.000 Aufrufe.

WERBUNG

WERBUNG

The Cube, das Faktencheck-Team von Euronews, hat solche Inhalte für Nutzerinnen und Nutzer in Portugal, Frankreich, Deutschland, Irland, Italien und dem Vereinigten Königreich identifiziert.

Viele scheinen die gezeigten Szenen für echt zu halten. Keiner der in diesen Videos dargestellten Proteste hat jedoch tatsächlich stattgefunden. Die Macher der Videos nutzen verschiedene Tricks, um den Eindruck zu erwecken, dass die gezeigten Demonstrationen real sind.

Schon der Auftritt wirkt seriös: Viele Videos geben sich als Beiträge echter Nachrichtensender aus.

So scheint in einem Clip eine portugiesische Reporterin für den öffentlich-rechtlichen Sender RTP zu sprechen, erkennbar am Logo auf ihrem Mikrofon. Auch die eingeblendete Grafik erinnert stark an das Design des privaten Nachrichtensenders SIC Notícias.

Auch der Ort passt nicht: An der Stelle, an der das Video das Gebäude zeigt, fließt in Wirklichkeit der Tejo.

The Cube fragte zudem bei RTP nach. Der Sender erklärte, dass die in dem KI-Video auftauchende Frau nicht für RTP arbeite und keinerlei Verbindung zu dem auf TikTok verbreiteten Clip bestehe. Die in den Videos genannten Gründe für die angeblichen Proteste bleiben vage, etwa Wut über "den Zustand des Landes".

Einige Botschaften greifen jedoch Parolen rechtsextremer Parteien auf. In mehreren deutschen Clips, die The Cube gefunden hat, finden sich beispielsweise Bildunterschriften, die die Partei Alternative für Deutschland (AfD) unterstützen. Auch in den Kommentaren fordern Nutzer immer wieder solche Parteien dazu auf, "einzugreifen" und Probleme wie Migration zu lösen.

Namentlich genannt werden unter anderem André Ventura von der portugiesischen Rechtsaußenpartei Chega, der französische Rassemblement National sowie Alice Weidel von der AfD in Deutschland.

Am Ende der meisten Clips werden die Zuschauerinnen und Zuschauer aufgefordert, zu kommentieren – etwa, was sie von den Protesten halten oder aus welcher Stadt sie zuschauen. Experten sehen das Ziel dieser massenhaft produzierten Videos darin, die öffentliche Wahrnehmung zu beeinflussen und gesellschaftliche Spaltungen in Europa zu vertiefen. Das kann den demokratischen Diskurs beeinträchtigen.

"Das Publikum reagiert auf solche Videos vor allem deshalb, weil synthetische Bilder direkt an bestehende politische Ängste und kulturelle Konflikte anknüpfen", sagte Bruna Martins dos Santos von WITNESS, einer globalen Organisation, die sich mit den Auswirkungen neuer Technologien wie generativer KI und Deepfakes beschäftigt, gegenüber The Cube.

Altbekannte Desinformationsmuster

Alle diese Videos nutzen drei gängige Techniken der Desinformation: emotionale Sprache, KI-generierte Inhalte und Polarisierung. Diese Mittel dienen meist als Lockmittel für mehr Interaktion, so Martins dos Santos. "Themen wie Migration, Nationalismus oder der vermeintliche Niedergang der Gesellschaft lösen starke Emotionen aus", erklärte sie.

"Auf Kurzvideo-Plattformen zählt der erste Eindruck: Bilder von großen Menschenmengen, Fahnen und Sprechchören wirken, bevor Zuschauerinnen und Zuschauer den Wahrheitsgehalt hinterfragen."

Empfehlungsalgorithmen in sozialen Netzwerken verstärken diesen Effekt zusätzlich, indem sie provokante Bilder gezielt den Menschen anzeigen, die am ehesten darauf ansprechen. Der Einsatz von KI macht die Produktion solcher Inhalte billig und beliebig skalierbar. Das treibt Aufrufzahlen, Follower-Zahlen und Interaktionen in die Höhe, sagte Martins dos Santos.

Warum bleiben solche Inhalte online?

Die Videos tragen zwar den von TikTok gesetzten Hinweis, dass es sich um KI-generierte Inhalte handelt. Die Plattform betont, dass sie KI-generierte Inhalte verbietet, wenn sie "in Bezug auf Themen von öffentlicher Relevanz irreführend" sind oder gegen ihre Richtlinien gegen Falschinformationen verstoßen.

TikTok geht noch weiter: "Nicht gekennzeichnete Inhalte können je nach potenziellem Schaden entfernt, eingeschränkt oder von unserem Team gekennzeichnet werden." Trotzdem rutschen offenbar einige Videos durch. "Dass diese Clips online bleiben, kann auf Verstöße gegen TikToks eigene Regeln hinweisen, zeigt aber auch mögliche Schwächen bei den Erkennungssystemen der Plattform", sagte Martins dos Santos.

Zudem verpflichtet der europäische Digital Services Act Plattformen dazu, wirksam gegen Inhalte vorzugehen, die "die öffentliche Debatte und Wahlprozesse" negativ beeinflussen könnten. "Dass diese Videos weiter kursieren, bedeutet zwar nicht automatisch, dass TikTok seine eigenen Regeln verletzt. Es wirft aber kritische Fragen zur Wirksamkeit der Erkennungssysteme, der Kennzeichnungspraxis und der Empfehlungsalgorithmen der Plattform auf", sagte Martins dos Santos. TikTok reagierte zunächst nicht auf eine Anfrage nach einer Stellungnahme.

Echte Proteste in Europa

Während die KI-Videos erfundene Demonstrationen zeigen, haben in den vergangenen Wochen tatsächlich in vielen Teilen Europas Proteste aus ganz unterschiedlichen Gründen stattgefunden.

Besonders viel Aufmerksamkeit erhielten Proteste in Spanien nach der Ceuta-Krise: Schätzungsweise 80.000 Menschen überschritten dort die Grenze zwischen Marokko und der spanischen Exklave in Nordafrika. Die meisten Migranten sind inzwischen zurückgekehrt. Schätzungen zufolge halten sich jedoch bis zu 13.000 weiterhin in Ceuta auf.

Das hat Proteste gegen den Umgang der Regierung mit der Krise ausgelöst. In Deutschland gingen Menschen gegen die AfD auf die Straße, nachdem die Partei Anfang September bei einer Landtagswahl einen Erdrutschsieg errungen hatte. In der Schweiz gingen zuletzt Tausende auf die Straße, um gegen das zu protestieren, was sie als Untätigkeit der Regierung angesichts der globalen Erwärmung empfinden.