Verzweifelte Soldaten, chaotische Zustände, Kritik an der Führung: Genau dieses Bild sollen KI-generierte Videos aus pro-russischen Netzwerken von der Ukraine zeichnen. Experten warnen vor einer neuen Form digitaler Kriegsführung.
Ein in sozialen Medien verbreitetes Video zeigt einen verzweifelten ukrainischen Soldaten, der seine Kamera schwenkt und Schützengräben filmt, in denen Tote und Verletzte liegen. Solche Aufnahmen vermitteln den Eindruck, die erschütternde Realität an der Front zu zeigen, die viele Ukrainer im Kampf gegen russische Truppen erleben - und sind damit zu einem wichtigen Element moderner Kriegsführung geworden.
WERBUNG
WERBUNG
Tatsächlich handelt es sich bei dem weit verbreiteten Material jedoch um künstlich erzeugte Inhalte, wie das auf forensische KI-Erkennung spezialisierte Unternehmen Sensity AI festgestellt hat.
Deepfakes sollen Vetrauen in Militär untergraben
Die Forscher warnen davor, dass Deepfakes gezielt eingesetzt werden, um die öffentliche Meinung zu beeinflussen und das Vertrauen in das Militär zu untergraben. Dabei werden authentisch wirkende Videos ukrainischer Soldaten vorgetäuscht, die scheinbar ihren Alltag an der Front dokumentieren.
Die Clips sind so gestaltet, dass sie wie echtes Material von der Front wirken. In einem anderen in sozialen Medien verbreiteten Video ist etwa ein Soldat zu sehen, der die militärische Führung der ukrainischen Armee kritisiert.
"Ich will nicht mit ihnen dienen", sagt der Soldat in dem Video. "Und ich brauche sie auch nicht."
Nach Angaben von Sensity wurden mehr als 1.000 ähnliche Videos in sozialen Medien gefunden. Daraus identifizierten die Forscher einen Kerndatensatz von 60 Videos, die mit Hilfe künstlicher Intelligenz manipuliert worden waren.
Diese Videos enthalten KI-generierte Gesichter und unnatürlich klingende Stimmen. In einigen Fällen wird echtes Filmmaterial mit künstlich erzeugten Elementen kombiniert, was es deutlich schwerer macht, Unstimmigkeiten zu erkennen.
Von TikTok bis zum Pravda-Netzwerk
Sensity zufolge folgen diese Videos einem klaren Verbreitungsmuster, das sicherstellen soll, dass sie sich möglichst weit in sozialen Netzwerken verbreiten und die Feeds der Nutzer überschwemmen. In den von Sensity untersuchten Fällen wurden die Videos in der Regel zunächst von neu eingerichteten oder anonymen Accounts auf Plattformen wie TikTok oder Telegram hochgeladen.
Sobald sie dort Aufmerksamkeit erzeugen - also angesehen, geliked und kommentiert werden -, werden sie auf Plattformen wie X, Facebook, Instagram und YouTube weiterverbreitet. Dort belohnen die Algorithmen emotional aufgeladene Inhalte, indem sie sie noch sichtbarer machen.
Sobald sich die Erzählungen in sozialen Medien etabliert haben, werden sie nach Angaben von Sensity auch von pro-russischen Militärbloggern oder kremlnahen Medienseiten wie dem Pravda-Netzwerk aufgegriffen.
Untergrabung der Moral
Auch wenn sich die Videos im Detail unterscheiden, transportieren sie ähnliche Botschaften - mit dem klaren Ziel, die Wahrnehmung des Krieges zu beeinflussen.
So zeigen sie Soldaten, die an der Lage an der Front verzweifeln. Zugleich wird behauptet, die ukrainische Militärführung sei unfähig oder abwesend, und es werden Vorwürfe des Missmanagements innerhalb der Armee verbreitet.
Viele dieser Videos zielen außerdem darauf ab, Kapitulation als normal erscheinen zu lassen, indem sie ukrainische Soldaten zeigen, die behaupten, das Verlassen ihrer Stellungen sei ihr einziger Ausweg aus dem Krieg.
Das Ziel dieser Videos sei es, das Vertrauen in die Institutionen und die militärische Führung der Ukraine zu untergraben und die Moral zu schwächen, sagte Francesco Cavalli, Gründer von Sensity.
"Die eigentliche Gefahr dieser Videos auf Plattformen wie TikTok und Meta besteht nicht nur darin, dass einige Nutzer sie glauben", sagte er. "Sie können auch in großem Maßstab Wahrnehmungen beeinflussen, in schnelllebigen Situationen Verwirrung stiften und nach und nach das Vertrauen in das untergraben, was Menschen sehen."
"Die alte Sorge galt einem gefälschten Video eines Präsidenten. Die neue Realität sind Tausende synthetische Videos, die sich an kleinere Zielgruppen richten - und bei denen kein einzelner Clip viral gehen muss, um Wirkung zu entfalten."