In den vergangenen Jahren häufen sich auf TikTok und YouTube minderwertige, repetitive und teils brutale KI-Videos für Kinder. Laut einer Studie könnten sie geistige Einbußen und Aggressivität fördern.
KI-„Slop“, besonders KI-generierte animierte Obstvideos, könnte laut neuer Forschung zu erheblichem kognitivem Abbau und zu mehr Gewaltbereitschaft bei Kindern beitragen.
WERBUNG
WERBUNG
Eine Analyse des Global Network on Extremism and Technology (GNET) kommt zu dem Schluss, dass solche animierten Obstvideos, die derzeit Kinder-Feeds weltweit überschwemmen, heimlich „gewalttätige und extremistische Inhalte“ verbreiten könnten.
KI-„Slop“ bezeichnet massenhaft produzierte, stark repetitive und minderwertige KI-Inhalte mit kaum menschlicher Beteiligung. Sie zielen fast nur auf Views, Klicks, Interaktion und Werbeeinnahmen ab und lassen sich extrem günstig herstellen.
So kann eine einzelne Person Hunderte dieser Kurzvideos produzieren und mehrere Plattformen mit Inhalten fluten. Da viele soziale Netzwerke ständige Aktivität und Uploads belohnen, erreicht diese Strategie besonders effektiv Millionen von Kindern weltweit.
Das fördert kognitiven Abbau oder „Brain Rot“ – die kulturellen und psychologischen Folgen eines übermäßigen Konsums schneller, überstimulierender, absichtlich sinnloser Medien. Solche Inhalte sind oft absurd und bauen auf Gewohnheiten wie endlosem Scrollen und der Jagd nach sofortigen Dopamin-Kicks auf.
Der Boom günstiger, leicht zu erlernender und komfortabler Apps wie PixVerse, VeoE.ai, Media.io und Sora hat den starken Anstieg solcher KI-Inhalte in den vergangenen Jahren zusätzlich befeuert.
KI-„Slop“ treibt Online-Radikalisierung voran
KI-„Slop“ verbreitet radikalisierende Inhalte oft verdeckt – in Videos, die zunächst harmlos, absurd oder sogar lustig wirken, etwa animierte Obst-und-Gemüse-Clips.
Solche Clips erzählen häufig dramatische Geschichten über Liebe, Streit in der Familie, Betrug oder Affären. Die scheinbar harmlosen Früchte spielen dabei die Hauptrollen. Die Videos zeigen viel Aggression und emotionale Gewalt und überfordern leicht beeinflussbare Köpfe durch ihre Erzählmuster.
Oft dienen die Videos auch dazu, gewalttätigen Extremismus und Terroranschläge zu verherrlichen und zu verbreiten – verpackt in eingängige Clips, die auf virale Trends und Themen aufspringen.
In manchen Fällen zeigen KI-animierte Obst-und-Gemüse-Gewaltszenen Folter, extreme Verstümmelung und hyperrealistische Brutalität. Die vertraute Optik der Figuren kann das Publikum stark abstumpfen lassen.
Zu sehen sind zudem Attentate, Massenopfer und brutale Morde – etwa, wie eine Frucht eine andere mit einer Waffe tötet.
Viele dieser Clips ähneln in Stil und Botschaft den Produktionen extremistischer Gruppen, die rechtsradikale, nihilistische oder gewalttätige Ideologien propagieren, sowie kriminellen Kartellen.
Ein Beispiel ist die populäre Figur Carrot Khalifah. In einem Video ruft sie einer Armee zu, „der Karottenstaat wird wieder auferstehen“ – eine klare Anspielung auf bekannte Ideologie und Propaganda des „Islamischen Staates“ (IS).
Plattformen wie TikTok haben zwar Richtlinien gegen die Verbreitung extrem gewalttätiger Inhalte. Doch sie greifen nicht lückenlos. KI-Generatoren können Beschränkungen umgehen und sich hinter scheinbar harmlosen Videos verstecken.