Eine ursprünglich für den Bildungsbereich entwickelte KI-Figur wird zum viralen politischen Meme, das sich in ganz Europa verbreitet und zunehmend mit rechtsextremen, irreführenden oder polarisierenden Inhalten in Verbindung gebracht wird.
Nahezu identische, von einer künstlichen Intelligenz generierte Figuren tauchen in ganz Europa auf X und Facebook auf und verbreiten einwanderungs- und regierungsfeindliche Botschaften. Versionen derselben Figur erschienen beispielsweise als niederländischsprachige "Emma", deutsche "Maria" und irische "Amelia".
Jede Figur ist mit nationalen Symbolen und politischen Bezügen ausgestattet: In Deutschland trägt Maria ein traditionelles bayerisches Dirndl, schwärmt von einem "kalten Bier in unserer Dorfkneipe" und behauptet, die Regierung schütze sie nicht mehr. Sie ruft "tapfere Ritter" dazu auf, ihr Heimatland vor muslimischen Einwanderern zu verteidigen. In den Niederlanden fordert die KI-Kreation Emma, dass Weihnachten "auf traditionelle Weise" gefeiert werden solle. In Irland bezeichnet eine rothaarige Version der Figur Premierminister Micheál Martin als "Sprachrohr für Brüssel" und kritisiert die angeblich "offenen Grenzen", obwohl Irland nicht zum Schengen-Raum gehört.
Diese Videos erreichten auf X Tausende Aufrufe und Interaktionen. Alle Nachahmungen lassen sich auf die erste, bekannteste Version zurückverfolgen, die im Vereinigten Königreich erschien: Amelia, ein von KI generiertes Schulmädchen mit lila Haaren. Ihr erstes virales Posting erreichte über 1,4 Millionen Aufrufe. Auf Facebook, Instagram, X und Telegram tauchen Amelia-Versionen in Manga-Comics auf oder neben Harry Potter und der britischen Königsfamilie, oft verbunden mit Botschaften, die die Bevölkerung auffordern, angesichts muslimischer Einwanderung und einer angeblich unfähigen Regierung "ihr Land zurückzuholen".
Amelias Ursprung
Die Organisation, die die Figur ursprünglich geschaffen hat, betont, dass viele Online-Erzählungen über Amelia irreführend sind. Die erste Version erschien in Pathways, einem Lernspiel des britischen Sozialunternehmens Shout Out UK in Zusammenarbeit mit den lokalen Behörden von Hull und East Riding of Yorkshire. Das Projekt wurde vom britischen Innenministerium im Rahmen eines Programms zur Prävention von Extremismus finanziert.
Das Spiel fordert Schüler auf, einen Charakter auszuwählen und in Online-Szenarien Entscheidungen zu treffen, wie sie auf Posts, Nachrichten und Gruppendruck reagieren. Matteo Bergamini, CEO von Shout Out UK, erklärte gegenüber Euronews, dass das Spiel 2023 entwickelt wurde, nachdem lokale Behörden in Hull und Yorkshire festgestellt hatten, dass Online-Radikalisierung besonders für 13- bis 18-Jährige gefährlich ist. Die Bedrohung ging vor allem vom aufkommenden rechtsextremen Online-Ökosystem aus.
Amelia ist im Spiel keine Protagonistin oder Vorbildfigur, sondern eine Nebenfigur, die riskantes Online-Verhalten provoziert. Entgegen kursierender Online-Behauptungen schlägt das Spiel nicht vor, dass Kinder wegen kritischer Ansichten zur Massenmigration an das britische Prevent-Programm verwiesen werden. Vielmehr scheint das Amelia-Mem in rechtsextremen Kreisen als Reaktion auf eine satirische Kritik an ihrer Haltung zu Einwanderung und dem "Nanny-Staat" entstanden zu sein.
Extreme Versionen und Monetarisierung
Die meisten Amelia-Memes auf Mainstream-Plattformen wie X sind harmlos und fallen nicht unter die Vorschriften des Digital Services Act (DSA), der die Entfernung illegaler Inhalte wie Hassreden, Terrorismus oder sexueller Ausbeutung von Kindern vorschreibt. Dennoch existieren extreme Versionen in Nischen-Communities und auf Plattformen wie Telegram.
Siddharth Venkataramakrishnan vom Institute for Strategic Dialogue (ISD) erklärt, dass Amelia von einer Vielzahl von Online-Gemeinschaften aufgegriffen wurde – von ironischer Nutzung bis zu großen Anti-Migrations-Konten. Einige Versionen enthalten entmenschlichende und gewalttätige Inhalte gegen bestimmte Gruppen. Shout Out UK berichtet, dass die Figur von rechtsgerichteten Akteuren "memefiziert und sexualisiert" wurde, oft mit rassistischer und antisemitischer Sprache sowie Bezügen zu Nazis und rechtsextremen Tropen. Die Kampagne führte sogar zu Drohungen und bösartigen Nachrichten an die Mitarbeiter.
Amelia dient zudem monetären Zwecken: ISD entdeckte Konten, die "Amelia-Münzen" bewerben, ein üblicher Trend bei viralen Social-Media-Phänomenen. Dabei ist unklar, welche Accounts die Figur aus ideologischen Motiven posten und welche aus Profitgründen. Venkataramakrishnan betont: "Wo liegt die Grenze zwischen Unterstützung einer Sache aus Überzeugung und Unterstützung, um Geld zu verdienen?" Emotional aufgeladene Memes gewinnen in sozialen Medien besonders schnell an Reichweite, was den rasanten Erfolg von Amelia zusätzlich erklärt.