Forscher haben 47 YouTube-Kanäle festgestellt, in denen KI-generierte Moderatoren und Moderatorinnen über Konflikte und deutsche Politik sprechen. Dabei verbreiten die Fake-Experten teilweise Narrative. Ihre Videos erreichten über 7,5 Millionen Aufrufe.
Auf den ersten Blick wirkt die Frau in einem viel geteilten Onlinevideo wie eine deutsche Politikkommentatorin, die die Wahl in Sachsen-Anhalt einordnet.
WERBUNG
WERBUNG
Ein anderer Moderator spricht über den Krieg in Iran und über Chinas Rolle in dem Konflikt. Auf einem weiteren Kanal erläutert ein angeblicher Experte Veränderungen in der globalen Ordnung.
Sie alle haben eins gemeinsam - all die Moderatoren sind nicht echt. Sie wurden mithilfe von künstlicher Intelligenz erzeugt. Diese Moderatoren treten in einer Reihe deutschsprachiger YouTube-Kanäle auf, die das gemeinnützige Centre for Monitoring, Analysis and Strategy (CeMAS) untersucht hat.
Die Organisation konnte 47 Kanäle feststellen, die KI-generierte Moderatoren für politische und geopolitische Themen einsetzen. 38 dieser Kanäle haben die Forscher näher ausgewertet und dokumentierten 1.876 einschlägige Videos, die zwischen Dezember 2025 und August 2026 erschienen sind.
Insgesamt haben die Kanäle mehr als 66.000 Abonnenten gewonnen. Die Videos verzeichneten rund 7,55 Millionen Aufrufe und fast 30.000 Kommentare – obwohl die Moderatoren gar nicht real sind.
In den Kommentarspalten zeigte sich, dass echte Nutzerinnen und Nutzer mit den Inhalten interagierten. Einige hielten sie offenbar für authentisch.
"Immer wieder schreiben Leute: 'Das ist doch KI, merkt ihr das nicht?'", sagte Lea Frühwirth, Senior Researcherin im Bereich Desinformation bei CeMAS im Interview mit dem Faktencheck-Team von Euronews, The Cube. "Und andere antworten darauf schlicht: 'Ist mir egal.'"
Koordiniertes Netzwerk verbreitet Fake-Experten
Mehrere Hinweise deuten nach Angaben von CeMAS darauf hin, dass die Konten zu einer abgestimmten Kampagne gehören könnten.
"Wir sehen mehrere Zeichen für abgestimmtes Vorgehen", sagte Frühwirth. "Es gibt Ähnlichkeiten bei den Themen, bei der Art der Präsentation, bei den Registrierungsdaten und bei dem Zeitraum, in dem besonders viele Inhalte veröffentlicht werden."
"Manche Accounts wechseln im Laufe der Zeit ihre Avatare", ergänzte sie. "Andere behalten das gleiche Gesicht, aber eine andere Stimme, und einige Avatare tauchen auf mehreren Kanälen auf."
Die innenpolitische Lage in Deutschland war Thema in 795 der ausgewerteten Videos. Nach Darstellung von CeMAS zeichnen diese Clips das Bild eines Landes in tiefer politischer und wirtschaftlicher Krise und üben Kritik an der Regierung von Bundeskanzler Friedrich Merz.
Das fiel zusammen mit stark beachteten Kommunal- und Landtagswahlen in Deutschland. In Sachsen-Anhalt lag die Alternative für Deutschland (AfD) vorn und wird auch in Mecklenburg-Vorpommern knapp als stärkste Kraft prognostiziert.
Die Christlich Demokratische Union (CDU) von Merz dürfte dort knapp an der 5-Prozent-Hürde für den Einzug in den Landtag scheitern. In Berlin setzte sich unterdessen Die Linke als stärkste Kraft durch.
"Trotz des zeitlichen Zusammenhangs würde ich nicht davon ausgehen, dass es eine gezielt auf die Wahlen ausgerichtete Kampagne ist", sagte Frühwirth. "Die Erzählungen, die die Bundesregierung angreifen, spielen aber weiterhin eine Rolle in der breiteren Debatte rund um die Abstimmungen."
Eine separate Untersuchung des Analyseunternehmens für soziale Medien Graphika deckte ein ähnliches Muster auf: Künstliche Moderatoren diskutieren Weltpolitik auf Englisch, Französisch, Koreanisch, Portugiesisch und Spanisch.
Graphika konnte die Betreiber nicht identifizieren und auch nicht bestätigen, dass sämtliche Konten zu einem einzigen Netzwerk gehören. Die Firma fand jedoch Hinweise darauf, dass sie vermutlich ähnliche Werkzeuge zur Produktion und zur Verbreitung ihrer Inhalte nutzen.
CeMAS geht davon aus, dass die deutschsprachigen Kanäle Teil desselben größeren Musters sein könnten. Ein direkter Zusammenhang lässt sich bisher jedoch nicht belegen.
KI-Avatare immer schwerer zu erkennen
Viele der YouTube-Videos tragen einen Hinweis, dass die Inhalte verändert oder synthetisch erzeugt wurden.
Nach Angaben von Frühwirth ist dieser Hinweis klein und wenig aussagekräftig. Er macht nicht deutlich, ob nur einzelne Elemente des Videos per KI entstanden sind oder der gesamte Moderator.
"Das Label ist nicht so gestaltet, dass jede Person auf den ersten Blick versteht, dass das komplette Video ein Produkt von KI-Generierung ist", sagte sie.
Bei genauerem Hinsehen liefern die Videos jedoch einige Hinweise auf ihren künstlichen Ursprung. Die Forscher und Forscherinnen fanden Übersetzungsfehler, wechselnde Stimmen und Vorschaubilder, auf denen ein anderer Avatar zu sehen ist als im eigentlichen Clip.
Solche Signale lassen sich allerdings immer schwerer erkennen.
"Das Problem mit KI-generierten Inhalten ist, dass sie sich ständig verbessern", erklärte Frühwirth. "Wenn wir in drei Monaten wieder miteinander sprechen würden, hätten wir es mit völlig neuen Qualitätsstandards zu tun."
YouTube reagierte zunächst nicht auf eine Anfrage nach einer Stellungnahme.