Eine neue Studie zeigt: Jede fünfte Antwort von KI-Chatbots nutzt russische Propagandaseiten als Quelle. Das könnte Folgen für Nutzerinnen und Nutzer haben.
Russische Propaganda steckt in etwa jeder fünften Antwort von KI-Chatbots zur Ukraine. Das zeigt ein neuer Bericht.
Der britische Thinktank Institute for Strategic Dialogue (ISD) befragte OpenAIs ChatGPT, Googles Gemini, xAIs Grok und DeepSeek V3.2 mit mehr als 300 Fragen in fünf Sprachen zum Krieg in der Ukraine. Die Eingaben waren neutral, tendenziös oder böswillig formuliert.
Russische Quellen tauchten häufiger in tendenziösen und böswilligen Fragen auf. Zum Beispiel bei Bitten um Quellen zu ukrainischen Geflüchteten, die „Terroranschläge planen“, oder zu angeblichen „Zwangsrekrutierungen von Männern auf offener Straße“.
Die Forschenden sehen darin einen Beleg für den Bestätigungsfehler. KI-Systeme übernehmen die Sprache der Nutzerinnen und Nutzer. Das prägt ihre Formulierungen und beeinflusst, welche Quellen sie nutzen.
Am deutlichsten zeigte sich das bei ChatGPT, so der Bericht. Das System nannte bei tendenziösen oder böswilligen Prompts dreimal so viele russische Quellen wie bei neutralen Fragen zum Krieg. Grok verwies selbst bei neutralen Fragen am häufigsten auf russische Quellen.
Wie schnitten die einzelnen Plattformen ab?
Bei zwei Anfragen an DeepSeek lieferte der Chatbot vier Links zu prorussischen Quellen. Das sei die höchste Zahl an Links in einer einzelnen Antwort gewesen, betonen die Forschenden.
Die Antworten zitierten die Website VT Foreign Policy. Laut Bericht verbreitet sie Inhalte von russischen Propagandagruppen wie Storm-1516 oder der Foundation to Battle Injustice sowie von den Mediengruppen Sputnik und Russia Today.
Grok verlinkte am ehesten direkt auf Journalistinnen und Journalisten von Russia Today, indem es deren Beiträge auf der Plattform X als Quelle nutzte. Das, so die Forschenden, „verwässert die Grenze zwischen offener Propaganda und persönlicher Meinung“.
Zudem wecke Grok laut Bericht Zweifel an der Fähigkeit von Chatbots, Inhalte sanktionierter Staatsmedien zu erkennen und zu begrenzen, wenn Dritte wie Influencer sie erneut posten.
Gemini verweigerte bei einigen böswillig formulierten Prompts die Antwort. Stattdessen teilte das System den Forschenden mit, es könne nicht „bei Themen helfen, die möglicherweise unangemessen oder unsicher sind“.
Das ISD hält fest, dass Gemini als einziger Chatbot „die Risiken tendenziöser und böswilliger Prompts“ zum Krieg in der Ukraine erkennt. In anderen Antworten verlinkte das System jedoch nicht auf die Quellen, die es zur Beantwortung der Fragen nutzte.
Russische Quellen häufiger in „Datenlücken“
Staatliche russische Quellen tauchten am häufigsten bei Fragen zur ukrainischen Rekrutierung auf: In 40 Prozent der Grok-Antworten und in über 28 Prozent der ChatGPT-Antworten wurde mindestens eine Quelle aus Russland genannt.
ChatGPT und Grok verwiesen außerdem in 28,5 Prozent ihrer Antworten auf Quellen aus dem Kreml. Fragen zu Kriegsverbrechen und zu ukrainischen Geflüchteten führten dagegen bei allen vier Chatbots am seltensten zu prorussischen Quellen.
Die Forschenden vermuten, dass Chatbots russische Quellen häufiger nutzen, wenn ein Thema eine Datenlücke darstellt. Gemeint sind Suchanfragen, zu denen es nur wenige hochwertige Treffer gibt.
Der US-amerikanische gemeinnützige Thinktank Data and Society berichtet, dass Datenlücken schwer zu erkennen sind, weil sie oft bei ungewöhnlichen Suchanfragen auftreten oder in akuten Nachrichtenlagen. Dann dauert es, bis verlässlicher Journalismus die Ergebnisse füllt.