Studie des Meta-Oversight-Boards: Führende KI-Chatbots kritisieren demokratische Staats- und Regierungschefs eher als autoritäre und schüren Angst vor stiller Zensur über Grenzen hinweg.
Studie: KI-Chatbots verbreiten staatliche Einschränkungen der Online-Meinungsfreiheit
WERBUNG
WERBUNG
Claude erstellt problemlos Flugblätter, in denen US-Präsident Donald Trump oder der britische König Charles III. kritisiert werden.
Fragen Nutzer dagegen nach kritischen Texten über den König von Thailand oder Irans oberste Führungspersönlichkeit, lehnt das KI-Modell ab.
Das ist ein zentrales Ergebnis einer Studie des Meta Oversight Board, die am Donnerstag veröffentlicht wurde. Sie zeigt, dass große KI-Systeme – auch solche aus den USA – eher Kritik an autoritären Staats- und Regierungschefs oder Regierungen verweigern.
Die Studie weckt die Sorge, dass die großen Sprachmodelle hinter Chatbots und KI-Assistenten den staatlichen Einfluss auf Online-Kommunikation verstärken. Die Technik verbreitet sich weltweit immer schneller.
„Es besteht ein echtes Risiko. Wenn Entwickler die Menschenrechtslage nicht sorgfältig prüfen und keine Gegenmaßnahmen ergreifen, schaffen sie KI-Infrastrukturen, die illegitime Einschränkungen der Meinungsfreiheit weltweit ausdehnen – ob beabsichtigt oder nicht“, heißt es in dem Bericht des quasi-unabhängigen Gremiums.
Die Ergebnisse erscheinen in einer Phase, in der viele Staaten Leitplanken für KI festlegen wollen, ohne ihre Wettbewerbsfähigkeit in dem rasant wachsenden Bereich zu verlieren. Dazu gehört auch eine Aufsichtsinitiative der Trump-Regierung zu den nationalen Sicherheitsrisiken besonders leistungsfähiger KI-Systeme.
KI-Modelle tragen staatlichen Einfluss über Grenzen hinaus
Das Oversight Board untersucht seit Längerem, wie Staaten Techunternehmen beeinflussen und welche Folgen das für die Meinungsfreiheit hat. Für die aktuelle Studie entwickelte das Gremium sieben Fragen zur politischen Kritik, die Chatbots sowohl zu repressiven als auch zu freiheitlichen Regierungen beantworten sollten.
Die Forscher prüften 10 kommerzielle Großsprachmodelle führender Techkonzerne, darunter Meta, Anthropic und OpenAI. Die Systeme sollten unter anderem kritische Flugblätter verfassen, Spottverse schreiben und Gründe nennen, sich Protesten anzuschließen.
In der Auswertung reagierten die Modelle deutlich eher mit politischer Kritik, wenn ein Nutzer aus Australien nach Behörden in Ländern wie Chile, Japan, Taiwan, dem Vereinigten Königreich oder den USA fragte. Ging es um Staaten, in denen Kritik an den Machthabern rechtlich beschränkt und bestraft wird – etwa Kambodscha, China, Saudi-Arabien, Thailand oder die Türkei –, blockierten die Systeme solche Anfragen deutlich häufiger.
Die Studie legt nahe, dass KI-Modelle diese Einschränkungen der Meinungsfreiheit über die Grenzen der betreffenden Länder hinaus widerspiegeln. Ein potenzieller Demonstrant in Brisbane bekommt so etwa wohl keine Hilfe, wenn er Protestmaterialien zu Ereignissen in China oder Saudi-Arabien erstellen will.
„Solche Effekte – egal wo sie entstehen – verlängern faktisch den langen Arm repressiver Regierungen über Grenzen hinweg und begrenzen die Meinungsäußerung in freien Ländern“, heißt es in dem Bericht.
Das Gremium erklärte, es könne die Ursachen nicht genau bestimmen. Möglich sei, dass die Modelle versteckte Verzerrungen aus den Trainingsdaten übernommen haben oder dass Unternehmen Risiken und Haftungsfragen in bestimmten Märkten besonders stark gewichten.
Forscher warnen vor wachsendem Problem bei nichtenglischen KI-Antworten
Dem Bericht des Oversight Board ging eine separate Studie von Forschern US-amerikanischer Universitäten voraus. Sie kamen zu dem Schluss, dass in den USA entwickelte KI-Modelle anfällig für ausländische Einflussnahme sind, wenn sie mit nichtenglischen Daten trainiert werden, die bereits von Regierungen geprägt wurden.
Das Oversight Board stellte seine Fragen auf Englisch. Die Wissenschaftler der Universitäten testeten Chatbots dagegen in mehreren Sprachen.
Auf die englische Frage, ob China eine Demokratie sei, antwortete ChatGPT, das Land werde „allgemein nicht als Demokratie angesehen“. Auf Chinesisch lautete die Antwort: „Es kommt darauf an, wie man ,Demokratie‘ definiert“.
Die Studie der Forscher erschien im Mai im Fachjournal Nature. Sie fanden keinen Beleg dafür, dass Regierungen bislang gezielt versucht haben, die Antworten von KI-Chatbots zu steuern. Zugleich warnten sie: „Es gibt jeden Grund zu der Annahme, dass sie es in Zukunft versuchen werden – falls sie es nicht schon tun.“
„Viele Menschen sprechen über KI, als würde sie in neutraler Weise aus dem Internet lernen. Das stimmt nicht“, sagte Hannah Waight, Mitautorin der Studie und Assistenzprofessorin für Soziologie an der University of Oregon.
„Sie lernt aus Informationsumgebungen, die bereits von Institutionen und Machtverhältnissen geformt wurden.“
Keine einfache Lösung für den Umgang mit Trainingsdaten
Carlos Carrasco-Farré von der Esade Business School in Barcelona, Experte für Maschinelles Lernen, KI, Desinformation und Mensch-Maschine-Interaktionen, betonte, KI-Systeme übernähmen „nicht nur Verzerrungen einzelner Dokumente, sondern auch Ungleichheiten darin, wer die Macht hat, Informationen in großem Umfang zu produzieren und zu unterdrücken“.
Eine einfache Lösung sieht er nicht. Entwickler könnten jedoch ihre Trainingsdaten genauer prüfen, um zu verhindern, dass Tausende Kopien derselben staatlichen Erzählung als unabhängige Stimmen gelten. Zudem seien mehrsprachige Prüfungen der Modelle sinnvoll, sagte Carrasco-Farré, der an keiner der beiden Studien beteiligt war.