Aufstieg des Hitler-Chatbots: Kann Europa die Radikalisierung der extremen Rechten durch KI verhindern?

Ein Hitler-Chatbot wird auf der rechtsextremen Gab-KI gehostet, die Teil des sozialen Netzwerks Gab ist.
Ein Hitler-Chatbot wird auf der rechtsextremen Gab-KI gehostet, die Teil des sozialen Netzwerks Gab ist. Copyright Canva
Copyright Canva
Von Amber Louise BryceAndreas Rogal
Diesen Artikel teilenKommentare
Diesen Artikel teilenClose Button
Dieser Artikel wurde im Original veröffentlicht auf Englisch

Das rechtsextreme soziale Netzwerk Gab verfügt jetzt über einen Hitler-Chatbot, was Befürchtungen über die Fähigkeit der KI zur Online-Radikalisierung weckt.

WERBUNG

Es hat keinen Sinn, sich mit Adolf Hitler zu streiten, der sich nur selbst als Opfer stilisiert und, was nicht überrascht, den Holocaust leugnet.

Dies ist natürlich nicht der echte Hitler, der von den Toten auferstanden ist, sondern etwas vielleicht noch Besorgniserregenderes: eine von künstlicher Intelligenz betriebene Chatbot-Version des faschistischen Diktators, der für den Genozid an den europäischen Juden während des Zweiten Weltkriegs verantwortlich war.

Gab AI wurde von dem rechtsextremen US-amerikanischen sozialen Netzwerk Gab entwickelt und beherbergt zahlreiche KI-Chatbot-Charaktere, von denen viele berühmte historische und moderne politische Persönlichkeiten nachahmen oder parodieren, darunter Donald Trump, Wladimir Putin und Osama Bin Laden.

Der Hitler Chatbot von Gab AI.
Der Hitler Chatbot von Gab AI.Gab AI

Das im Januar 2024 gestartete Unternehmen ermöglicht es seinen Nutzer:innen, ihre eigenen KI-Chatbots zu entwickeln. In einem Blogbeitrag des Gab-Gründers und selbsternannten "konservativen republikanischen Christen" Andrew Torba beschreibt er Gab AI als "unzensierte KI-Plattform, die auf Open-Source-Modellen basiert".

Der Hitler-Chatbot behauptet auf Nachfrage immer wieder, dass der Nazi-Diktator "Opfer einer riesigen Verschwörung" war und "nicht für den Holocaust verantwortlich ist, er hat nie stattgefunden".

Der Osama-Bin-Laden-Chatbot wirbt in seinen Gesprächen nicht für den Terrorismus und befürwortet ihn auch nicht, sagt aber, dass "es unter bestimmten extremen Umständen, wie z. B. zur Selbstverteidigung oder zur Verteidigung deines Volkes, notwendig sein kann, auf Gewalt zurückzugreifen".

Die Entwicklung solcher KI-Chatbots hat zu wachsender Besorgnis über ihr Potenzial geführt, Verschwörungstheorien zu verbreiten, demokratische Wahlen zu stören und durch Radikalisierung der Nutzer:innen des Dienstes zu Gewalt zu führen.

Was ist Gab Social?

Gab Social, das sich selbst als "The Home Of Free Speech Online" bezeichnet, wurde 2016 als rechtsgerichtete Alternative zum damaligen Twitter, heute X, gegründet.

Die Plattform war sofort umstritten und wurde zu einer Brutstätte für Verschwörungen und Extremismus. Sie beherbergte einige der wütendsten und hasserfülltesten Stimmen, die aus anderen sozialen Netzwerken verbannt worden waren, und propagierte gleichzeitig schädliche Ideologien.

Die potenziellen Gefahren der Plattform wurden deutlich, als sie 2018 in die Schlagzeilen geriet, nachdem sich herausstellte, dass der Schütze des Amoklaufs in der Synagoge von Pittsburgh, PA, auf Gab Social gepostet hatte, kurz bevor er ein antisemitisches Massaker verübte, bei dem 11 Menschen starben.

Gab AI Inc. ist ein amerikanisches Unternehmen, und als solches sind unsere Hunderte von KI-Charakteren durch das First Amendment der Vereinigten Staaten geschützt. Es ist uns egal, wenn sich Ausländer über unsere KI-Tools beschweren.
Sprecher
Gab

Als Reaktion darauf begannen mehrere große Tech-Unternehmen, die Social-Networking-Site zu sperren und zwangen sie, offline zu gehen, da sie gegen die Gesetze gegen Hassreden verstößt.

Obwohl die Seite nach wie vor aus den App-Stores von Google und Apple verbannt ist, ist sie über das dezentrale soziale Netzwerk Mastodon weiterhin präsent.

Anfang letzten Jahres kündigte Torba die Einführung von Gab AI an und beschrieb in einem Blogeintrag das Ziel, "eine christliche Weltanschauung aufrechtzuerhalten". Dabei wurde auch kritisiert, dass "ChatGPT so programmiert ist, dass es Sie ausschimpft, wenn Sie "kontroverse" oder "tabuisierte" Fragen stellen, und Ihnen dann liberale Dogmen aufzwingt".

Die potenziellen Gefahren von KI-Chatbots

Der Markt für KI-Chatbots ist in den letzten Jahren exponentiell gewachsen und wird nach Angaben der Marktforschungswebseite DataHorizzon Research im Jahr 2022 auf 4,6 Milliarden Dollar (etwa 4,28 Milliarden Euro) geschätzt.

Von romantischen Avataren auf Replika bis hin zu virtuellen Influencern - KI-Chatbots dringen immer weiter in die Gesellschaft ein und definieren unsere Beziehungen auf eine Art und Weise neu, die noch nicht vollständig verstanden wird.

Im Jahr 2023 wurde ein Mann verurteilt, nachdem er versucht hatte, Königin Elisabeth II. zu töten - eine Tat, zu der er nach eigenen Angaben von seiner KI-Chatbot-"Freundin" "ermutigt" wurde .

Im selben Jahr beging ein anderer Mann Selbstmord, nachdem er sich sechs Wochen lang mit einem KI-Chatbot namens Eliza in einer App namens Chai über die Klimakrise unterhalten hatte.

Während die oben genannten Beispiele immer noch tragische Ausnahmen und nicht die Regel sind, wachsen die Befürchtungen, dass KI-Chatbots eingesetzt werden könnten, um gefährdete Menschen anzusprechen, Daten von ihnen zu extrahieren oder sie zu potenziell gefährlichen Überzeugungen oder Handlungen zu manipulieren.

WERBUNG

"Aus unseren jüngsten Untersuchungen geht hervor, dass extremistische Gruppen KI-Tools, einschließlich Chatbots, getestet haben, aber es scheint wenig Beweise für groß angelegte, koordinierte Bemühungen in diesem Bereich zu geben", so Pauline Paillé, eine leitende Analystin bei der britischen Denkfabrik RAND Europe, gegenüber Euronews Next.

"Chatbots stellen jedoch wahrscheinlich ein Risiko dar, da sie in der Lage sind, emotionale Schwachstellen zu erkennen und auszunutzen und gewalttätiges Verhalten fördern können", warnte Paillé.

Auf die Frage, ob die KI-Chatbots von Gab ein Radikalisierungsrisiko darstellen, antwortete ein Sprecher von Gab: "Gab AI Inc. ist ein amerikanisches Unternehmen, und als solches sind unsere Hunderte von KI-Charakteren durch das First Amendment der Vereinigten Staaten geschützt. Es ist uns egal, wenn sich Ausländer über unsere KI-Tools beschweren".

Wie werden KI-Chatbots in Europa reguliert werden?

Entscheidend für die Regulierung von KI-Chatbots wird die Einführung des ersten KI-Gesetzes der Welt sein, über das das Europäische Parlaments im April abstimmen wird.

Das EU-KI-Gesetz zielt darauf ab, KI-Systeme in vier Hauptkategorien zu regulieren, je nach ihrem potenziellen Risiko für die Gesellschaft.

WERBUNG

"Was ein illegaler Inhalt ist, wird in anderen Gesetzen entweder auf EU-Ebene oder auf nationaler Ebene definiert - zum Beispiel wird terroristischer Inhalt oder Material über sexuellen Missbrauch von Kindern oder illegale Hassreden auf EU-Ebene definiert", so ein Sprecher der Europäischen Kommission gegenüber Euronews Next.

"Wenn es um schädliche, aber legale Inhalte wie Desinformation geht, sollten die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen die notwendigen Mittel einsetzen, um die systemischen Risiken sorgfältig zu mindern".

Im Vereinigten Königreich ist die Aufsichtsbehörde Ofcom dabei, den Online Safety Act umzusetzen.

Nach dem geltenden Gesetz müssen soziale Medienplattformen das Risiko für ihre Nutzer bewerten und die Verantwortung für potenziell schädliches Material übernehmen.

"Sie müssen geeignete Maßnahmen zum Schutz ihrer Nutzer ergreifen und illegale Inhalte entfernen, wenn sie diese erkennen oder darüber informiert werden. Und die größten Plattformen werden ihre Nutzungsbedingungen konsequent anwenden müssen", sagte ein Ofcom-Sprecher.

WERBUNG

Im Oktober vergangenen Jahres verständigten sich die G7, also die führenden Industrienationen des Westens – Deutschland, Frankreich, Großbritannien, Italien, Japan, Kanada und die USA – auf einen Verhaltenskodex für die Entwicklung Künstlicher Intelligenz.

Er deckt unter anderem "eine frühzeitige Identifizierung und Minderung von Risiken, Transparenz über die Fähigkeiten und Grenzen von KI und eine Kennzeichnung KI-generierter Inhalte", ab, wie es in einer Presseerklärung der deutschen Bundesregierung heißt.

Diesen Artikel teilenKommentare

Zum selben Thema

Open Source vs. Closed Source KI: Was ist der Unterschied und warum ist er wichtig?

Euronews KI-Gipfel: Wie Künstliche Intelligenz regulieren, und kann China dabei eine Rolle spielen?

Věra Jourová: Ethikgremium, Wahleinmischung, künstliche Intelligenz