Warum ist der "Pate der KI" besorgt? Die vier Gefahren, die Geoffey Hinton sieht.

Warum löst Künstliche Intelligenz so viel Angst aus - und was können wir dagegen tun?
Warum löst Künstliche Intelligenz so viel Angst aus - und was können wir dagegen tun? Copyright Canva
Copyright Canva
Von Euronews mit AP
Diesen Artikel teilenKommentare
Diesen Artikel teilenClose Button

Hier einige der größten Befürchtungen über die Zukunft der KI - und der Menschheit.

WERBUNG

Prominente Expert:innen auf dem Gebiet der künstlichen Intelligenz (KI) haben angesichts des Tempos und des Ausmaßes der jüngsten Fortschritte in diesem Bereich Alarm geschlagen und davor gewarnt, dass sie nichts weniger als eine Bedrohung für die Menschheit darstellen.

Zu ihnen gehört Geoffrey Hinton, ein preisgekrönter Computerwissenschaftler, der als "Pate der KI" bekannt ist und im vergangenen Monat seinen Job bei Google gekündigt hat, um seinen Bedenken über die unkontrollierte Entwicklung neuer KI-Tools Ausdruck zu verleihen.

"Ich habe plötzlich meine Ansichten darüber geändert, ob diese Dinge intelligenter sein werden als wir", sagte Hinton, 75, diese Woche in einem Interview mit MIT Technology Review.

"Ich glaube, sie sind jetzt schon sehr nah dran und werden in Zukunft viel intelligenter sein als wir... Wie sollen wir das überleben?"

Hinton ist mit seinen Bedenken nicht allein. Im Februar sagte sogar Sam Altman, der CEO des ChatGPT-Entwicklers OpenAI, dass die Welt vielleicht gar nicht so weit von “potenziell beängstigenden" KI-Werkzeugen entfernt sei - und dass ihre Regulierung entscheidend sei, aber Zeit brauche.

Kurz nachdem das von Microsoft unterstützte Start-up im März sein neuestes KI-Modell namens GPT-4 veröffentlicht hatte, unterzeichneten mehr als 1.000 Forscher:innen und Technologieexpert:innen einen Brief, in dem sie eine sechsmonatige Pause in der KI-Entwicklung forderten, da diese "tiefgreifende Risiken für die Gesellschaft und die Menschheit" berge.

Hier ein Blick auf die größten Bedenken, die von Hinton und anderen Experten geäußert wurden.

1. KI ist vielleicht schon schlauer als wir

Unsere menschlichen Gehirne können Gleichungen lösen, Autos fahren und Netflix-Serien verfolgen - dank ihres angeborenen Talents, Informationen zu organisieren und zu speichern und Lösungen für knifflige Probleme zu finden.

Die rund 86 Milliarden Neuronen in unserem Schädel - und, was noch wichtiger ist, die 100 Billionen Verbindungen, die diese Neuronen untereinander herstellen - machen dies möglich.

Im Gegensatz dazu verfügt die Technologie, die ChatGPT zugrunde liegt, nur über 500 Milliarden bis eine Billion Verbindungen, so Hinton. Obwohl dies den Anschein erweckt, dass sie uns gegenüber stark im Nachteil ist, argumentiert Hinton, dass GPT-4, das neueste KI-Modell von OpenAI, "Hunderte Male mehr" weiß als jeder einzelne Mensch. Vielleicht, so vermutet er, verfügt es sogar über einen "viel besseren Lernalgorithmus" als wir, was es bei kognitiven Aufgaben effizienter macht.

Lange galt, dass künstliche neuronale Netze viel mehr Zeit brauchen, um neues Wissen aufzunehmen und anzuwenden, als Menschen, da ihr Training enorme Mengen an Energie und Daten erfordert.

Das ist heute nicht mehr der Fall, so Hinton, denn Systeme wie GPT-4 können neue Dinge sehr schnell lernen, wenn sie von ForscherInnen richtig eingestellt werden. Das ist nicht unähnlich der Art und Weise, wie eine ausgebildete professionelle Physikerin neue experimentelle Erkenntnisse viel schneller in ihrem Gehirn verankern kann als ein typischer Highschool-Schüler der Naturwissenschaften.

Das führt Hinton zu der Schlussfolgerung, dass KI-Systeme uns bereits überlisten könnten: Sie können nicht nur schneller lernen, sondern auch Kopien ihres Wissens fast augenblicklich untereinander austauschen.

"Es handelt sich um eine völlig andere Form der Intelligenz", sagte er der MIT Technology Review. "Eine neue und bessere Form der Intelligenz".

2. KI kann die Verbreitung von Fehlinformationen beschleunigen

Was würden KI-Systeme tun, die intelligenter sind als Menschen? Eine beunruhigende Möglichkeit ist, dass böswillige Einzelpersonen, Gruppen oder Nationalstaaten sie einfach für ihre eigenen Zwecke einsetzen könnten.

Dutzende von Fake-News-Websites haben sich bereits in mehreren Sprachen im Internet verbreitet, von denen einige täglich Hunderte von KI-generierten Artikeln veröffentlichen, so ein neuer Bericht von NewsGuard, eine Webseite, die die Glaubwürdigkeit von Webseiten bewertet und Online-Fehlinformationen verfolgt.

Hinton ist besonders besorgt, dass KI-Tools darauf trainiert werden könnten, Wahlen zu beeinflussen und sogar Kriege zu führen.

Wahlfehlinformationen, die über KI-Chatbots verbreitet werden, könnten beispielsweise die zukünftige Version davon sein, was schon bisher über Facebook und andere soziale Medienplattformen verbreitet wird.

WERBUNG

Und das könnte erst der Anfang sein.

"Glauben Sie nicht einen Moment lang, dass Putin keine hyperintelligenten Roboter bauen würde, um die Ukrainer:innen zu töten", so Hinton in dem Artikel. "Er würde nicht zögern".

3. Wird uns KI überflüssig machen?

OpenAI schätzt, dass die Arbeitsplätze von bis zu 80 Prozent der Arbeitnehmer:innen in den Vereinigten Staaten durch KI gefährdet sein könnten, und einem Bericht von Goldman Sachs zufolge könnte die Technologie weltweit 300 Millionen Vollzeitarbeitsplätze gefährden.

Das Überleben der Menschheit ist bedroht, wenn "intelligente Dinge uns überlisten können", so Hinton.

"Es kann sein, dass wir noch eine Weile leben, um die Kraftwerke am Laufen zu halten", sagte Hinton am Mittwoch auf der Konferenz EmTech Digital der MIT Technology Review per Video von zu Hause aus. "Aber danach vielleicht nicht mehr".

WERBUNG

"Diese Dinger werden von uns gelernt haben, indem sie alle Romane, die es je gab, und alles, was Machiavelli je geschrieben hat, gelesen haben, um zu wissen, wie man Menschen manipuliert", so Hinton. "Auch wenn sie nicht direkt an den Hebeln ziehen können, so können sie uns doch dazu bringen, an den Hebeln zu ziehen".

4. Wir wissen nicht genau, wie wir es aufhalten können

"Ich wünschte, ich hätte eine schöne, einfache Lösung, die ich anpreisen könnte, aber ich habe keine", fügte Hinton hinzu. "Ich bin mir nicht sicher, ob es eine Lösung gibt".

Die Regierungen schenken dem Aufstieg der KI jedoch große Aufmerksamkeit. Das Weiße Haus lud die Vorstandsvorsitzenden von Google, Microsoft und dem ChatGPT-Hersteller OpenAI diese Woche zu einem Treffen mit Vizepräsidentin Kamala Harris ein, um in einer offenen Diskussion zu erörtern, wie die kurz- und langfristigen Risiken ihrer Technologie gemindert werden können.

Auch die europäischen Gesetzgeber:innen beschleunigen die Verhandlungen zur Verabschiedung weitreichender neuer KI-Vorschriften, und die britische Wettbewerbsbehörde plant, die Auswirkungen von KI auf Verbraucher, Unternehmen und die Wirtschaft zu untersuchen und zu prüfen, ob neue Kontrollen für Technologien wie ChatGPT erforderlich sind.

Unklar ist, wie man eine Macht wie Russland davon abhalten könnte, KI-Technologie einzusetzen, um seine Nachbarn oder seine eigenen Bürger:innen zu beherrschen.

WERBUNG

Hinton schlägt vor, dass ein globales Abkommen ähnlich dem Chemiewaffenübereinkommen von 1997 ein guter erster Schritt zur Einführung internationaler Regeln gegen waffenfähige KI sein könnte.

Allerdings ist es auch erwähnenswert, dass das Chemiewaffenabkommen nicht verhindert hat, was Ermittler als wahrscheinliche syrische Angriffe mit Chlorgas und dem Nervenkampfstoff Sarin gegen Zivilisten in den Jahren 2017 und 2018 während des blutigen Bürgerkriegs in Syrien festgestellt haben.

Diesen Artikel teilenKommentare

Zum selben Thema

EU-Migrationspakt läutet "tödliche neue Ära der digitalen Überwachung" ein

US-Präsident Joe Biden erwägt Einstellung der Klage gegen Assange

Was ist ein digitaler Produktpass und was bietet er?