Namhafte Entwickler dringen darauf, die KI-Entwicklung zu bremsen, da der Ruf wächst, Sicherheit vor Profit zu stellen. Tech-Aktien gaben am Montag nach.
Die Aktien des japanischen Investmentkonzerns SoftBank Group, einem der wichtigsten Geldgeber von OpenAI, sind am Montag zusammen mit anderen Technologiewerten um mehr als zehn Prozent eingebrochen. Auslöser waren Aussagen von Spitzenmanagern führender KI-Unternehmen, die forderten, „Vorsicht vor Tempo und Umsicht vor Profit“ zu stellen.
WERBUNG
WERBUNG
Die Formulierung stammt von Anthropic-Chef Dario Amodei. Er rief am Samstag dazu auf, die „Frontier“-Modelle gebremst weiterzuentwickeln und die Arbeit an den fortschrittlichsten Systemen koordiniert zu verlangsamen. So solle mehr Zeit bleiben, Risiken zu verstehen und zu beherrschen.
Zu seinen größten Sorgen gehört die sogenannte „rekursive Selbstverbesserung“, bei der KI-Systeme beim Bau der nächsten Generation von Modellen mithelfen.
„Bleibt dieser Prozess unkontrolliert, könnte er unsere Fähigkeit überholen, diese Systeme zu verstehen und zu steuern. Deshalb müssen wir ihn, wenn überhaupt, mit äußerster Vorsicht verfolgen“, schrieb Amodei.
OpenAI-Chef Sam Altman und xAI-Gründer Elon Musk unterstützten die Warnung öffentlich. Musk sagte: „Dario hat recht.“
Altman erklärte dem Magazin Fortune in einem am Samstag veröffentlichten Interview, OpenAI werde in diesem Jahr keinen Börsengang anstreben, weil sich das Unternehmen auf Sicherheit konzentrieren wolle.
OpenAI und Anthropic gehören weiterhin privaten Eigentümern. Anthropic bereitet nach Medienberichten eine mögliche Börsennotierung in den kommenden Monaten vor.
Die Kommentare folgten auf den Rücktritt des Anthropic-Forschers Jacob Coxon, der gewarnt hatte, die Technologie könne sich der Kontrolle der Menschen entziehen.
Evan Hubinger, ein weiterer Anthropic-Forscher, der im Unternehmen blieb, schrieb anschließend: „Wir glauben wirklich aufrichtig, dass KI alle Menschen töten könnte!“ Er schätzte die Wahrscheinlichkeit in den kommenden zehn Jahren auf mehr als zehn Prozent.
US-Präsident Donald Trump wies die Warnungen am Sonntag zurück. Kritiker der KI seien „sehr negative Kräfte“, sagte er, und die beschriebenen Szenarien würden nicht eintreten. Der Sprecher des Repräsentantenhauses, Mike Johnson, rief die Menschen ebenfalls auf, nicht in Panik zu geraten.
An den Börsen trennten sich Anleger am Montag dennoch von Technologiewerten.
Der Kurssturz bei SoftBank spiegele vermutlich die Sorge wider, dass Aufsichtsbehörden die Entwicklung von KI bremsen könnten, um die schlimmsten Szenarien zu verhindern, über die Anthropic und OpenAI sprechen, sagte Dan Baker von der Analysefirma Morningstar.
„Und vielleicht spiegelt er auch die Möglichkeit wider, dass weitere Beispiele für Kontrollverluste bei neuen KI-Modellen die KI-Entwicklung zusätzlich verlangsamen könnten“, fügte er hinzu.
Auch andere KI-nahe Werte in Asien gaben nach. Der südkoreanische Speicherchiphersteller SK Hynix verlor 5,3 Prozent, Samsung Electronics fiel um 2,8 Prozent. Der japanische Chiphermaschinen-Hersteller Tokyo Electron büßte 0,9 Prozent ein, der Speicherchiphersteller Kioxia Holdings sogar sechs Prozent.
Wettlauf mit China
Amodei forderte außerdem strengere Beschränkungen für Chinas Zugang zu Hochleistungs-KI-Chips und Anlagen zur Halbleiterproduktion. Diese Hardware werde entscheidend bestimmen, wozu Chinas KI fähig sei, argumentierte er.
Gegenüber CBS News räumte er jedoch ein, das „schwierigste Dilemma“ bestehe darin, dass China sich einem koordinierten Tempoverzicht womöglich nicht anschließen würde.
Chinas staatsnahe Zeitung Global Times bezeichnete seine Haltung als „kurzsichtig“ und warf ihm vor, Chinas Entwicklung durch einen „KI-Kalten Krieg“ bremsen zu wollen. Unterdessen hat Präsident Xi Jinping eine BRICS-Open-Source-KI-Zone vorgeschlagen, um die Zusammenarbeit bei KI-Modellen und beim Training zu vertiefen.