Amodei machte seine Ankündigung nur wenige Tage, nachdem das KI-Unternehmen enthüllt hatte, dass Angreifer die Modelle für Cyberangriffe, Propagandakampagnen und gefährliche biologische Forschung einsetzen.
Der Chef des KI-Unternehmens Anthropic, Dario Amodei, hat am Samstag die Branche aufgerufen, die Entwicklung der mächtigen Technologie zu bremsen. Hintergrund sind wachsende Sorgen über die Risiken „superintelligenter“ Computersysteme.
WERBUNG
WERBUNG
Von Superintelligenz sprechen Fachleute, wenn die Fähigkeiten von KI die menschliche Intelligenz übertreffen.
Seine Mahnung folgte nur wenige Tage, nachdem der KI-Forscher Jacob Coxon, der OpenAI verlassen hatte, um zu Anthropic zu wechseln, beschloss, die Branche ganz zu verlassen. Er warf sowohl den US-Konzernen als auch den Branchengiganten vor, im Wettlauf um Modelle mit Selbstverbesserungsfähigkeit „mit unserem Leben zu spielen“.
„Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen steigern. Der Fortschritt wird trotzdem schnell wirken, und wir müssen die gewonnene Zeit klug nutzen“, schrieb Amodei in einem Beitrag auf seiner persönlichen Website (Quelle auf Englisch).
„KI bringt Risiken mit sich, und weil sie eine so mächtige Technologie ist, sind diese Risiken gravierend.“
„Wer die Technologie gar nicht entwickelt, nimmt der Menschheit große Chancen oder überlässt KI schlicht autoritären Mächten. Zu schnelles Voranschreiten wäre jedoch fahrlässig. Wir haben nach einem Mittelweg gesucht“, sagte Amodei, der Anthropic gemeinsam mit seiner Schwester Daniela gegründet hat. Das Unternehmen brachte 2021 das KI-Modell Claude auf den Markt.
„In den vergangenen Monaten bin ich jedoch zu der Überzeugung gelangt, dass wir zur vollständigen Bewältigung der Risiken noch vorsichtiger vorgehen müssen“, ergänzte der Anthropic-Chef.
Die neue Wortmeldung knüpft an einen Appell Anthropics von Anfang Juni an, die Entwicklung zu verlangsamen oder vorübergehend auszusetzen. Ende Juli erklärte dann Sam Altman, Chef des Anthropic-Rivalen OpenAI, der ChatGPT entwickelt hat, Entwickler müssten womöglich freiwillig auf die Bremse treten, damit die Gesellschaft Schritt halten kann.
Rund zur gleichen Zeit unterzeichneten mehr als 1.000 Beschäftigte führender KI-Unternehmen, darunter auch Amodei selbst, eine Petition an die US-Regierung. Sie forderten Washington auf, dabei zu helfen, „die Entwicklung an der Spitze der automatisierten KI bewusst zu steuern“.
OpenAI hatte damals offengelegt, dass Testmodelle aus ihrer abgeschotteten Umgebung ausbrachen, sich mit dem Internet verbanden und in die Plattform Hugging Face eindrangen, auf der Entwickler Programmcode speichern und teilen.
Anfang dieser Woche schlug der 27-jährige Coxon Alarm. Drei Jahre lang hatte er KI-Modelle vortrainiert, zunächst bei OpenAI, dann in diesem Jahr beim Rivalen Anthropic, den er als vorsichtiger einschätzte.
Beim sogenannten Pretraining saugen KI-Modelle riesige Datenmengen aus unterschiedlichsten Quellen auf – von Bildern über Videos bis hin zu Sprachaufnahmen. So lernen sie Strukturen und Zusammenhänge und können später Bilder erzeugen oder auf Chatplattformen auf Nutzeranfragen antworten.
„Keines der beiden Unternehmen handelt verantwortungsvoll. Sie rasen direkt auf sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben“, erklärte Coxon am Dienstag in einer Beitragsserie auf X.
„Die Menschen, die KI bauen, glauben ernsthaft, dass sie uns bis zum Ende dieses Jahrzehnts alle töten könnte“, fügte er hinzu.