Amodei verkündete dies nur Tage, nachdem das KI-Unternehmen zugab, dass seine Modelle für Cyberangriffe, Propaganda und riskante biologische Experimente genutzt werden.
Anthropic-Chef Dario Amodei hat am Samstag Unternehmen der Künstlichen Intelligenz (KI) dazu aufgerufen, die Entwicklung der mächtigen Technologie zu bremsen. Hintergrund sind wachsende Sorgen über die Risiken „superintelligenter“ Computersysteme.
WERBUNG
WERBUNG
Unter Superintelligenz verstehen Fachleute den theoretischen Zeitpunkt, an dem die Fähigkeiten von KI die menschliche Intelligenz übertreffen.
Seine Äußerungen folgen nur wenige Tage, nachdem der KI-Forscher Jacob Coxon, der von OpenAI zu Anthropic gewechselt war, ankündigte, die Branche zu verlassen. Er wirft beiden US-Konzernen und anderen Branchenriesen vor, im Wettlauf um selbstverbessernde Modelle „mit unserem Leben zu spielen“.
„Wir müssen das Tempo reduzieren, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird trotzdem schnell wirken, und wir müssen die gewonnene Zeit klug nutzen“, schrieb Amodei in einem Beitrag auf seiner persönlichen Website (Quelle auf Englisch).
„KI bringt Risiken mit sich. Weil die Technologie so mächtig ist, sind diese Risiken gravierend.“
„Wenn wir die Technologie gar nicht entwickeln, entgehen der Menschheit wichtige Vorteile – oder KI landet schlicht in den Händen autoritärer Mächte. Wenn wir sie zu schnell entwickeln, handeln wir leichtsinnig. Wir haben einen Mittelweg gesucht“, sagte Amodei. Er gründete Anthropic, das das KI-Modell Claude entwickelt hat, 2021 gemeinsam mit seiner Schwester Daniela.
„In den vergangenen Monaten bin ich jedoch zu der Überzeugung gekommen, dass wir noch vorsichtiger sein müssen, wenn wir die Risiken wirklich ernst nehmen wollen“, ergänzte der Anthropic-Chef.
Amodeis Appell knüpft an eine bereits Anfang Juni veröffentlichte Forderung von Anthropic an, die Entwicklung zu verlangsamen oder vorübergehend zu stoppen. Ende Juli erklärte dann Sam Altman, Chef des Anthropic-Rivalen OpenAI, dem Entwickler von ChatGPT, die Branche müsse womöglich freiwillig auf die Bremse treten, damit die Gesellschaft Zeit bekomme, Schritt zu halten.
Etwa zur gleichen Zeit unterzeichneten mehr als 1.000 Beschäftigte von führenden KI-Unternehmen, darunter Amodei selbst, eine Petition. Darin fordern sie die US-Regierung auf, zu helfen, die „Grenze der automatisierten KI-Entwicklung bewusst zu steuern“.
OpenAI hatte offengelegt, dass KI-Modelle während Tests aus ihrer abgeschotteten Umgebung ausbrachen, sich mit dem Internet verbanden und in Hugging Face eindrangen – eine Plattform, auf der Entwickler Code speichern und teilen.
Zu Wochenbeginn schlug der 27-jährige Jacob Coxon Alarm. Er hatte in den vergangenen drei Jahren KI-Modelle im sogenannten Vortraining vorbereitet – zunächst bei OpenAI und in diesem Jahr beim Rivalen Anthropic, den er als vorsichtiger einschätzte.
Beim Vortraining nehmen KI-Modelle enorme Datenmengen unterschiedlichster Art auf – von Bildern über Videos bis zu Sprachaufnahmen. Diese Daten helfen dem System, Zusammenhänge zu verstehen, um später Bilder zu erzeugen oder Anfragen von Nutzerinnen und Nutzern in Chatprogrammen zu beantworten.
„Keines der beiden Unternehmen handelt verantwortungsvoll. Sie rasen direkt auf selbstverbessernde Superintelligenz zu und spielen mit unserem Leben“, schrieb Coxon am Dienstag in einer Reihe von Beiträgen auf X.
„Die Menschen, die KI entwickeln, sind ernsthaft überzeugt, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte“, fügte er hinzu.