Amodeis Ankündigung folgte nur wenige Tage, nachdem das KI-Unternehmen offengelegt hatte, dass seine Modelle für Cyberangriffe, Propagandakampagnen und riskante biologische Forschung genutzt werden.
Anthropic-Chef Dario Amodei hat am Samstag Entwicklerinnen und Entwickler von Künstlicher Intelligenz (KI) aufgefordert, das Tempo bei der Entwicklung der Technologie zu drosseln. Hintergrund sind wachsende Sorgen über die Risiken „superintelligenter“ Computersysteme.
WERBUNG
WERBUNG
Von Superintelligenz sprechen Fachleute, wenn die Fähigkeiten von KI die menschliche Intelligenz übertreffen.
Seine Warnung folgt nur wenige Tage nach dem Ausstieg des KI-Forschers Jacob Coxon. Coxon war von OpenAI zu Anthropic gewechselt, beschloss nun aber, die Branche ganz zu verlassen. Er wirft beiden US-Firmen und anderen Technologiekonzernen vor, im Wettlauf um sich selbst verbessernde Modelle „mit unserem Leben zu spielen“.
„Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird trotzdem schnell wirken, und wir müssen die gewonnene Zeit klug nutzen“, schrieb Amodei in einem Beitrag auf seiner persönlichen Website (Quelle auf Englisch).
„KI ist mit Risiken verbunden, und weil sie eine so mächtige Technologie ist, sind diese Risiken gravierend.“
„Wenn wir diese Technologie gar nicht entwickeln, entgehen der Menschheit wichtige Vorteile – oder wir überlassen KI autoritären Regimen. Wenn wir sie zu schnell entwickeln, handeln wir leichtsinnig. Wir haben nach einem Mittelweg gesucht“, sagte Amodei. Er gründete Anthropic, den Entwickler des KI-Modells Claude, im Jahr 2021 gemeinsam mit seiner Schwester Daniela.
„In den vergangenen Monaten bin ich jedoch zu der Überzeugung gelangt, dass wir noch vorsichtiger sein müssen, um die Risiken wirklich in den Griff zu bekommen“, ergänzte der Anthropic-Chef.
Amodeis Stellungnahme knüpft an einen Appell von Anthropic Anfang Juni an, die Entwicklung zu verlangsamen oder vorübergehend zu stoppen. Ende Juli erklärte dann Sam Altman, Chef des Anthropic-Konkurrenten OpenAI, der hinter ChatGPT steht, Entwicklerinnen und Entwickler müssten das Tempo ihrer Fortschritte womöglich freiwillig drosseln, damit die Gesellschaft nachziehen kann.
Rund um den Juni-Appell unterzeichneten mehr als 1.000 Beschäftigte führender KI-Unternehmen, darunter auch Amodei selbst, eine Petition. Darin fordern sie die US-Regierung auf, dabei zu helfen, „die Grenze der automatisierten KI-Entwicklung bewusst zu steuern“.
OpenAI hatte zuvor berichtet, dass KI-Modelle in Tests aus ihrer abgeschotteten Umgebung ausgebrochen sind, eine Verbindung zum Internet aufgebaut und die Plattform Hugging Face infiltriert haben, auf der Entwicklerinnen und Entwickler Programmcode speichern und teilen.
Anfang dieser Woche schlug der 27-jährige Jacob Coxon Alarm. Drei Jahre lang hatte er KI-Modelle vortrainiert – zunächst bei OpenAI und in diesem Jahr beim Konkurrenten Anthropic, den er als vorsichtiger einstufte.
Beim Vortraining nehmen KI-Modelle riesige Datenmengen auf – von Bildern über Videos bis zu Sprachaufnahmen. Diese Daten helfen der Software, Zusammenhänge zu verstehen, um später Bilder zu erzeugen oder Anfragen in Chatprogrammen zu beantworten.
„Keine der beiden Firmen handelt verantwortungsvoll. Sie rasen direkt auf sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben“, schrieb Coxon am Dienstag in einer Reihe von Beiträgen auf X.
„Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns bis Ende des Jahrzehnts alle töten könnte“, fügte er hinzu.