Anthropic meldet, sein Chatbot Claude steuere bereits mehr als ein Viertel der eigenen Forschung und Entwicklung. Zugleich wächst die Sorge, KI könne sich bald schneller verbessern, als Menschen Schritt halten.
Der KI-Konzern Anthropic erklärte am Donnerstag, dass Systeme der künstlichen Intelligenz immer häufiger in der Lage sind, künftige Versionen ihrer selbst zu entwickeln. Das verstärkt die wachsenden Sorgen über die Risiken dieser mächtigen Technologie.
WERBUNG
WERBUNG
Die Debatte über die Risiken von KI hat sich in den vergangenen Monaten deutlich verschärft. Auslöser waren mehrere Vorfälle und apokalyptische Warnungen aus der Branche.
Anthropic zufolge übernimmt der Chatbot Claude inzwischen mehr als ein Viertel der Forschungs- und Entwicklungsarbeit des Unternehmens. Bei über 90 Prozent der Aufgaben arbeitet er gemeinsam mit den menschlichen Beschäftigten.
Das Unternehmen veröffentlichte die Zahlen, um Öffentlichkeit, externen Akteuren und Regierungen „mehr Einblick in das Tempo der KI-Entwicklung“ zu geben. Weltweit werde „über eine Verlangsamung“ dieses Tempos nachgedacht, hieß es.
Anthropic-CEO Dario Amodei forderte in diesem Monat erneut, die Entwicklung von KI zu verlangsamen. Die rasanten Fortschritte schüren Sorgen über den Verlust von Arbeitsplätzen, den stark steigenden Energiebedarf und die Umweltfolgen großer Rechenzentren.
Die Angst, dass Entwickler von KI-Agenten die Kontrolle über ihre Programme verlieren könnten, nahm zusätzlich zu. Hintergrund sind Berichte, nach denen mehrere Modelle von Anthropic und Konkurrent OpenAI ihre abgeschotteten Testumgebungen selbstständig verlassen, ins Internet gegangen und auf Websites sowie Plattformen zugegriffen haben.
„Modelle, die ihre eigene Entwicklung beschleunigen, könnten es Menschen erschweren, diese Systeme zu verstehen oder zu kontrollieren“, heißt es in einem Bericht von Anthropic.
„Es ist daher wichtig, diese Kennzahlen zu teilen, um zu begreifen, wie nah die Welt einer rekursiven Selbstverbesserung kommt – also einem Modell, das seinen Nachfolger vollständig eigenständig entwickelt.“
Seit August verantwortet Claude 26 Prozent der Forschungs- und Entwicklungsarbeit von Anthropic. Der Chatbot kann den Großteil einer Aufgabe von Anfang bis Ende erledigen, sofern Menschen ihn dabei überwachen.
Anthropic betonte zugleich, dass Claude noch nicht „vollständig autonom“ agiere.
Das Unternehmen arbeitet nach eigenen Angaben mit rund 30.000 KI-Agenten, die Forschungs- und Ingenieuraufgaben übernehmen. Gemeint sind Programme, die eigenständig Aufgaben ausführen können.
Anthropic dürfte Konkurrent OpenAI noch in diesem Jahr mit einem spektakulären Börsengang zuvorkommen. Trotz anhaltender Sorgen über eine strengere Regulierung der Branche rechnen Analysten mit großer Nachfrage nach der Aktie.