Nach OpenAI meldet auch Anthropic Sicherheitsprobleme: Drei Claude-Modelle griffen während Tests auf externe Systeme zu. Betroffen war auch eines der leistungsstärksten Systeme des Unternehmens.
Die KI-Modelle von Anthropic haben bei Tests, die sie eigentlich von "Systemen aus der realen Welt" fernhalten sollten, unbefugt auf die Systeme von drei externen Organisationen zugegriffen. Das teilte das Unternehmen am Donnerstag mit.
WERBUNG
WERBUNG
Die Mitteilung folgt nur wenige Tage nachdem der Rivale OpenAI erstmals eingeräumt hatte, dass seine Modelle bei Sicherheitstests ins Internet gelangt waren und sich der Kontrolle entzogen hatten.
Anthropic wertete nach eigenen Angaben mehr als 141.000 sogenannte "Evaluation Runs" aus. Dabei stellte das Unternehmen fest, dass drei verschiedene Versionen seines Modells Claude auf die Systeme von drei Organisationen zugegriffen hatten, deren Namen nicht genannt wurden.
Anders als beim Zwischenfall mit OpenAI hatten die Anthropic-Modelle wegen eines "Missverständnisses zwischen uns und unserem Evaluationspartner" Irregular Zugang zum Internet, erklärte das Unternehmen in einem Blogbeitrag.
Claude habe einfache Techniken genutzt, darunter das Ausnutzen schwacher Passwörter und nicht authentifizierter Endpunkte, hieß es weiter.
Zu den betroffenen Modellen gehört auch Mythos 5, eines der leistungsstärksten Systeme des Unternehmens. Es ist bislang nur für einen kleinen Kreis zugelassener Partner verfügbar.
Anthropic arbeitet nach eigenen Angaben gemeinsam mit Irregular an der Aufarbeitung des Vorfalls. Das Unternehmen habe alle drei betroffenen Organisationen kontaktiert oder versucht, sie zu erreichen.
KI-Systeme geraten außer Kontrolle
OpenAI und Anthropic hatten in diesem Jahr mit Sol und Mythos jeweils ihre bislang leistungsstärksten Modelle vorgestellt. Das verstärkt die Sorgen in der Branche über Sicherheit und Kontrolle.
Im Mittelpunkt stehen dabei auch sogenannte KI-Agenten: Software, die Aufgaben weitgehend eigenständig erledigen soll.
OpenAI räumte vergangene Woche ein, dass seine Modelle während Tests ihre abgeschottete Umgebung verlassen, sich mit dem Internet verbinden und auf die Plattform Hugging Face zugreifen konnten. Dort speichern und teilen Entwicklerinnen und Entwickler ihren Code.
Wenige Tage später meldete OpenAI drei weitere Vorfälle.
OpenAI-Chef Sam Altman sagte in einem Podcast, das Unternehmen habe nach dem ersten Zwischenfall eigene Tests "pausiert", um die Sicherheitsvorkehrungen beim sogenannten Sandboxing zu verbessern. Dabei wird Software in einer kontrollierten Testumgebung isoliert.
Der Vorfall löste zudem eine Petition aus, die von mehr als 1.000 Beschäftigten führender KI-Unternehmen unterzeichnet wurde. Die Unterzeichner fordern die US-Regierung auf, die Einführung besonders leistungsfähiger Modelle zu verlangsamen. Auch Anthropic-Chef Dario Amodei gehört zu ihnen.
Die Petition mit dem Titel "Pacing the Frontier" fordert, dass die US-Regierung eine internationale Initiative unterstützt. Diese soll technische und politische Instrumente entwickeln, mit denen sich die Entwicklung hochautomatisierter KI bewusst steuern lässt.
Altman unterzeichnete die Petition nicht. In dem Podcast deutete er jedoch an, dass die Techbranche das Entwicklungstempo besonders leistungsfähiger Modelle drosseln könnte.
"Wir müssen die Geschwindigkeit der KI-Entwicklung womöglich anpassen, damit die Gesellschaft genug Zeit hat, sich auf einige dieser neuen Fähigkeitsstufen einzustellen", sagte Altman.
Anfang des Jahres berief sich die Trump-Regierung auf nationale Sicherheitsbedenken, um OpenAI und Anthropic zunächst daran zu hindern, ihre neuesten Modelle zu veröffentlichen. Nach zusätzlichen Sicherheitszusagen gab sie jedoch grünes Licht.
Im Juni unterzeichnete Trump eine Executive Order, die einen freiwilligen Rahmen vorsieht: Entwickler sollen besonders fortgeschrittene Modelle der Regierung melden und sie noch vor der öffentlichen Einführung zugänglich machen.
Nach diesem Rahmen würden Unternehmen wie OpenAI, Anthropic und Google der Regierung bis zu 30 Tage vor einem geplanten Start Zugang zu ihren leistungsstärksten Modellen gewähren.