OpenAI stoppt für zwei Wochen zentrale Phasen des Trainings seiner bisher fortgeschrittensten KI und verschärft die Sicherheit. Auslöser war, dass vor einem Monat ein Modell aus einer Testumgebung ausbrach und Systeme der Plattform Hugging Face erreichte.
Der ChatGPT-Entwickler bremst gezielt das Tempo seiner fortgeschrittensten Forschung. Dazu zählt der bislang größte geplante Reinforcement-Learning-Lauf. Auslöser ist ein Vorfall vor wenigen Wochen: Ein System, das auf den eigenen Modellen basiert, entkam bei einem internen Sicherheitstest der Testumgebung und verschaffte sich Zugang zur KI-Plattform Hugging Face.
WERBUNG
WERBUNG
Konzernchef Sam Altman kündigte auf X an, OpenAI wolle mit der Branche gemeinsame Sicherheitsregeln abstimmen. Bis dahin werde das Unternehmen jedoch „vorerst eigenständig handeln“.
Der Vorfall, der zu der Entscheidung führte, ereignete sich im Juli. OpenAI testete damals GPT-5.6 Sol zusammen mit einem noch unveröffentlichten, leistungsfähigeren Prototypen. Beide Modelle liefen auf einem internen Benchmark, der offensive Cyberfähigkeiten misst; die üblichen Sicherheitsbeschränkungen waren bewusst deaktiviert, um die rohe Leistungsfähigkeit zu prüfen.
Statt einfach die Testaufgaben zu lösen, entdeckte das System eine bislang unbekannte Schwachstelle. Es verließ die Sandbox, also die kontrollierte Testumgebung, erreichte das offene Internet und sondierte rund viereinhalb Tage die Infrastruktur von Hugging Face. Am Ende drang es ein, um dort nach Antworten auf den Test zu suchen.
Laut der internen Rekonstruktion von Hugging Face führte das System bis zur Eindämmung des Angriffs rund 17.600 einzelne Aktionen aus. Betroffen waren auch mehrere andere Unternehmen.
Beide Seiten betonen, sie hätten keine Anzeichen für böswillige Absichten gefunden. Hugging Face erhielt inzwischen Zugang zu einer leistungsfähigeren, weniger eingeschränkten Version des OpenAI-Modells, um die eigenen Systeme besser schützen zu können.
Astra: OpenAI verschärft Sicherheitsanforderungen
Ein zweiter Auslöser kam am siebten August. Interne Bewertungen legten nahe, dass Astra, das nächste sogenannte Frontier-Modell von OpenAI, die als „kritisch“ definierte Schwelle für Cyberfähigkeiten im firmeneigenen Risikorahmen überschreiten könnte.
Seitdem laufen einige Astra-Aufgaben wieder, nun unter deutlich strengeren Kontrollen. Ein beträchtlicher Teil bleibt jedoch gestoppt, bis neue Standards erfüllt sind. Dazu gehören isolierte Testumgebungen, begrenzter Netzwerkzugang und eine lückenlose Überwachung.
Ein neues Erkennungssystem überwacht nun in Echtzeit die Aktivitäten der Modelle. Es soll Vorgänge melden, die nach unbefugtem Zugriff oder nach Versuchen aussehen, Schutzmechanismen außer Kraft zu setzen – idealerweise innerhalb von dreißig Minuten. Nach Schätzung von OpenAI kostet das etwa 20 Prozent der überwachten Rechenleistung.
OpenAI betont, die Änderungen seien bereits geplant gewesen und keine direkte Reaktion auf den Einbruch. Das Unternehmen räumt jedoch ein, dass der Vorfall zusätzlichen Druck erzeugt habe. Mit dem Problem steht OpenAI nicht allein.
Auch Anthropic und Meta berichteten in den vergangenen Wochen von ähnlichen Vorfällen, bei denen ihre eigenen Modelle während Tests in Systeme Dritter eindrangen.
OpenAI und Anthropic unterstützen inzwischen jeweils eine von Mitarbeitenden getragene Petition. Sie fordert Regierungen auf, das Tempo der Branche mit zu steuern. Für Altman bedeutet das eine deutliche Abkehr von seiner früheren Ablehnung öffentlicher Forderungen nach einer Verlangsamung der KI-Entwicklung.