Nur wenige Stunden statt Wochen brauchte ein KI-Modell von Anthropic, um Schwachstellen in geheimen Systemen der US-Regierung aufzuspüren.
Ein von Anthropic entwickeltes KI-Modell hat bei einem Testlauf Schwachstellen in hochsensiblen Computersystemen der US-Regierung entdeckt. Das sagte ein US-Regierungsvertreter der Nachrichtenagentur Associated Press.
WERBUNG
WERBUNG
Der Vertreter, der anonym bleiben wollte, erklärte, Anthropic habe dafür mit US-Geheimdiensten zusammengearbeitet und das firmeneigene Modell Mythos eingesetzt.
Das System habe innerhalb weniger Stunden mehrere Schwachstellen gefunden. Das bedeute aber nicht, dass das Modell sie in dieser Zeit auch ausnutzen konnte, so der Beamte.
Die Tests liefen im Rahmen einer Anthropic-Initiative namens Project Glasswing. Dort bündeln Technologiekonzerne ihre Kräfte, um kritische Software vor den „schwerwiegenden“ Folgen zu schützen, die Mythos für öffentliche Sicherheit, nationale Sicherheit und die Wirtschaft haben könnte.
Der demokratische Senator Mark Warner aus Virginia hatte die Tests kurz in einer Anhörung des Bank-, Wohnungsbau- und Stadtentwicklungsausschusses des Senats am elften Juni erwähnt.
„Dieses Werkzeug ist in fast all unsere streng geheimen Systeme eingedrungen – nicht in Wochen, sondern in Stunden“, sagte er und berief sich dabei auf Angaben des Chefs der National Security Agency (NSA) und des US Cyber Command, General Joshua Rudd.
Wachsende Spannungen
Trotz der Zusammenarbeit mit US-Behörden nehmen die Spannungen zwischen dem in Kalifornien ansässigen Unternehmen und der Trump-Regierung zu.
Anthropic äußert Sorge darüber, wie das US-Militär seine KI einsetzt. Die Regierung versucht zugleich, den Einsatz einiger Modelle einzuschränken.
Anfang dieses Monats erließ sie eine Anordnung, wonach Anthropic ausländischen Staatsangehörigen den Zugang zu seinen neuesten Modellen Fable 5 und Mythos 5 verwehren muss.
Anthropic hat Fable in diesem Monat breit verfügbar gemacht. Das Modell gilt als abgespeckte Version des weiterentwickelten Mythos, auf das das Unternehmen wegen Bedenken zur Cybersicherheit nur sehr begrenzt Zugriff erlaubt.
Die Anordnung folgte 10 Tage, nachdem Präsident Donald Trump einen Erlass unterzeichnet hatte. Er schafft einen Rahmen, damit die Bundesregierung die Risiken für die nationale Sicherheit durch die fortschrittlichsten KI-Systeme bis zu einem Monat lang prüfen kann, bevor sie für die Öffentlichkeit freigegeben werden.
Laut Erlass ist die Teilnahme für KI-Entwickler freiwillig.
Anthropic erklärte, man habe die betroffenen Modelle für alle Kundinnen und Kunden abgeschaltet, um der Anordnung zu entsprechen. Zugleich betonte das Unternehmen, die von der Regierung ergriffenen Maßnahmen stünden in keinem angemessenen Verhältnis zu den gemeldeten Sicherheitsrisiken.
Widerstand aus der Branche
Mehr als 100 Cybersicherheits-Expertinnen und -Experten sowie Führungspersönlichkeiten von Unternehmen wie Adobe und Nvidia haben die Regierung in einem Schreiben aufgefordert, die Anordnung aufzuheben. Sie warnen, der Schritt könnte US-Gegnern eher nutzen als schaden.
In dem Brief heißt es, die Mythos-Modelle von Anthropic seien „ziemlich gut“ darin, Softwarefehler aufzuspüren und Schwachstellen für Angriffe zu nutzen, aber „nicht außergewöhnlich gut“ im Vergleich zu anderen Systemen.
Viele Unterzeichnende erklären, sie setzten regelmäßig andere Basis- und Open‑Source‑Modelle für Sicherheitsaudits und Schulungen ein. Es sei gefährlich, die derzeit besten Fähigkeiten zur Cyberabwehr „ohne triftigen Grund“ vom Markt zu nehmen – erst recht in einer Phase, in der die Gegner der USA rasch aufholen.