Die US-Regierung ordnete an, dass Anthropic ausländischen Staatsangehörigen den Zugriff auf seine KI-Modelle sperrt.
Anthropic hat reagiert, nachdem die Regierung Trump eine Anordnung erlassen hat, die ausländischen Staatsangehörigen die Nutzung einiger der leistungsstärksten KI-Werkzeuge des Unternehmens untersagt. Der Konzern erklärte, er werde der Vorgabe folgen, halte die Begründung dafür aber für falsch.
WERBUNG
WERBUNG
In einem Blogeintrag am späten Freitagabend teilte das Unternehmen mit, es habe um 17.21 Uhr Eastern Time ein Schreiben der Regierung erhalten. Darin verlange Washington, den Zugang zu den KI-Modellen Fable 5 und Mythos 5 aus Gründen der nationalen Sicherheit auszusetzen.
Das Verbot gilt für ausländische Staatsangehörige innerhalb und außerhalb der USA und betrifft auch ausländische Beschäftigte von Anthropic, erklärte der Konzern.
„Unterm Strich bedeutet diese Anordnung, dass wir Fable 5 und Mythos 5 für alle Kundinnen und Kunden abrupt abschalten müssen, um die Vorgaben einzuhalten“, hieß es weiter. „Der Zugang zu allen anderen Anthropic-Modellen bleibt unverändert.“
Anthropic entschuldigte sich für die Ausfälle bei den Nutzerinnen und Nutzern und erklärte, man arbeite daran, den Zugang so schnell wie möglich wiederherzustellen.
Nach Darstellung von Anthropic haben die Behörden von einer möglichen Methode erfahren, Fable 5 zu „jailbreaken“. Ein Jailbreak liegt vor, wenn Angreifer Schwachstellen eines KI-Modells ausnutzen, um seine ethischen Schutzmechanismen zu umgehen und verbotene Aktionen auszuführen.
Das Unternehmen versuchte, die Bedeutung des Vorfalls zu relativieren, und erklärte, die Schwachstellen wirkten „relativ einfach“. Man habe zudem festgestellt, dass frei verfügbare Modelle in der Lage seien, sie zu erkennen.
Zugleich betonte Anthropic, man halte es für falsch, ein „mögliches eng begrenztes Jailbreak“ zum Anlass zu nehmen, ein kommerzielles Modell zurückzurufen, das bereits bei hunderten Millionen Menschen im Einsatz sei.
Anthropic hob außerdem hervor, es habe „starke Schutzmechanismen entwickelt, die das Risiko deutlich senken, dass Fable für Aufgaben mit Bezug zur Cybersicherheit missbraucht wird“.
Auf X kommentierte Jordan Bardella, Abgeordneter des Europäischen Parlaments und Vorsitzender der französischen rechtsextremen Partei Rassemblement National, der Fall sei eine eindringliche Erinnerung daran, dass künstliche Intelligenz eine „zentrale Frage der nationalen Souveränität“ sei.
„Staaten, die nicht rasch eigene Modelle entwickeln, werden immer stärker von den Entscheidungen anderer Mächte abhängen: Frankreich muss seine Unterstützung für das Aushängeschild Mistral AI und das gesamte KI-Ökosystem beschleunigen“, fügte er hinzu.
Der britische Abgeordnete und frühere Sicherheitsminister Tom Tugendhat erklärte, der Vorgang zeige, wie sehr Technologie inzwischen im Zentrum staatlicher Souveränität stehe.
„Fable 5 und andere Modelle für Ausländer zu deaktivieren, ist kein Missverständnis und kein Fehler, sondern die zwangsläufige Folge davon, dass Technologie die Kriegsführung so verändert, dass Souveränität heute mehr mit Code als mit Kanonen zu tun hat“, schrieb er in den sozialen Medien.
Es ist nicht das erste Mal, dass Anthropic und die Regierung Trump aneinandergeraten.
Im Februar wies Trump US-Bundesbehörden an, die Nutzung der Technologie von Anthropic mit sofortiger Wirkung zu beenden, nachdem CEO Dario Amodei und sein Unternehmen sich dagegen gewehrt hatten, ihre Systeme für bestimmte Verteidigungszwecke einzusetzen.
„Wir brauchen sie nicht, wir wollen sie nicht und werden keine Geschäfte mehr mit ihnen machen!“, schrieb Trump damals auf Truth Social und kündigte eine Auslaufphase von sechs Monaten an.
Anthropic kündigte später an, rechtlich gegen die Regierung vorzugehen, nachdem diese das Unternehmen zusätzlich als „supply chain risk“, also als Risiko in der Lieferkette, eingestuft hatte.