Anthropic hält sein bislang stärkstes KI-Modell Mythos für zu gefährlich für eine breite Veröffentlichung. Die Warnung löst eilige Gespräche mit Regierungen und Finanzaufsehern aus.
Anthropic verhandelt mit der US-Regierung über sein neues KI-Modell Mythos. Nach Angaben des Unternehmens ist die Technologie zu mächtig für eine Veröffentlichung an die breite Öffentlichkeit, weil sie „beispiellose Risiken für die Cybersicherheit“ berge.
WERBUNG
WERBUNG
Auch die Bankenbranche schlägt Alarm.
„Die Regierung muss darüber Bescheid wissen“, sagte der Mitgründer von Anthropic am Montag beim Wirtschaftsgipfel „Semafor World Economy“ in Washington.
„Natürlich sprechen wir mit der Regierung über Mythos, und wir werden auch über die nächsten Modelle mit ihr reden“, fügte er hinzu.
Mit Blick auf den öffentlichen Streit mit der Regierung, nach dem das Unternehmen im vergangenen Monat als Risiko für die Lieferkette eingestuft wurde, sagte er: „Ich möchte nicht, dass das den Eindruck überdeckt, wie wichtig uns die nationale Sicherheit ist.“
Die Einstufung als Lieferkettenrisiko erfolgte, nachdem Verhandlungen gescheitert waren. Anthropic wollte darin begrenzen, wie das US-Verteidigungsministerium seine KI-Modelle nutzen darf.
Der Schritt folgte auf ein Treffen, zu dem Finanzminister Scott Bessent in der vergangenen Woche führende US-Bankmanager nach Washington geladen hatte. Thema war dort das Mythos-Modell.
Bei der Sitzung ermutigte das Ministerium die Bankmanager, Anthropics Modell Mythos zum Aufspüren von Schwachstellen einzusetzen, berichtete Bloomberg (Quelle auf Englisch).
Anthropic kündigte außerdem an, das neue KI-Modell nur ausgewählten Technologie- und Cybersicherheitsunternehmen zur Verfügung zu stellen. Auf der Liste stehen unter anderem Amazon, Apple und JP Morgan Chase.
Auch Goldman Sachs, Citigroup, Bank of America und Morgan Stanley testen das Modell demnach bereits, so Bloomberg.
Am Montag warnte zudem das britische staatliche AI Security Institute (AISI), Mythos stelle in Bezug auf die von ihm ausgehende Cyberbedrohung einen „Sprung nach vorn“ gegenüber früheren Modellen dar.
Unterdessen berichtete die „Financial Times“, dass sich auch die britischen Finanzaufsichtsbehörden mit den möglichen Risiken von Mythos befassen.