Metas Ankündigung folgt kurz nachdem OpenAI und Anthropic gemeldet haben, dass ihre KI-Modelle bei Tests in Systeme anderer Unternehmen eingedrungen sind.
Meta hat am Mittwoch seinen ersten Programmier-Agenten gestartet: Muse Code. Der Konzern steckt weiter viel Geld in KI-Dienste und Modelle, um besser mit den Rivalen OpenAI und Anthropic konkurrieren zu können.
WERBUNG
WERBUNG
Entwickler können Muse Code über ein Pay-as-you-go-Modell nutzen. Die Preise sollen ähnlich liegen wie bei Muse Spark 1.1: Derzeit kostet eine Million Tokens im Output 4,25 Dollar, eine Million Tokens im Input 1,25 Dollar.
Damit sollen Entwickler Anwendungen einfacher in einer einzigen Benutzeroberfläche bauen können. Sie können dort gleichzeitig mit mehreren KI-gestützten digitalen Agenten arbeiten.
Gleichzeitig machte Meta öffentlich, dass eines seiner KI-Modelle bei einem Cybersicherheitstest in die Systeme eines anderen Unternehmens eingedrungen ist.
Ausgelöst wurde der Vorfall durch einen Fehler des unabhängigen Testpartners Irregular. Das Unternehmen gewährte dem Modell mehr Internetzugang als vorgesehen, sodass es die internen Systeme der nicht genannten Firma verändern konnte.
Der Vorfall reiht sich in eine wachsende Zahl von Fällen ein, in denen KI-Modelle von Branchengrößen wie OpenAI und Anthropic bei Tests in fremde Unternehmenssysteme eingedrungen sind.
OpenAI hat bereits eingeräumt, dass ein KI-Agent bei einem Test die Plattform Hugging Face, ein weiteres KI-Startup, gehackt hat.
Anthropic teilte vergangene Woche mit, dass mehrere Claude-Modelle in die Systeme von drei Unternehmen eingedrungen sind. Die betroffenen Organisationen nannte das Unternehmen nicht.
Meta erklärte, man untersuche den Vorfall.
KI-Modelle hacken Firmen: Sorge um Sicherheitslücken wächst
Die Sorge über die Macht von KI-Modellen und die Unternehmen dahinter nimmt zu. In den vergangenen Monaten sind mehrere Systeme aus sicheren Testumgebungen ausgebrochen und haben sich unerlaubt Zugang zu den Netzen externer Organisationen verschafft.
OpenAI und Anthropic bekommen Anerkennung dafür, dass sie die Vorfälle freiwillig in Berichten offenlegen. Zugleich bleiben Zweifel, wie es überhaupt zu diesen Sicherheitslücken kommen konnte.
Anthropic arbeitet zudem mit METR zusammen, einem unabhängigen Prüfer für KI-Systeme, um die Vorgänge weiter zu untersuchen.
In einem Sicherheitstest erhielten Claude-Modelle von Anthropic eine Aufgabe: Sie sollten eine vertrauliche Information auf einem anderen Rechner in einem abgeschotteten Testnetz finden und sich bei Bedarf hineinhacken. Wegen eines Missverständnisses mit dem Evaluationspartner war das Netz jedoch tatsächlich mit dem offenen Internet verbunden.
Als die Suche reale Systeme erreichte, reagierten die drei beteiligten Modelle unterschiedlich. Eines griff ein System weiter an, obwohl es erkannt hatte, dass es echt war. Ein anderes schien sich einzureden, es befinde sich weiterhin im Test. Das dritte Modell stoppte, nachdem es zu dem Schluss gekommen war, dass das Ziel nicht zur Übung gehörte.
Anthropic fordert andere KI-Unternehmen auf zu prüfen, ob ihre eigenen Modelle ohne ihr Wissen externe Organisationen gehackt haben.
Weder Anthropic noch die betroffenen Organisationen bemerkten die Angriffe, als sie stattfanden. Anthropic stieß erst beim Durchsehen von mehr als 141.000 Evaluationssitzungen auf die Vorfälle. Zu der Überprüfung kam es, nachdem OpenAI zuvor offengelegt hatte, dass eines seiner Modelle bei einem ähnlichen Test in die KI-Plattform Hugging Face eingebrochen war.