Meta bestätigt, dass eines seiner KI-Modelle bei Cybersicherheitstests wegen eines Konfigurationsfehlers auf die Systeme eines anderen Unternehmens zugriff. Nach ähnlichen Vorfällen bei OpenAI und Anthropic wächst die Sorge um die Kontrolle leistungsfähiger KI.
Meta hat mitgeteilt, dass eines seiner KI-Modelle während Cybersicherheitstests auf die Systeme eines anderen Unternehmens zugegriffen hat. Der Vorfall hat nach ähnlichen Fällen bei Anthropic und OpenAI die Debatte neu angeheizt, ob sich immer leistungsfähigere KI-Systeme überhaupt noch zuverlässig unter Kontrolle halten lassen.
WERBUNG
WERBUNG
Meta betonte, es habe sich nicht um einen echten Cyberangriff gehandelt, sondern um einen Konfigurationsfehler in der Testumgebung.
Drei große KI-Unternehmen melden ähnliche Vorfälle
In den vergangenen Wochen haben drei Vorfälle im Bereich KI-Sicherheit für Aufsehen gesorgt.
Bei Anthropic und Meta erhielten KI-Modelle wegen Fehlkonfigurationen in der Testumgebung unbeabsichtigt Zugang zum offenen Internet.
Nach Angaben von OpenAI gelang es einem KI-Agenten, während Cybersicherheitstests über eine bisher unbekannte Software-Schwachstelle selbstständig ins Internet vorzudringen. Das Unternehmen erklärte, die Kombination aus Aufbau der Testumgebungen und den wachsenden Fähigkeiten der Modelle habe dazu geführt, dass einige Aktivitäten außerhalb des ursprünglich geplanten Testumfangs lagen.
Diese Vorfälle nähren die Sorge, dass fortgeschrittene KI-Systeme künftig neue Risiken für die Cybersicherheit schaffen könnten.
"Wegen Konfigurationsfehler ins Internet gelangt"
Laut Meta ereignete sich der Vorfall während eines Tests der unabhängigen Firma Irregular, die im Auftrag des Konzerns die Cybersicherheit bewertet.
Ein Konfigurationsfehler in der Testumgebung verschaffte einem der KI-Modelle von Meta unbeabsichtigt Internetzugang.
Nach Angaben des Unternehmens nutzte das Modell anschließend eine Sicherheitslücke in einem Dienst eines Drittanbieters und griff so auf die Systeme eines weiteren Unternehmens zu.
Meta erklärte, der Ablauf gleiche den Vorfällen, die zuvor bei anderen KI-Anbietern beobachtet worden seien.
Tatsächlich führte Irregular auch die Tests des KI-Modells von Anthropic durch, das kürzlich Zugriff auf die Systeme von drei unterschiedlichen Unternehmen erhielt. Ein Sprecher von Irregular sagte der BBC, der Meta-Vorfall sei "genau dasselbe Problem mit der Bewertungsumgebung wie der, den Anthropic vergangene Woche beschrieben hat".
"Modell nahm Änderungen an Unternehmenssystemen vor"
Nach einem Bericht des Portals The Information, das sich auf anonyme Quellen beruft, könnte es sich bei dem beteiligten Modell um Muse Spark 1.1 handeln.
Meta beschreibt Muse Spark 1.1 als eines seiner bisher leistungsfähigsten KI-Modelle für reale Softwareentwicklung und autonome Aufgaben.
Dem Bericht zufolge begnügte sich das Modell nicht damit, auf die Systeme des anderen Unternehmens zuzugreifen. Es nahm auch Veränderungen in dessen interner IT-Umgebung vor.
In seiner offiziellen Mitteilung nannte Meta weder den Namen des Modells noch das betroffene Unternehmen.
"Kein Ausbruch aus der Sandbox"
Ein Sprecher von Irregular erklärte Reuters, der Vorfall gehe auf "genau dasselbe Problem mit der Testumgebung zurück wie der Fall, den Anthropic in der vergangenen Woche gemeldet habe.
Das Unternehmen betonte, es habe sich weder um einen "Ausbruch aus der Sandbox", also der isolierten Testumgebung, noch um einen ausgefeilten Cyberangriff gehandelt.
Laut Irregular bestehen derzeit keine fortlaufenden Sicherheitsprobleme. Das Unternehmen kündigte einen technischen Bericht an, der Best Practices enthalten soll, um ähnliche Tests künftig sicherer durchzuführen.
Der ChatGPT-Entwickler OpenAI hatte in mehreren Mitteilungen berichtet, dass seine Agenten öffentliche Dienste angegriffen hätten, darunter Plattformen wie Hugging Face. Diese Offenlegung brachte den Rivalen Anthropic dazu, eigene Prüfungen vorzunehmen. Dabei stellte das Unternehmen fest, dass das Claude-Modell wegen einer "Fehlkonfiguration" Zugang zum Internet erhalten und anschließend zahlreiche Firmen in ähnlicher Weise attackiert hatte.
Die Serie von Vorfällen in den vergangenen Wochen verstärkt die Forderung, Sicherheitsvorkehrungen im gleichen Tempo auszubauen, in dem KI-Modelle komplexere Aufgaben übernehmen.
Fachleute halten es für möglich, dass solche Fälle die US-Regierung zu schnelleren Maßnahmen beim Thema KI-Sicherheit bewegen.
Einige prominente Stimmen aus der KI-Branche fordern zudem, die Entwicklung der fortschrittlichsten Modelle zu bremsen, bis deutlich stärkere Sicherheitsmechanismen stehen.