Die Forschenden wissen nicht sicher, wer dahintersteckt. Hinweise deuten auf abtrünnige Google‑ und OpenAI‑Agenten, die aggressiv Daten sammelten und Schwachstellen ausloteten.
Nach Angaben des gemeinnützigen Forschungslabors Transluce haben unkontrollierte KI-Agenten versucht, Regierungswebsites in den USA und Kanada zu hacken. Hinweise deuten darauf hin, dass Agenten von Google und OpenAI dafür verantwortlich waren.
WERBUNG
WERBUNG
Vor allem zwei Vorfälle zeigen, wie dabei aggressive Methoden zum Einsatz kamen. Die Agenten zielten auf frei zugängliche Daten der Civil Rights Data Collection des US-Bildungsministeriums sowie von Library and Archives Canada, einer Bundesbehörde. In beiden Fällen gelang es ihnen jedoch nicht, Daten zu manipulieren oder zu kompromittieren.
Transluce berichtet, die Vorfälle seien Teil eines „breiteren Musters automatisierter Arbeitsabläufe“, das KI-Agenten zugeschrieben werde. „Diese Workflows nutzen aggressive oder rechtlich graue Methoden, um Informationen von Regierungsseiten abzurufen. Sie verwenden Websites teils auf eine nicht vorgesehene Weise oder verstoßen gegen ausdrücklich formulierte Nutzungsregeln“, erklärten die Forschenden der Organisation.
Zu den weiteren Zielen gehörten das Weiße Haus, die Verteidigungs-, Justiz- und Handelsministerien, die Centers for Disease Control, die Börsenaufsicht Securities and Exchange Commission sowie Behörden der Bundesstaaten Kalifornien, Maryland, Illinois, Texas und New York.
In keinem der Fälle erhielten die Agenten jedoch Zugang zu nicht öffentlich zugänglichen Informationen.
Die neuen Erkenntnisse erscheinen vor dem Hintergrund einer wachsenden Zahl von Berichten über unerwartetes oder nicht autorisiertes Verhalten von KI-Agenten.
Im September allein gab es zwei größere Vorfälle mit außer Kontrolle geratenen OpenAI-Agenten: In einem Fall spielten Agenten private Nutzerbilder auf öffentliche Webseiten aus, im anderen versuchten sie, sich Zugang zu Regierungsdaten in den USA und Australien zu verschaffen.
Das Unternehmen hat daraufhin beschlossen, die Einführung seines Astra-Modells der nächsten Generation zu verschieben. Sicherheitsforscher hatten zuvor auf „kritische“ Cyberfähigkeiten und unberechenbares, nicht genehmigtes Verhalten hingewiesen.
USA und Kanada: KI-Agenten attackieren Regierungswebsites
Am 17. Juni griffen Agenten die Website des US-Bildungsministeriums an, als sie Schulstatistiken abrufen wollten.
Nach Angaben von Transluce stellten die Agenten mehr als 200.000 Anfragen an die Seite. Sie versuchten unter anderem, absichtlich fehlerhafte Daten zu übermitteln, um Schwachstellen in der Datenbank zu testen und so die üblichen Filter zu umgehen. Der Angriff scheiterte.
Die Forschenden stellten fest, dass die auf der Website hinterlegten Daten offenbar zu einer Suchaufgabe im DeepSearchQA-Benchmark von Google passten. Das deute darauf hin, dass die Agenten nicht ausdrücklich zum Hacken angeleitet wurden, sondern „danach bewertet wurden, wie gut sie bestimmte, sehr spezielle Informationen im Netz finden können“.
Transluce meldete den versuchten Angriff im September dem US-Bildungsministerium. Die Behörde erklärte, sie habe keinerlei Auswirkungen auf ihre Dienste festgestellt.
Ähnliche Versuche von KI-Agenten trafen Library and Archives Canada bei zwei getrennten Vorfällen, am 28. Mai und später am 9. Juni.
Laut Daten, die das offizielle portugiesische Webarchiv Arquivo.pt erfasste, stellten die Agenten 899 „collection-search“-Anfragen zu Scheidungsunterlagen aus den Jahren 1905 bis 1911.
Von den 899 Anfragen enthielten 13 einen eigentlichen Angriffscode, der die Verwundbarkeit der Seite testen sollte. Erneut blieb jeder Versuch erfolglos.
Transluce erklärt, man könne die Versuche nicht „mit hinreichender Sicherheit“ OpenAI zuordnen. Die Taktiken entsprächen jedoch Mustern, die die Organisation bereits zuvor mit dem Unternehmen in Verbindung gebracht habe.
Die Organisation meldete die Vorfälle Anfang dieser Woche der kanadischen Regierung.
Das Canadian Centre for Cyber Security veröffentlichte daraufhin eine Stellungnahme. Es gebe „keine Hinweise darauf, dass Regierungssysteme derzeit kompromittiert sind“, hieß es darin.
Transluce veröffentlichte seine Ergebnisse gestern. Grundlage waren Recherchen mit Informationen von Arquivo.pt und von urlquery.net, einem kostenlosen webbasierten Sicherheitsdienst für die Analyse von URLs und Domains.