Forscher haben einen KI-Wurm entwickelt, den man nicht einmal anklicken muss, um Schaden anzurichten.
WERBUNGSicherheitsforscher haben einen Wurm für künstliche Intelligenz (KI) entwickelt, der in Modelle wie ChatGPT und Gemini eindringen und potenziell Daten stehlen kann.
Die in den Vereinigten Staaten und Israel ansässigen Forscher haben den Computerwurm absichtlich so entwickelt, dass er als Whistleblower dient, um sein Auftreten in generativen KI-Modellen (GenAI) zu verhindern.
Ein Computerwurm kann sich selbst replizieren und verbreiten, indem er andere Computer infiziert. Im Gegensatz zu anderen Würmern müssen Sie bei diesem Wurm nicht auf eine E-Mail klicken oder sie öffnen, um die Malware zu erhalten, sondern dies geschieht automatisch, sobald Sie die infizierte E-Mail erhalten.
Sie haben den Wurm Morris II genannt, nach dem ersten Computerwurm, der 1988 entwickelt wurde.
Wie funktioniert der Wurm?
Die Forscher schufen ein E-Mail-System, das auf Nachrichten mit GenAI antworten und sich dann mit den Modellen ChatGPT, Gemini und LLaVA verbinden konnte.
Morris II wurde gegen GenAI-gestützte E-Mail-Assistenten konfiguriert und konnte persönliche Daten stehlen und Spamming-Kampagnen starten.
"Die Studie zeigt, dass Angreifer solche Eingabeaufforderungen in Eingaben einfügen können, die, wenn sie von GenAI-Modellen verarbeitet werden, das Modell dazu veranlassen, die Eingabe als Ausgabe zu replizieren (Replikation) und bösartige Aktivitäten durchzuführen (Nutzlast)", schreiben die Forscher.
Die Eingabeaufforderung, bei der es sich um eine beliebige Frage oder Mitteilung an das KI-Modell handelt, zwingt das KI-Modell dazu, mit einer anderen Eingabeaufforderung zu antworten, die den KI-Assistenten infizieren kann, um ihm sensible Informationen zu entlocken.
Der Wurm kann dann an andere Kontakte in Ihrem Online-Netzwerk gesendet werden, indem er die Konnektivität innerhalb des GenAI-Ökosystems ausnutzt", fügten sie hinzu.
Die Forscher warnen, dass zwar noch keine KI-Würmer entdeckt wurden, dies aber nur eine Frage der Zeit sei.
"Das bedeutet im Grunde, dass man jetzt die Möglichkeit hat, eine neue Art von Cyberangriff durchzuführen, die es bisher noch nicht gegeben hat", sagte Ben Nassi, ein Forscher der Cornell University, der hinter dem Computerwurm steckt, in einem Interview mit der Zeitschrift Wired.
Die Studie ist besorgniserregend, da KI-Assistenten in intelligenten Geräten und sogar in Autos Einzug halten und im Namen einer Person E-Mails versenden oder Termine buchen können.
In einer anderen Studie, die im letzten Monat veröffentlicht wurde, haben Forscher aus Singapur und China gezeigt, dass sie leicht Root-Zugriff auf das Betriebssystem eines großen Sprachmodells (LLM) erlangen können.