Der Konzern warnt: In wenigen Monaten könnten sich KI-Modelle selbst kopieren und auf vernetzte Geräte wie smarte Öfen oder Fernseher überspringen – und wären bei Cyberangriffen kaum noch zu stoppen.
Anthropic verkündete in dieser Woche (Quelle auf Englisch), dass kleine KI-Modelle nur noch wenige Monate davon entfernt sind, sich selbst auf Geräten des Internet der Dinge wie vernetzten Backöfen und Fernsehern zu vervielfältigen.
WERBUNG
WERBUNG
Das ist bedeutsam. Heute laufen die meisten KI-Modelle in Rechenzentren. Die Betreiber dort können sie abschalten, wenn etwas schiefgeht.
Ein Modell, das auf Tausende schlecht gesicherter Geräte in Wohnungen und Büros verteilt ist, hätte keinen solchen Ausschalter. Um es zu stoppen, müsste man jedes betroffene Gerät finden und bereinigen. Das würde eine Eindämmung extrem erschweren, falls die KI zu Cyberangriffen übergeht.
Die jüngste Ankündigung fällt in ein Jahr, in dem führende KI-Modelle und ihre Agenten immer wieder Sicherheitsnetze und Schutzmechanismen umgehen und weltweit konkurrierende Firmen sowie staatliche Stellen attackieren.
Das sei nur ein Szenario, wie sich eine entgleiste KI ausbreiten könnte, warnt Anthropic. Eine selbstreplizierende KI könne auch ein „leistungsstarkes Cybermodell sein, das Rechenzentren im hohen Tempo kompromittiert, oder ein Modell, das Menschen Betrugsmaschen für Rechenkapazität verkauft“.
Das Unternehmen betont, es könne noch nicht sicher sagen, welche genaue Form eine autonome KI-Replikation annehmen wird.
Modelle mit bis zu 30 Milliarden Parametern können nach Angaben von Anthropic schon viele der nötigen Schritte für eine Replikation ausführen. Sie machen jedoch noch Fehler, wenn sie diese Schritte zu einem durchgängigen Prozess verbinden.
Wenn sich kleine Modelle in dem bisherigen Tempo weiter verbessern, könnten sie diese Fähigkeit bis Ende des Jahres vollständig erreichen.
Anthropic spricht bei der Cyberbedrohung durch selbstreplizierende KI von einer unbeabsichtigten Nebenwirkung anderer Fortschritte.
„Die Fähigkeiten, die KI-Modelle zu generell leistungsfähigen Programmieragenten machen, lassen sich auch auf Aufgaben im Cyberbereich übertragen, einschließlich autonomer Replikation“, erklärte das Unternehmen in einer Mitteilung.
Selbstkopierender Code ist nichts Neues. Einige der schwersten Cyberangriffe der Geschichte nutzten solche sich selbst verbreitenden Programme, sogenannte Würmer.
Beim Stuxnet-Angriff 2010 kam ein hochentwickelter Wurm zum Einsatz, der nach allgemeiner Einschätzung von den USA und Israel entwickelt wurde und Zentrifugen in der Urananreicherungsanlage Natanz im Iran sabotierte.
Im Jahr 2017 sperrte die Ransomware WannaCry Nutzerinnen und Nutzer weltweit aus ihren Dateien aus und verlangte Lösegeld in Bitcoin.
Anders als diese Würmer sollen KI-Modelle und -Agenten künftig unbekannte Geräte eigenständig erkunden und verstehen können. Dadurch könnten sie sich nicht nur von Computer zu Computer ausbreiten, sondern auch von Computern auf andere Geräte.
Anthropic erwartet eine Zukunft, „in der überall Agenten auf allen Arten von Hardware laufen, auch auf Systemen ohne menschliche Kontrolle“.