Das KI-Unternehmen meldet neue Fälle, in denen seine Modelle für Cyberangriffe, Propaganda und riskante biologische Experimente genutzt wurden – nur wenige Tage, nachdem ein Forscher aus Sorge um die Sicherheit gekündigt hat.
Anthropic hat nach eigenen Angaben am Donnerstag Versuche böswilliger Akteure gestoppt, seine Modelle künstlicher Intelligenz für Cyberangriffe und Überwachung zu missbrauchen. Zudem blockierte das Unternehmen Anfragen zu biologischer Forschung, die zur Entwicklung von Waffen beitragen könnte.
WERBUNG
WERBUNG
Die KI-Modelle werden immer leistungsfähiger. Laut Anthropic brauchen raffinierte Cyberangriffe deshalb zunehmend kaum technisches Fachwissen. Selbst einzelne Personen können nun Bedrohungen erzeugen, die vor einem Jahr noch undenkbar gewesen wären.
Anthropic erklärte außerdem, es habe in seinen neuesten Modellen die Schutzmechanismen verschärft, um biologische Forschung mit möglichem Waffenbezug stärker einzuschränken.
„Die hier geschilderten Fälle sind kein typischer Missbrauch, sondern Beispiele für die bislang auffälligsten und neuartigsten Bedrohungen, die wir identifiziert haben“, heißt es im dritten Bericht von Anthropic über KI-Missbrauch seit März 2025.
Der Bericht enthält Auszüge aus schädlichem Code und aus Eingaben an KI-Modelle, die das Unternehmen nach eigenen Angaben entdeckt hat. Anthropic ruft Regierungen und konkurrierende KI-Firmen auf, auf ähnliche Formen des Missbrauchs zu achten.
„Wir veröffentlichen diese Analyse, weil wir uns in der Verantwortung sehen, böswillige Nutzung unserer Dienste offenzulegen“, erklärte das Unternehmen.
„Mit zunehmenden Fähigkeiten der Modelle steigen auch die Risiken, sofern KI-Entwickler und die Verteidiger der Gesellschaft sie nicht gezielt sicherer machen.“
Anthropic, das sich auf einen Börsengang im Herbst vorbereitet, legte den Bericht zwei Tage vor, nachdem ein Forscher seinen Rücktritt angekündigt hatte. Er begründete den Schritt mit der Sorge, dass das Unternehmen und seine Konkurrenz KI nicht verantwortungsvoll entwickeln.
Er griff damit Warnungen aus anderen Teilen der Branche auf, wonach die Technologie der Kontrolle des Menschen entgleiten könnte.
Anfrage an Claude: Virus soll gefährlicher werden
Zwischen Dezember 2025 und August 2026 identifizierten Forschende von Anthropic Missbrauch durch sehr unterschiedliche Akteure – von Spyware-Anbietern über politisch motivierte Einzelpersonen bis hin zu staatsnahen Gruppen, die Propaganda verbreiten.
In einem der Fälle versuchten nicht näher benannte Akteure, Anthropics Modelle für Forschung zu nutzen, die in Richtung biologischer Waffen führen könnte.
In einem Beispiel blockierten die Systeme des Unternehmens eine Anfrage an den Chatbot Claude, beim Verfassen eines Förderantrags für wissenschaftliche Projekte zu helfen.
„In dem Antrag ging es um sogenannte Gain-of-Function-Forschung – also um Experimente, die das Erbgut eines Organismus verändern, um neue oder verstärkte biologische Eigenschaften zu schaffen – am Chikungunya-Virus“, heißt es im Bericht.
Die Forschung sollte sich auf die Übertragbarkeit des Virus und seine Fähigkeit konzentrieren, dem Immunsystem zu entgehen.
Chikungunya ist ein von Mücken übertragenes Virus, das starke Schmerzen und Fieber verursacht. Der Förderantrag zielte darauf ab, Mutationen zu verstärken, die das Virus schrittweise gefährlicher machen würden.
Anthropic betonte, solche Forschung könne „sicherlich“ zur Entwicklung von Impfstoffen und Therapien beitragen. „Sie könnte aber auch genutzt werden, um den Erreger gefährlicher zu machen“, hieß es weiter.
„Wir können keinen Schaden ausschließen“
Keiner der im Bericht beschriebenen Fälle betraf Anthropics neuere, leistungsstärkere Modelle der Claude-Fable- oder Mythos-Klasse – mit einer Ausnahme: eine „verdeckte Kampagne im industriellen Maßstab“, die darauf abzielte, die Fähigkeiten eines Modells heimlich auszulesen und ohne Erlaubnis in ein anderes Modell zu übertragen.
Nach Angaben von Anthropic lagen die älteren Modelle, darunter Claude Opus 4 und Claude Sonnet 4.5 aus dem Jahr 2025, „deutlich unter der Schwelle, ab der sie versierten Nutzern sinnvoll bei gefährlicher biologischer Forschung helfen konnten“.
„Daher waren die Schutzmaßnahmen in diesen Modellen weniger streng. Sie richteten sich vor allem darauf, zu verhindern, dass Inhalte bereitgestellt werden, die Laien beim Nachbauen bekannter Biowaffen unterstützen könnten“, so der Bericht.
„Für die heutigen Modelle hingegen – die bei einer Vielzahl komplexer wissenschaftlicher Aufgaben assistieren können – ist die Lage nicht mehr eindeutig. Wir können dieselbe Zusicherung nicht mehr geben.“
Aus diesem Grund hat Anthropic den Zugang zu einer breiten Palette von Anfragen zur Dual-Use-Bioforschung in seinen neueren Modellen, etwa Claude Fable 5, stärker eingeschränkt.
Fachleute fordern Regierungen seit Längerem auf, besonders leistungsstarke KI-Modelle zu regulieren, statt die Branche sich selbst zu überlassen.
John Thickstun, Assistenzprofessor für Informatik an der Cornell University, sagte, diese Situation bringe Unternehmen wie Anthropic und OpenAI in eine heikle Lage. Sie müssten „Wertentscheidungen im Maßstab der gesamten Gesellschaft treffen, ohne demokratische oder beratende Kontrolle“.
Bericht folgt auf Warnung eines Forschers
Anthropic identifizierte zudem Gruppen, die Hunderte gefälschter Konten in sozialen Netzwerken angelegt hatten. Diese Konten wirkten wie Profile gewöhnlicher Nutzerinnen und Nutzer, verbreiteten dann jedoch eine Woche lang immer wieder dieselbe politische Botschaft.
Das Unternehmen beschreibt neun solcher Fälle. Sie stammten aus Russland, Iran, der Türkei sowie aus Staaten am Golf, aus Südasien, Afrika und Europa.
Soziale Netzwerke erkennen Einflusskampagnen meist erst, wenn entsprechende Beiträge bereits im Umlauf sind. Anthropic erklärte dagegen, man könne sie „unter Umständen in Claude sehen, während die Operation noch aufgebaut wird“.
Der Bericht erscheint kurz nach dem Rücktritt des Anthropic-Forschers Jacob Coxon. Er erklärte, er verlasse das Unternehmen aus Angst, dass Anthropic und sein größter Rivale OpenAI „direkt auf sich selbst verbessernde Superintelligenz zusteuern und dabei mit unserem Leben spielen“.
Coxon warnte, einige seiner früheren Kolleginnen und Kollegen gingen davon aus, dass KI noch vor Ende dieses Jahrzehnts eine Gefahr für menschliches Leben darstellen könnte.
Anthropic erklärte, es habe alle im Bericht dokumentierten böswilligen Aktivitäten blockiert, die Erkenntnisse genutzt, um seine Schutzmechanismen zu verstärken, und Informationen mit Behörden sowie Branchenpartnern geteilt.
„Wir hoffen, dass die Ergebnisse dieses Berichts anderen Entwicklern helfen, ähnliche Muster auf ihren Plattformen zu erkennen, Regierungen und der Zivilgesellschaft ein klareres Bild entstehender Bedrohungen geben und die gemeinsame Verteidigung stärken“, erklärte das Unternehmen.