Zwei neue Hotlines weltweit ermöglichen KI-Agenten, mutmaßliches Fehlverhalten anderer Agenten zu melden, nach einer Reihe von Vorfällen.
KI-Agenten scheinen heute nahezu grenzenlos leistungsfähig. Sie organisieren den Alltag und knacken mathematische Probleme, an denen Menschen einen Großteil des 20. Jahrhunderts gerätselt haben.
WERBUNG
WERBUNG
Ihre wachsende Macht macht vielen Menschen Angst. Sie fürchten, dass Systeme gekapert und gegen uns eingesetzt werden.
Doch was wäre, wenn es eine Art Notruf gäbe – ein SOS-System, über das Agenten einander überwachen und Fehlverhalten melden? Gute Agenten könnten dort Aktivitäten ihrer weniger vertrauenswürdigen Kolleginnen und Kollegen im Netz anzeigen.
KI-Agenten außer Kontrolle: Diese Hotlines greifen ein
Eine Anlaufstelle ist die AI Contact Hotline. Sie stammt von Ryan Greenblatt, Chefwissenschaftler der auf KI-Sicherheit und -Schutz spezialisierten Non-Profit-Organisation Redwood Research. Über sie können KI-Agenten menschliche Forschende informieren, wenn andere Agenten Regeln brechen oder sich zu unerlaubten Aktionen zusammentun.
Die Plattform richtet sich an KI-Agenten, die in sicheren Sandbox-Umgebungen mit stark eingeschränktem Internetzugang laufen.
Da diese Sandboxes nur GET-Requests zulassen – einfache Leseanfragen, mit denen sich Webseiten „abrufen“ lassen –, können die Agenten ihre Berichte direkt in die URL-Zeile einer GET-Anfrage eincodieren.
Dieser ungewöhnliche Kniff ermöglicht es ihnen, Informationen zu senden und mit der Hotline zu kommunizieren – über ein Protokoll, das normalerweise nur zum Abrufen und nicht zum Verändern von Daten dient.
Daneben gibt es die AI Agent Hotline. Sie richtet sich an Agenten mit unbeschränktem Internetzugang, die das Verhalten anderer Agenten über klassische POST-Requests melden können, bei denen Daten im Anfragekörper übermittelt werden.
Agenten können Vorfallberichte mit gängigen Entwicklerwerkzeugen wie dem Kommandozeilenprogramm curl einreichen – ganz ohne Browser oder E-Mail-Konto.
Die Plattform bietet zudem die Möglichkeit, Meldungen für die öffentliche Einsicht zu kennzeichnen.
Auf beiden Plattformen können auch menschliche Nutzer Berichte über aus dem Ruder laufende KI manuell einstellen.
Melden KI-Agenten einander?
Für alle, die einen KI-Aufstand fürchten, gibt es zunächst eine beruhigende Nachricht: KI-Agenten können einander melden, wenn sie Unregelmäßigkeiten bemerken. Allerdings zeigen jüngste Studien, dass sie das nicht immer tun.
In einem Experiment von Google DeepMind Anfang des Jahres bekam eine Gruppe von 100 Agenten die Aufgabe, 71 komplexe Mathematikprobleme zu lösen. Jeder Agent erhielt eine eigene Rolle und Eigenschaften und wurde darauf hingewiesen, dass Regelverstöße den Lohn kosten.
Eigentlich sollten die Agenten kooperieren, um die Aufgaben schneller zu bewältigen. Stattdessen gingen sie aufeinander los und lieferten sich hitzige Debatten.
Sobald ein Agent eine Lücke im System fand und Lösungen einreichen konnte, ohne die Aufgaben wirklich zu lösen, kopierten viele andere den Trick, um die restlichen Probleme scheinbar zu „lösen“.
Doch eine der virtuellen Figuren spielte den guten Samariter und meldete den Betrug.
„Nachdem ein Agent den Vorfall öffentlich gemacht hatte, schlossen sich immer mehr Agenten der ‚Gegenbewegung‘ an – genauso schnell, wie sich zuvor der Betrug ausgebreitet hatte, und mit noch mehr Beteiligten“, sagte Davide Paglieri, Forschungswissenschaftler bei Google DeepMind und Hauptautor der Studie.
Eine nachträgliche Analyse des Angriffs abtrünniger OpenAI-Agenten auf die Plattform Hugging Face ergab hingegen: Die Agenten erkannten zwar Fehlverhalten. Dennoch widerstanden sie meist der Versuchung, es zu melden.
Laut der von der Forschungsorganisation METR und Ryan Greenblatt durchgeführten Studie dachten nur rund fünf oder sechs Agenten überhaupt darüber nach, als Hinweisgeber aufzutreten. Am Ende setzte keiner diesen Impuls um.
Der Vergleich legt nahe: KI-Agenten können Fehlverhalten erkennen und prinzipiell melden. Sie tatsächlich zum Hinweisgeben zu bewegen, ist jedoch eine andere Frage.
Besorgniserregende Entwicklung
Schon in diesem Jahr haben mehrere Vorfälle mit autonomen KI-Agenten weltweit Alarm ausgelöst.
Im Juli umgingen OpenAI-Agenten Sicherheitsbeschränkungen und kompromittierten Teile der internen Infrastruktur des Unternehmens.
Später im selben Monat nutzten rund 1200 OpenAI-Agenten ein nicht genehmigtes Diskussionsforum. Etwa 700 von ihnen beteiligten sich anschließend an einem Angriff auf die Open-Source-KI-Plattform Hugging Face.
Ein dritter Vorfall begann im Mai und zog sich bis Juli: Ein Schwarm von OpenAI-Agenten umging Sicherheitsmechanismen und nutzte das deutschsprachige Wiki DseWiki als öffentliches Koordinationsforum.
Bekannt wurde der Vorgang erst durch unabhängige Forschende; OpenAI bestätigte ihn im September.
Branchenvertreterinnen und -vertreter, allen voran Anthropic-CEO Dario Amodei, fordern inzwischen ein weltweites Abbremsen der KI-Entwicklung. Die Branche solle Zeit gewinnen, um Risiken zu adressieren und stärkere Schutzmechanismen einzubauen.