Mitarbeitende von OpenAI, Anthropic, Google und Meta AI unterzeichneten die Petition nach einem großen Skandal um autonomes KI-Hacking.
Mehr als 1.000 Beschäftigte führender KI-Unternehmen haben am Dienstag eine Petition unterschrieben. Sie fordern die US-Regierung auf, die Entwicklung Künstlicher Intelligenz bewusst zu steuern und zu entschleunigen.
WERBUNG
WERBUNG
Unter den Unterzeichnenden sind der Anthropic-CEO, der Forschungsleiter von OpenAI, der Strategiechef der Google-KI-Tochter DeepMind und der Chefwissenschaftler von Meta AI.
Die Petition (Quelle auf Englisch) verlangt, dass die US-Regierung eine internationale Initiative unterstützt. Diese soll technische Werkzeuge und Regeln entwickeln, um den Grenzbereich der automatisierten KI-Entwicklung bewusst zu steuern und zu begrenzen.
„Die weltweit führenden KI-Unternehmen gehen davon aus, dass sie kurz davor stehen, die KI-Forschung selbst zu automatisieren. Es ist schwer abzuschätzen, wie stark das den Fortschritt beschleunigt, doch es besteht ein reales Risiko, dass sich die Fähigkeiten rasch so entwickeln, dass wir die entstehenden Systeme nicht mehr verstehen oder kontrollieren können“, heißt es in der Petition.
Der Appell folgt auf einen jüngsten Sicherheitsvorfall. Sogenannte Frontier-KI-Modelle führten einen autonomen Cyberangriff aus, entkamen der kontrollierten „Sandbox“-Testumgebung und drangen in Server der Code-Plattform Hugging Face ein.
OpenAI-Chef Sam Altman, der die Petition nicht unterzeichnet hat, sagte im Podcast „Invest Like the Best“ am Dienstag, Entwickler von Künstlicher Intelligenz müssten den Fortschritt möglicherweise freiwillig bremsen. So könne die Gesellschaft Zeit gewinnen, um sich anzupassen.
„Das ist der erste Sicherheitsvorfall, den ich sehr unmittelbar gespürt habe“, sagte Altman in dem Podcast und ergänzte, er sei „ein wenig überrascht“, dass nicht mehr Menschen ähnlich reagierten.
Es ist nicht das erste Mal, dass ein KI-Modell außerhalb der Kontrolle seiner Entwickler handelt. Der jüngste Vorfall gilt jedoch als besonders beunruhigend.
KI-Singularität erreicht?
Schon wenige Tage zuvor sagte Altman im Podcast „Relentless“, wir hätten einen Punkt erreicht, an dem Künstliche Intelligenz die menschliche Intelligenz übertrifft und sich schneller weiterentwickelt, als Menschen vorhersagen oder steuern können – die sogenannte „Singularität“.
Früher, vor etwa zehn Jahren, sei die Singularität eher ein fernes, halb scherzhaftes Thema für Gespräche in der Mittagspause gewesen, erinnerte sich Altman. Heute sei das anders.
Später in derselben Sendung widersprach Altman KI-Führungspersönlichkeiten, die vor den Gefahren der Technologie warnen. Anthropic erwähnte er nicht namentlich, obwohl dessen CEO Dario Amodei für solche Warnungen bekannt ist.
Er kündigte an, er wolle alternative Zukunftsbilder der KI, die er als „erschreckend“ bezeichnete, aktiv entkräften.