UN-Generalsekretär António Guterres bezeichnete das Expertengremium als wichtigen Grundstein für ein weltweites wissenschaftliches Verständnis von KI.
Die Vereinten Nationen haben in dieser Woche ein globales wissenschaftliches Gremium mit vierzig Mitgliedern eingesetzt, das die Risiken von Künstlicher Intelligenz (KI) untersuchen soll – trotz starken Widerstands der Vereinigten Staaten. Der Schritt folgt Warnungen ehemaliger Beschäftigter von KI-Unternehmen, die Alarm schlagen.
WERBUNG
WERBUNG
Die UN-Vollversammlung stimmte mit einhundertsiebzehn zu zwei Stimmen für das Gremium. Die Vereinigten Staaten und Paraguay votierten dagegen, Tunesien und die Ukraine enthielten sich. Russland, China und die europäischen Verbündeten stimmten zu.
Die Expertinnen und Experten des Unabhängigen Internationalen Wissenschaftspanels für Künstliche Intelligenz (KI) sollen jährlich einen Bericht vorlegen. Darin bündeln und analysieren sie Risiken, Chancen und Auswirkungen von KI in dem, was die UN als „erstes globales wissenschaftliches Gremium seiner Art“ bezeichnet.
Die Einsetzung des Gremiums sei ein „grundlegender Schritt hin zu einem globalen wissenschaftlichen Verständnis von KI“, sagte UN-Generalsekretär António Guterres.
„In einer Welt, in der sich KI rasant entwickelt“, so Guterres, „wird dieses Panel das liefern, was bisher fehlte: eine strenge, unabhängige wissenschaftliche Analyse, die allen Mitgliedstaaten ermöglicht, ungeachtet ihres technologischen Entwicklungsstands auf Augenhöhe mitzudiskutieren.“
Die Abstimmung fällt in eine Phase, in der Beschäftigte aus Sorge über Unternehmenspraktiken Tech-Firmen im Bereich Künstliche Intelligenz den Rücken kehren.
Mrinank Sharma, früher Sicherheitsforscher bei Anthropic, warnte in einem offenen Brief, „die Welt ist in Gefahr“ – durch die Entwicklung von KI und andere Krisen.
Zoe Hitzig, ehemals leitende Forscherin bei OpenAI, sagte der „New York Times“, sie habe „tiefe Vorbehalte“ gegenüber der Strategie, die ihr früheres Unternehmen verfolge.
Auch einige der prominentesten Stimmen der KI-Branche – etwa Dario Amodei, der Chef von Anthropic, Sam Altman von OpenAI und Apple-Mitgründer Steve Wozniak – haben wiederholt vor den Gefahren von KI gewarnt.
„Deutliche Überschreitung des UN-Mandats“
Nach Angaben von Guterres wurden die vierzig Mitglieder des Panels aus mehr als zweitausendsechshundert Kandidatinnen und Kandidaten ausgewählt, nachdem mehrere UN-Organisationen und die Internationale Fernmeldeunion die Bewerbungen unabhängig geprüft hatten. Die Expertinnen und Experten werden jeweils für drei Jahre berufen.
Europa hat elf Sitze in dem Gremium: Joelle Barral aus Frankreich, Melahat Bilge Demirkoz aus der Türkei, Anna Korhonen aus Finnland, Aleksandra Korolova aus Lettland, Andrei Neznamov aus Russland, die Deutschen Maximilian Nickel und Bernhard Scholkopf, Roman Orus aus Spanien, Johanna Pirker aus Österreich, Piotr Sankowski aus Polen und Silvio Savarese aus Italien.
Lauren Lovelace, die Vertreterin der USA, nannte das Panel „eine deutliche Überschreitung des Mandats und der Zuständigkeit der UN“ und sagte, „die Steuerung von KI ist keine Frage, über die die UN bestimmen sollte“.
Lovelace forderte die Vereinten Nationen stattdessen auf, sich auf ihre „Kernaufträge“ zu konzentrieren – internationale Friedenssicherung und Sicherheit, Menschenrechte und humanitäre Hilfe – anstatt zu versuchen, „querschnittlich wirkende ... Technologien zu regulieren oder zu bremsen, die den wirtschaftlichen und strategischen Wettbewerb im einundzwanzigsten Jahrhundert bestimmen werden“.
US-Präsident Donald Trump drängt auf möglichst wenig Regulierung von KI. Er will bürokratische Hürden auf Bundesebene abbauen und einen „Flickenteppich“ unterschiedlicher Bundesstaatengesetze vermeiden, der Innovation bremsen könnte. Die USA und China gelten im Rennen um die Vorreiterrolle bei der Nutzung von KI als Kopf an Kopf.
Trotz des Widerstands der Vereinigten Staaten sind zwei Vertreterinnen und Vertreter aus den USA in dem Panel vertreten: Vipin Kumar, Professor an der University of Minnesota, und Martha Palmer, emeritierte Professorin an der University of Colorado und Expertin für Linguistik.