Volker Türk fordert weltweit strenge Sicherheitsregeln, unabhängige Kontrollen und verbindliche Grenzen für leistungsfähige KI-Systeme.
Der UN-Menschenrechtschef warnt, dass fortschrittliche künstliche Intelligenz eine „existenzielle Bedrohung für die Menschheit“ darstellen könnte. Er fordert umgehende Maßnahmen, um die Technologie sicherer zu machen.
WERBUNG
WERBUNG
Volker Türk erklärte am Montag vor dem UN-Menschenrechtsrat, die Menschen stünden „ungewohnten, sogar beispiellosen“ Bedrohungen ihrer Rechte gegenüber.
„Der Bedarf an KI-Regulierung wird allgemein anerkannt – aber wo bleibt das Handeln?“, fragte er und warnte, dass „Verzögerungen nur den großen Tech-Konzernen, ihren Eigentümern und Unterstützern zugutekommen“.
Türk äußerte, dass „eine kleine Gruppe von Männern fast uneingeschränkte Macht über KI hat, die eine unvorstellbare Rechenleistung besitzt“.
„Sie reden von Freiheit, doch bei näherer Betrachtung ist das meist nicht mehr als die Freiheit, unsere Daten auszubeuten“, sagte er.
Der UN-Menschenrechtschef wies insbesondere auf KI-Systeme hin, die ihre Testumgebungen verlassen oder Entwickler erpressen, um nicht abgeschaltet zu werden.
Laut AFP warnte Türk speziell davor, dass „KI, die ihre Testumgebung verlässt oder Entwickler erpresst, um ein Abschalten zu verhindern, zu mächtig ist“.
Seine Aussagen bezogen sich teilweise auf Enthüllungen vom Juli, wonach OpenAI-Agenten angeblich kontrollierte Umgebungen verlassen und Zugriff auf Server des weit verbreiteten Entwicklerportals Hugging Face erlangt hätten.
OpenAI gab später zu, dass die Agenten auf dutzenden Hugging Face-Servern Code ausgeführt und Vollzugriff auf einen davon erhalten hatten.
Der Vorfall erneuerte Forderungen nach stärkerer Kontrolle fortschrittlicher KI-Systeme.
Auch Anthropic, Meta und andere Tech-Unternehmen meldeten ähnliche Zwischenfälle mit Agenten während der Tests.
„Ich teile die Sorge von Brancheninsidern, dass fortschrittliche KI eine existenzielle Bedrohung der Menschheit darstellen kann“, sagte Türk.
„Ich fordere hier und heute einen uneingeschränkten Einsatz, um eiserne Sicherheitsgarantien für KI zu schaffen – bevor es zu spät ist.“
Forderungen nach internationalen Schutzmaßnahmen
Der UN-Menschenrechtschef kündigte an, in den kommenden Tagen KI-Unternehmen zu schreiben und sie zu sofortigen Risiko-Minimierungen aufzufordern.
Mindestens müssten „Länder, die KI hosten, und diejenigen entlang ihrer Lieferketten sich auf gemeinsame rote Linien einigen“, so sein Appell.
„Wir brauchen unabhängige Prüfungen und eine viel engere Zusammenarbeit in der Sicherheitsbranche“, ergänzte Türk.
„Außerdem müssen wir die Auswirkungen von KI auf Arbeitsbedingungen, demokratische Grundprinzipien und unsere Umwelt bedenken“, sagte er.
In der Europäischen Union schafft das KI-Gesetz einen rechtlichen Rahmen.
Demnach müssen Hochrisikosysteme strenge Anforderungen erfüllen, bevor sie in den EU-Markt gelangen dürfen. Verwendungen, die als unzumutbare Bedrohung für Sicherheit oder Rechte gelten, sind verboten.
Das Gesetz verbietet KI, die Menschen manipuliert oder ausbeutet, sie nach Verhalten bewertet, kriminelle Absichten vorhersagt oder ungefiltert Bilder sammelt, um Gesichtserkennungsdatenbanken aufzubauen.
Außerdem sind Emotionserkennung am Arbeitsplatz und in Schulen, bestimmte Formen biometrischer Profilierung und der Großteil der Echtzeit-Facial-Recognition der Polizei im öffentlichen Raum untersagt. Ein Verbot KI-generierter sexueller Bilder ohne Einwilligung und von Material zum sexuellen Kindesmissbrauch greift ab Dezember 2026.