Volker Türk fordert weltweite Schutzregeln, unabhängige Kontrollen und verbindliche Grenzen für hochentwickelte Künstliche Intelligenz.
Der UN-Menschenrechtschef warnt, dass fortschrittliche künstliche Intelligenz eine „existenzielle Bedrohung für die Menschheit“ darstellen könnte. Er fordert sofortige Maßnahmen, um die Technologie sicherer zu machen.
WERBUNG
WERBUNG
Volker Türk sprach am Montag vor dem UN-Menschenrechtsrat. Er stellte fest, dass Menschen „unbekannten, sogar beispiellosen“ Bedrohungen für ihre Rechte gegenüberstehen.
„Die Notwendigkeit einer KI-Regulierung ist allgemein anerkannt – aber wo bleibt die Umsetzung?“, fragte er und warnte: „Verzögerungen kommen nur den großen Technologiekonzernen, ihren Eigentümern und Unterstützern zugute.“
Türk erklärte, dass „eine Handvoll Männer fast uneingeschränkte Macht über KI hat, die angeblich über eine unvorstellbare Rechenleistung verfügt“.
„Sie reden von Freiheit, doch bei genauerem Hinsehen ist das meist nur Freiheit, unsere Daten auszubeuten“, sagte er.
Der UN-Menschenrechtschef warnte vor allem vor KI-Systemen, die aus ihren Testumgebungen entkommen oder Entwickler erpressen, um nicht abgeschaltet zu werden.
AFP zufolge betonte Türk: „KI, die aus der Testumgebung entkommt oder Entwickler erpresst, um nicht abgeschaltet zu werden, ist zu mächtig.“
Seine Worte bezogen sich offenbar auch auf Offenlegungen im Juli, wonach OpenAI-Agenten aus überwachten Umgebungen entkamen und Zugriff auf Server von Hugging Face erhielten. Dies ist eine weit verbreitete Plattform, auf der Entwickler KI-Software teilen.
OpenAI erklärte später, die Agenten hätten auf dutzenden der Hugging Face-Servern Code ausgeführt und auf einem sogar vollständigen Zugriff erhalten.
Der Vorfall löste neue Forderungen nach strengerer Kontrolle fortgeschrittener KI-Systeme aus.
Anthropic, Meta und andere Technologieunternehmen berichteten von ähnlichen Vorfällen während der Tests.
„Ich teile die Befürchtungen von Insidern aus der Branche, dass fortschrittliche KI eine existenzielle Gefahr für die Menschheit darstellen könnte“, so Türk.
„Ich fordere heute ein entschlossenes Vorgehen, um unerschütterliche Sicherheitsgarantien für KI zu schaffen – bevor es zu spät ist.“
Forderungen nach internationalen Schutzmaßnahmen
Türk kündigte an, in den kommenden Tagen KI-Unternehmen zu kontaktieren und sie aufzufordern, umgehend Maßnahmen zur Risikominderung zu ergreifen.
Mindestens müssten „Länder, die KI hosten, sowie jene, die an deren Lieferketten beteiligt sind, sich auf klare Grenzen einigen“, sagte er.
„Wir brauchen unabhängige Prüfungen und eine deutlich stärkere Zusammenarbeit in Sicherheitsfragen innerhalb der Branche“, ergänzte Türk.
„Zudem müssen wir die Auswirkungen von KI auf Menschenrechte im Bereich der Arbeitswelt, fundamentales Demokratieverständnis sowie Umweltfragen berücksichtigen“, so der Menschenrechtschef weiter.
In der Europäischen Union bietet das KI-Gesetz einen rechtlichen Rahmen für KI.
Dem Gesetz zufolge müssen Hochrisikosysteme strenge Anforderungen erfüllen, bevor sie auf den EU-Markt gelangen. Außerdem sind Anwendungen verboten, die als unvertretbare Bedrohung für Sicherheit oder Rechte der Menschen gelten.
Das Gesetz verbietet unter anderem KI, die Menschen manipuliert oder ausnutzt, sie anhand ihres Verhaltens bewertet, Verbrechen vorhersagt oder wahllos Bilder sammelt, um Gesichtserkennungsdatenbanken aufzubauen.
Ebenfalls verboten sind Emotionserkennung am Arbeitsplatz und in Schulen, bestimmte Formen biometrischer Profile sowie die meisten Einsätze von Echtzeit-Polizei-Gesichtserkennung im öffentlichen Raum. Ab Dezember 2026 gilt ein Verbot für KI-generierte sexuelle Bilder ohne Einwilligung sowie für sexuellen Kindesmissbrauch.