UN-Menschenrechtskommissar Volker Türk warnt: Künstliche Intelligenz wirkt futuristisch, beruht aber auf uralter Machterzählung.
Künstliche Intelligenz werde heute fast mittelalterlich gesteuert, warnte am Donnerstag der UN-Menschenrechtschef. Die Macht liege in den Händen einiger weniger Tech-Magnaten.
Bei einem Auftritt auf dem RightsX-Gipfel in Genf sagte der UN-Hochkommissar für Menschenrechte Volker Türk, die Geschichte der KI klinge zwar futuristisch, im Kern sei sie aber eine uralte Erzählung über Macht.
„Eine Handvoll Männer kontrolliert weiterhin einen großen Teil der weltweiten KI-Rechenleistung, der Daten und der Infrastruktur. Und wir haben immer noch keine gemeinsamen Regeln, um die KI-Entwicklung zu begrenzen oder zu lenken“, sagte er.
Türk sprach von einem eklatanten Demokratiedefizit, wenn fünf Technologiekonzerne mehr als 70 Prozent der weltweiten KI-Rechenkapazität besitzen.
„Wir haben eine Technologie der Zukunft, die auf fast mittelalterliche Weise regiert wird: von einer ausgesuchten kleinen Gruppe, mit praktisch keiner Kontrolle, keiner Gegenmacht, keiner Beteiligung und keiner Verantwortung“, sagte er.
„Die Geschichte hat uns gelehrt: Bei einer solchen Macht leiden zuerst die Rechte und Freiheiten ganz normaler Menschen.“
Der UN-Hochkommissar für Menschenrechte bekräftigte seine Forderung nach einer menschenrechtsbasierten Regulierung von KI. Die Technologie bestimme das Leben der Menschen immer stärker, sagte er.
Dabei passiere vieles, warnte er, oft ohne Wissen der Betroffenen und könne die öffentliche Debatte auf „subtile, heimtückische Weise“ verzerren.
Zugleich könnten voreingenommene Algorithmen Ungerechtigkeit im industriellen Maßstab vervielfältigen, warnte er.
„Zivilisatorischer Kollaps“
„Unser Verkehr, unsere Lebensmittelversorgung und unsere Gesundheitsversorgung werden immer stärker digitalisiert. Vielleicht sind wir nicht mehr weit entfernt von dem Tag, an dem KI die kritische Infrastruktur ganzer Gemeinden oder Staaten abschalten kann, sei es eigenständig oder in den falschen Händen“, warnte Türk.
„Wenn Menschen über die Chancen eines zivilisatorischen Kollapses durch KI diskutieren, müssen wir fragen: Wer entscheidet, welches Risiko wir eingehen?“
Türk zeigte sich zuversichtlich, dass Menschen ungebremste Macht letztlich in Frage stellen werden. Aus dem Demokratiedefizit werde dann ein Vertrauensdefizit.
Er verwies auf junge Menschen, die bereits offline gehen, um wieder mehr Kontrolle über ihr Leben zu gewinnen.
Türk forderte, die Vorteile von KI müssten gerecht verteilt werden. Dafür brauche es guten Willen der Technologiekonzerne, aber ebenso klare Regeln und Rechenschaftspflicht.
Er sagte, er habe führenden KI-Unternehmen geschrieben und sie aufgefordert, wirksame Schutzmechanismen einzuführen, „bevor es zu spät ist“.
Türk erinnerte daran, dass selbst eine Flasche Milch nicht in ein Geschäft komme, ohne mehrere Ebenen von Tests, Vorschriften und Kontrollen zu durchlaufen.
Angesichts des Schadenspotenzials von KI sei es daher „völlig klar, dass man irgendeine Form von Regulierung braucht“, sagte Türk.
Mit Blick darauf, wie Modelle trainiert werden, schlug er vor, der Künstlichen Intelligenz die Allgemeine Erklärung der Menschenrechte „als Aufgabe zu geben“.