EU-Parlament stimmt für Gesetz zu künstlicher Intelligenz und Gesichtserkennung

WERBUNG

Das Europäische Parlament gibt grünes Licht für die weltweit erste Verordnung über künstliche Intelligenz. Einer der wichtigsten Punkte ist das Verbot der Gesichtserkennung an öffentlichen Plätzen.

Mit 335 Ja- und 235 Nein-Stimmen setzten sich die Befürworter für ein umfassendes Verbot der automatischen Gesichtserkennung durch und lehnten einen Änderungsantrag ab, der den Weg für Ausnahmen zur Strafverfolgung offen gelassen hätte. 

KI-Nutzung soll europaweit reguliert werden und das Verbot zur Gesichtserkennung ist nur Teil eines Gesetzesentwurfs - des sogenannten "AI-Act", der seit Monaten im Europaparlament vorbereitet wird. Das Gesetz soll die Entwicklung von menschenzentrierten, ethisch verantwortlichen und ökologisch nachhaltigen KI-Systemen in ganz Europa regeln.

Europa Vorreiter bei der KI-Regulierung

Es ist der weltweit erster Versuch, die Auswüchse der KI einzudämmen. Der Entwurf muss noch zwischen dem Europäischen Parlament und den Mitgliedstaaten im Rahmen eines so genannten Trilogs verhandelt werden. Erwartet werden intensive Gespräche, die sich möglicherweise bis zum Ende des Jahres hinziehen werden.

"Weil wir heute bei fast allem, was wir tun, mehr und mehr mit KI zu tun haben, ob im täglichen Leben oder bei unseren wirtschaftlichen Aktivitäten, wir werden uns zunehmend bewusst, dass es auch Risiken gibt", erklärt der Berichterstatter des Textes Dragos Tudorache. 

"Wir stellen Regeln auf, um sicherzustellen, dass diese Risiken gut eingedämmt werden. Durch Transparenz, durch Erklärbarkeit, durch das Verständnis, wie diese Systeme funktionieren. Damit die Nutzer, also wir, ihnen vertrauen und sie mit vollem Vertrauen nutzen können."

Gegen Gefahren durch KI und automatische Gesichtserkennung

Die künstliche Intelligenz hat die Nutzung biometrischer Technologien vorangetrieben, konstatiert das Europaparlament in einer Studie. Dazu zählen auch Anwendungen zur Gesichtserkennung, die zunehmend für Verifikations-, Identifikations- und Kategorisierungszwecke verwendet werden. 

Biometrische Identifizierung bezieht sich auf Systeme, die mit künstlicher Intelligenz arbeiten und biologische Merkmale wie Gesichtszüge, Augenstrukturen und Fingerabdrücke nutzen, um die Identität einer Person zu bestimmen.

In der Studie hatte das EU-Parlament zuvor Bedenken geäußert, zu den technologischen und wirtschaftlichen Aspekten von Gesichtserkennungstechnologien wegen ihrer potenziellen Auswirkungen auf die Grundrechte der Menschen. In der EU sollen deshalb auf die Gesichtserkennung anwendbare Vorschriften in dem Gesetz über künstliche Intelligenz eingebracht werden.

Ausnahmen für die Strafverfolgung?

Ein am Mittwoch abgelehnter Änderungsantrag war von der Mitte-Rechts-Partei Europäische Volkspartei (EVP) eingereicht worden und hätte den Einsatz von biometrischen Identifizierungssystemen in drei verschiedenen Fällen erlaubt: die Suche nach vermissten Personen, die Verhinderung eines Terroranschlags und die Aufspürung von Kriminellen, die mit einem europäischen Haftbefehl gesucht werden.

Der ursprüngliche Vorschlag, den die Europäische Kommission im April 2021 vorlegte, stufte die Verwendung biometrischer Echtzeitdaten im öffentlichen Raum als ein inakzeptables Risiko für die Bürger:innen ein und verbot sie daher strikt.

Die Kommission sah jedoch drei gezielte Ausnahmen für Strafverfolgungsbehörden vor, die den Änderungsanträgen der EVP sehr ähnlich waren.

Als das Dossier das Europäische Parlament erreichte, beschlossen die Abgeordneten jedoch, die Liste der verbotenen KI-Systeme zu erweitern. Sie strichen die für die  Biometrie in öffentlichen Räumen vorgesehenen Ausnahmen. Seien zu "weitreichend und diskriminierend". 

Keine Diskriminierung aufgrund der Hautfarbe

Das bedeutet, dass die biometrische Überwachung in Echtzeit verboten wird. Im Fall von polizeilichen Ermittlung könnte sie dennoch eingesetzt werden.

Auch die prädiktive polizeiliche Überwachung, also die voraussagbare aufgrund bestimmter Merkmale, wird in der EU verboten, um Diskriminierung zum Beispiel aufgrund der Hautfarbe oder früherem kriminellen Verhalten zu vermeiden.

"Es ist ein Irrtum, dass wir durch Echtzeit-Gesichtserkennung in öffentlichen Räumen mehr Sicherheit für die Menschen erreichen. Die Daten zeigen uns das Gegenteil. Es gibt Diskriminierungen, es gibt Probleme und Datenmissbrauch. Wir denken, dass es wichtig war, eine klare Position zu beziehen. Die Europäische Union will keine Massenüberwachung, sie will keine Verletzung der Bürgerrechte", erklärt der Mitberichterstatter des Textes Brando Benifei, S&D, Italien. 

Die einzige Ausnahmeregelung im Kompromisstext bezieht sich nun auf die Verwendung biometrischer Daten, allerdings nur nach Begehung einer Straftat und mit richterlicher Genehmigung.

Der Text schreibt außerdem vor, dass KI-Tools wie ChatGPT ihre Quellen offenlegen müssen und, dass Wert auf menschliche Kontrolle und Transparenz gelegt wird.