Die Verordnung erlaubt oder verbietet den Einsatz von Künstlicher Intelligenz (KI) je nach dem Risiko, das sie für den Menschen darstellt, und wird schrittweise umgesetzt, wobei Geldstrafen von bis zu 35 Millionen Euro vorgesehen sind.
WERBUNGDie EU hat sich am Freitag auf ein Gesetz zur Künstlichen Intelligenz geeinigt, das den Einsatz der Technologie je nach dem Risiko, das sie für den Menschen darstellt, erlaubt oder verbietet und die europäische Industrie gegenüber Tech-Giganten wie China und den USA stärken soll.
"Das EU-Gesetz zur Künstlichen Intelligenz ist eine Weltpremiere. Ein einzigartiger rechtlicher Rahmen für die Entwicklung Künstlicher Intelligenz, dem man vertrauen kann", sagte die Präsidentin der Europäischen Kommission, Ursula von der Leyen, in einer Nachricht auf dem früher als Twitter bekannten Sozialen Netzwerk X. Die Einigung kam nach 36 Stunden Verhandlungen zustande und muss noch vom Europäischen Parlament und dem Ministerrat ratifiziert werden. Das gilt aber als Formsache.
Überwachung in Echtzeit
Einer der heikelsten Punkte der Verhandlungen war der Einsatz von Kameras zur biometrischen Identifizierung durch Strafverfolgungsbehörden im öffentlichen Raum, um die nationale Sicherheit zu gewährleisten. Die Kameras können mit vorheriger richterlicher Genehmigung eingesetzt werden, um eine "tatsächliche und vorhersehbare" oder "tatsächliche und gegenwärtige" terroristische Bedrohung zu verhindern, d. h. eine, die zu diesem Zeitpunkt besteht.
Verbotene Systeme
Das Gesetz verbietet aber alle biometrischen Kategorisierungssysteme auf der Grundlage politischer, religiöser oder philosophischer Überzeugungen, der Rasse und der sexuellen Ausrichtung, Systeme, die Menschen auf der Grundlage ihres Verhaltens oder persönlicher Merkmale bewerten, und Künstliche Intelligenz, die in der Lage ist, menschliches Verhalten zu manipulieren, sowie Systeme zur Erweiterung oder Erstellung von Gesichtsdatenbanken durch die wahllose Erfassung von Daten über das Internet oder audiovisuelle Aufzeichnungen.
Darüber hinaus werden auch Systeme der Künstlichen Intelligenz, die Emotionen erkennen können, am Arbeitsplatz oder in der Schule verboten sein.
Generative KI
Das andere große Thema, das im Mittelpunkt der Verhandlungen steht, ist die Regulierung von generativen Systemen der Künstlichen Intelligenz, auf denen Modelle wie ChatGPT von OpenAI und Bard von Google basieren. Sie müssen Transparenzkriterien erfüllen, z. B. angeben, ob ein Text, ein Lied oder ein Foto durch Künstliche Intelligenz generiert wurde, und sicherstellen, dass die zum Trainieren der Systeme verwendeten Daten das Urheberrecht respektieren.
Ursprünglich sollte das Gesetz diese Art von Systemen nicht regeln, da sie noch nicht populär waren, als Brüssel das Gesetz im April 2021 vorschlug, aber die EU-Institutionen haben seit dem Start von ChatGPT im letzten Jahr die "Notwendigkeit gesehen, sie gesetzlich zu regeln". Die Verordnung verbietet ihre Verwendung nicht, aber sie hat eine Reihe von Kriterien festgelegt, um Modelle zu erkennen, die je nach dem Kontext, in dem sie verwendet werden, ein hohes Risiko darstellen können, und verpflichtet ihre Entwickler, strengere Schutzmaßnahmen einzuhalten, bevor sie auf den Markt kommen.
Die Verhandlungen waren "leidenschaftlich", da das Ziel des Gesetzes darin besteht, die Nutzung einer Technologie mit großem Potenzial für die Gesellschaft zu regeln, die gleichzeitig Zweifel und einige Fragen aufwirft, die die Entwickler Künstlicher Intelligenz noch nicht zu beantworten wissen, so verlautete aus Kreisen, die mit den Verhandlungen vertraut sind. Die Verordnung erlaubt oder verbietet den Einsatz von Künstlicher Intelligenz je nach dem Risiko, das sie für den Menschen darstellt, und identifiziert Systeme mit hohem Risiko, die nur eingesetzt werden dürfen, wenn sie nachweislich die Grundrechte respektieren. Dies gilt beispielsweise für Systeme, die zur Beeinflussung von Wahlergebnissen eingesetzt werden können, oder für Systeme, die von Finanzinstituten zur Bewertung der Kreditwürdigkeit und zur Erstellung von Kreditratings verwendet werden.
Mit der Verabschiedung dieser weltweit bahnbrechenden Verordnung hat die spanische EU-Ratspräsidentschaft eines ihrer wichtigsten Ziele in diesem Halbjahr erreicht. "Wir haben einen wichtigen Meilenstein erreicht: Die Bürger können entscheiden, was mit Künstlicher Intelligenz gemacht werden kann und was nicht", sagte die spanische Staatssekretärin für Telekommunikation und digitale Infrastruktur, Carme Artigas.
Das Gesetz sieht die Einrichtung des Europäischen Büros für Künstliche Intelligenz vor, das den Einsatz der Technologie durch die nationalen Behörden koordinieren und von einem Gremium aus Wissenschaftlern und Organisationen der Zivilgesellschaft beraten wird. Das Gesetz soll 2026 in Kraft treten. Es wird aber schrittweise umgesetzt: Das europäische Büro wird sofort eingerichtet, das Verbot von verbotenen KI-Systemen wird in sechs Monaten und die Anforderungen an generative KI-Systeme und -Modelle in 12 Monaten kommen.
Die Verordnung sieht Geldbußen von 35 Mio. EUR oder 7 % des weltweiten Umsatzes von Unternehmen bis zu 7,5 Mio. EUR (8 Mio. USD) oder 1,5 % des weltweiten Umsatzes vor.