Die Abgeordneten wollen, dass Chatbots Schutzmechanismen enthalten, die verhindern, dass sie Inhalte erzeugen, die nach EU-Recht illegal sind,
WERBUNGMitglieder des Europäischen Parlaments haben am Donnerstagmorgen mit überwältigender Mehrheit für einen Verordnungsentwurf gestimmt, der die "ethische Entwicklung" von Künstlicher Intelligenz (KI) sicherstellen soll. Die sich schnell entwickelnde Technologie hat Bedenken hinsichtlich Desinformation, Datenschutz, Überwachung, Diskriminierung, Plagiat, Imitation und sogar der Zukunft der Demokratie aufgeworfen.
Mit den neuen EU-weiten Regeln wollen die Gesetzgeber:innen sicherstellen, dass KI-Systeme "von Menschen überwacht werden und sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind", heißt es in einer Presseerklärung.Die Abgeordneten "wollen auch eine einheitliche Definition für KI, die technologieneutral gestaltet ist, so dass sie für die KI-Systeme von heute und morgen gelten kann."
Die Abstimmung, die in einer gemeinsamen Sitzung der Ausschüsse für Binnenmarkt und bürgerliche Freiheiten stattfand, fügte dem von der Europäischen Kommission vorgeschlagenen Text neue Bestimmungen hinzu, insbesondere neue Verpflichtungen für so genannte generative Basismodelle wie ChatGPT, den von OpenAI entwickelten Chatbot, der seit seiner Einführung Ende November die Tech-Industrie revolutioniert hat.
Generative Basismodelle sind Modelle, die mit riesigen Datenmengen wie Text, Bildern, Musik, Sprache und Code trainiert werden, mit dem Ziel, eine breite und sich ständig ändernde Reihe von Aufgaben zu erfüllen, anstatt einen bestimmten, unveränderlichen Zweck zu verfolgen. Chatbots wie GPT von OpenAI und BERT von Google sind einige der ersten Beispiele für diese Technologie, die sich in den kommenden Jahren voraussichtlich weiterentwickeln wird.
Während sich Investoren schnell auf Chatbots gestürzt haben, haben Kritiker ihre unkontrollierte Entwicklung angeprangert und Alarm geschlagen wegen Voreingenommenheit, Hassreden, Fake News, staatlicher Propaganda, Verletzungen des geistigen Eigentums, Entlassungen von Arbeitskräften, Cyberangriffen und der zunehmend verschwimmenden Grenze zwischen Mensch und Maschine.
Angesichts der wachsenden Besorgnis hat der Gesetzgeber Änderungen vorgenommen, um sicherzustellen, dass Chatbots transparent sind, keine nach EU-Recht illegalen Inhalte produzieren, die Urheberrechtsvorschriften einhalten und Grundrechte wie das Recht auf freie Meinungsäußerung respektieren.
Unternehmen sollen diese Anforderungen erfüllen, bevor sie ihre Dienste auf den Markt bringen.
"Generative Basismodelle sollten Transparenz über die Tatsache gewährleisten, dass der Inhalt von einem KI-System und nicht von Menschen erzeugt wird", heißt es in dem neuen Text.
Die Abgeordneten drängten auch darauf, die Liste der "aufdringlichen und diskriminierenden" KI-Anwendungen zu erweitern, die auf dem gesamten EU-Gebiet streng verboten werden sollten. Die erweiterte Liste umfasst biometrische Echtzeit-Identifikation im öffentlichen Raum, vorausschauende Polizeisysteme und 'Emotionserkennung' in der Strafverfolgung und am Arbeitsplatz.
KI-Systeme, die in der Lage sind, Wähler in politischen Kampagnen zu beeinflussen, werden nicht verboten, gelten aber als risikoreich und werden daher einer genaueren Prüfung unterzogen, so der Gesetzgeber.
Das Mandat wurde am Donnerstag mit 84 Ja-Stimmen, sieben Nein-Stimmen und 12 Enthaltungen angenommen. Vor der Sitzung wurden mehr als 3.000 Änderungsanträge eingereicht, was das große Interesse an dieser Technologie widerspiegelt.
Die Abstimmung ist jedoch noch lange nicht endgültig: Der Gesetzesentwurf und damit das Verhandlungsmandat muss noch vom Plenum verabschiedet werden und dient dann für die Verhandlungen mit den Mitgliedstaaten.
Diese Verhandlungen, die im Brüsseler Sprachgebrauch als "Triloge" bezeichnet werden, dürften angesichts der hohen Einsätze und Erwartungen intensiv werden und abgeschirmt stattfinden.
Das Ergebnis dieses Prozesses wird ein Kompromisstext sein, über den die beiden Mitgesetzgeber erneut abstimmen werden, bevor er in Kraft treten kann.
Das Gesetz über künstliche Intelligenz wurde von der Kommission erstmals im April 2021 vorgeschlagen, also lange vor der Marktexplosion von Chatbots. Mit dem Gesetz werden den KI-Unternehmen Verpflichtungen und Beschränkungen auferlegt, die sich nach dem Risikograd richten, das ihre Produkte für die Gesellschaft darstellen: minimales Risiko, begrenztes Risiko, hohes Risiko und inakzeptabel.
Unternehmen, die gegen die Vorschriften verstoßen, können mit Geldbußen von bis zu 40 Millionen Euro oder 7 Prozent ihres weltweiten Jahresumsatzes belegt werden, je nachdem, welcher Betrag höher ist.
Der auf den Menschen ausgerichtete und allumfassende Ansatz der Verordnung gilt als bahnbrechender Schritt in den weltweiten Bemühungen, die unerwünschten Auswüchse der KI einzudämmen, die viele als die umwälzendste Technologie seit dem Aufkommen des World Wide Web (WWW) ansehen.