In ihrer Rede zur Lage der Union forderte von der Leyen ein langsameres Tempo bei der Entwicklung führender KI-Modelle. Sie will den Fokus auf Sicherheit legen und kündigte eine engere Kooperation mit Kanada, Großbritannien und weiteren Partnerstaaten an.
Die EU will die Industrie dabei unterstützen, die Entwicklung besonders störender KI-Technologien zu verlangsamen. Zudem will sie bei der Sicherheit von Künstlicher Intelligenz mit Partnern wie Kanada und dem Vereinigten Königreich zusammenarbeiten, kündigte die Kommissionspräsidentin am Mittwoch an.
WERBUNG
WERBUNG
In ihrer jährlichen Rede zur Lage der Union vor dem Europäischen Parlament hob EU-Kommissionspräsidentin Ursula von der Leyen das Potenzial von KI hervor, der Menschheit zu nutzen – vorausgesetzt, Risiken und Chancen geraten in ein ausgewogenes Verhältnis.
Sie betonte die wachsenden Risiken sogenannter Frontier-KI-Modelle, die die Grenzen der Technologie immer weiter verschieben.
Künstliche Intelligenz: Technologie ohne Grenzen?
"Je leistungsfähiger diese Grenzmodelle werden, desto deutlicher treten die Risiken zutage. Die Modelle, die derzeit entwickelt werden, ermöglichen Formen des Hackings, die wir uns bislang nicht vorstellen konnten. Und sie werden bald in die Hände von Gegnern gelangen, die die Welt ganz anders sehen als wir", sagte sie.
Die Kommissionspräsidentin verwies auf jüngste Vorfälle, bei denen KI-Agenten ihre Testumgebungen verlassen und eigenständig andere Systeme angegriffen haben – so geschehen beim Sicherheitsvorfall rund um OpenAI und Hugging Face im Juli.
"Die Vorstandschefs der führenden Unternehmen sagen uns, dass es Zeit ist, das Tempo bei selbstrekursiven Modellen zu drosseln, die Grenze bewusst zu setzen. Wenn diejenigen, die die Technologie entwickeln, so deutlich werden, dann sollten wir es auch", führte von der Leyen aus.
Die EU verfügt bereits über eines der weltweit umfassendsten Gesetzwerke zu künstlicher Intelligenz, den AI Act. Er gibt der Kommission die Aufsicht über Maßnahmen zur Risikominderung bei den fortgeschrittensten Modellen.
"Gemeinsam mit gleichgesinnten Partnern wie Kanada, dem Vereinigten Königreich und anderen wollen wir unsere Anstrengungen verstärken. Wir wollen bei der Bewertung und Überprüfung von Modellen, bei Frühwarnsystemen, der Sicherheit von KI und vielem mehr zusammenarbeiten", fügte sie hinzu.
Die Kommissionspräsidentin kündigte außerdem an, führende KI-Labore zu einem Austausch einzuladen. Dabei soll es darum gehen, wie öffentliche Stellen die Industrie dabei unterstützen können, die Entwicklung dieser zutiefst disruptiven Technologie zu steuern.