Die Europäische Kommission hat eine förmliche Untersuchung von Grok, dem KI-Chatbot von Elon Musk auf X, eingeleitet, weil er dazu benutzt wurde, sexualisierte Bilder von Frauen und minderjährigen Mädchen zu erstellen.
Online-Plattformen wie X haben "ganz klare Verpflichtungen", um illegale Inhalte einzuschränken, sagte Henna Virkkunen, die für Technik zuständige EU-Kommissarin, am Dienstag in der Morgensendung Europe Today von Euronews, einen Tag nachdem die EU eine formelle Untersuchung gegen den KI-Chatbot Grok eingeleitet hatte, weil dieser sexualisierte Bilder von echten Frauen und minderjährigen Mädchen ohne deren Zustimmung verbreitet hatte.
"Dienstanbieter müssen über Verfahren verfügen, die sicherstellen, dass illegale Inhalte nicht online verbreitet werden", sagte der Vizepräsident der Europäischen Kommission. Virkkunen fügte hinzu, dass die Kommission auch andere Risiken im Zusammenhang mit Grok analysiert, die über die jetzt modifizierte Bildfunktion hinausgehen.
Grok ist ein KI-Chatbot, der von Elon Musks Unternehmen xAIentwickelt und in seine Social-Media-Plattform X integriert wurde. Am Montag leitete die Kommission eine förmliche Untersuchung von Grok ein, nachdem weit verbreitete Besorgnis über seine Bildbearbeitungsfunktion aufgekommen war, die dazu genutzt wurde, sexualisierte Bilder von echten Frauen und minderjährigen Mädchen ohne deren Zustimmung zu erstellen. Das Tool erzeugte auf Anfrage von Internet-Nutzern innerhalb weniger Wochen Millionen solcher Bilder.
Virkkunen bestätigte, dass sich die Untersuchung darauf konzentriert, ob X seinen Verpflichtungen gemäß dem Digital Services Act (DSA) nachgekommen ist, um systemische Risiken zu bewerten und zu mindern.
"Wir wollen untersuchen, wie X die Risiken bewertet und abgemildert hat", sagte sie. "Grok ist jetzt mehr und mehr in die Dienste von X integriert, daher ist es wichtig zu prüfen, wie diese Risiken behandelt werden."
Sollte sich herausstellen, dass X gegen das DSA verstoßen hat, könnte das Unternehmen mit Geldstrafen von bis zu 6 Prozent seines weltweiten Jahresumsatzes belegt werden. Die Plattform wurde bereits einmal bestraft: Im vergangenen Dezember verhängte die Kommission eine Geldstrafe in Höhe von 120 Millionen Euro gegen das Unternehmen wegen irreführender Kontoverifizierungszeichen und Werbepraktiken.
Trotz Musks unverblümter Kritik an der EU-Regulierung sagte Virkkunen, die Kommission stehe in ständigem Kontakt mit X.
"Sie waren im Dialog mit unseren Dienststellen", sagte sie. Die Kommission hatte von dem Unternehmen bereits Informationen darüber angefordert, wie es Risiken bewertet, und es aufgefordert, Dokumente im Zusammenhang mit Grok und X im Vorfeld des formellen Verfahrens aufzubewahren.
Druck aus Washington zur Aufweichung der digitalen Vorschriften
Die Grok-Untersuchung findet vor dem Hintergrund zunehmender transatlantischer Spannungen über die EU-Vorschriften im Technologiebereich statt. Ebenfalls am Montag wurde die in den USA ansässige und von Meta betriebene Plattform WhatsApp im Rahmen des DSA als "sehr große Online-Plattform" eingestuft und unterliegt damit der strengsten Aufsicht der EU.
Gleichzeitig hat sich die Lobbyarbeit des Tech-Sektors in Brüssel intensiviert, wobei die Ausgaben laut NRO-Recherchen auf mehr als 150 Millionen Euro pro Jahr geschätzt werden. US-Tech-Firmen und die Trump-Regierung haben Brüssel Überregulierung vorgeworfen und argumentiert, dass Gesetze wie der DSA, der Digital Markets Act und der Artificial Intelligence Act die Innovation behindern.
Angesprochen auf den Druck aus Washington, die Regeln zurückzunehmen, blieb Virkkunen hart.
"Diese digitalen Regeln sind für die Europäer sehr wichtig", sagte sie. "Wir wollen sicherstellen, dass unsere Bürger den Technologien vertrauen können und dass unser digitales Umfeld fair, transparent, demokratisch und sicher ist."
Gleichgewicht zwischen Regulierung und Innovation
Die EU wird oft als Regelsetzer und nicht als Innovator dargestellt, eine Kritik, die Virkkunen entkräftete.
"Wir müssen die Innovation fördern, uns aber gleichzeitig der Risiken bewusst sein", sagte sie.
Neben der Regulierung hob Virkkunen die Bemühungen hervor, Europa für Start-ups und Scale-ups attraktiver zu machen, einschließlich der Pläne für ein sogenanntes 28er Regime" - ein rechtlicher Rahmen, der es Unternehmen erleichtern soll, in der gesamten EU tätig zu werden.
"Wir vereinfachen Prozesse und Regeln, schaffen einen besseren Binnenmarkt und fördern die Kapitalmärkte, damit Start-ups Zugang zu Finanzmitteln haben", sagte sie. "Europa hat alles, was es braucht, um wettbewerbsfähig zu sein."
Auf die Frage nach dem neuen Handelsabkommen zwischen der EU und Indien sagte Virkkunen, es sei eine "großartige Nachricht für alle" und verwies auf die technologische Zusammenarbeit, die ein wichtiger Pfeiler der Beziehungen sei, insbesondere wenn es um Talente gehe.
"Indien hat viele IKT-Experten, und in Europa fehlt es uns an Arbeitskräften", sagte Virkkunen und argumentierte, dass engere Beziehungen dazu beitragen könnten, qualifizierte Fachkräfte anzuziehen, um die digitale Qualifikationslücke in Europa zu schließen.