Die formelle Untersuchung von X folgt auf die Empörung über das Versagen der Plattform, die Erstellung sexuell eindeutiger Bilder von realen Personen - einschließlich Kindern - zu verhindern.
Die Europäische Kommission hat eine förmliche Untersuchung von Grok, dem Chatbot von X, eingeleitet, nachdem die Bildbearbeitungsfunktion des eingebauten KI-Tools weithin genutzt wurde, um Bilder von echten Frauen und minderjährigen Mädchen ohne deren Zustimmung virtuell auszuziehen.
Wie das Handelsblatt zuerst berichtete, wird im Rahmen der Untersuchung geprüft, ob die Social-Media-Plattform genug getan hat, um das Risiko der Erstellung und Verbreitung der Bilder zu mindern oder nicht.
Sollte sich herausstellen, dass X gegen die EU-Vorschriften für Online-Plattformen gemäß dem Digital Services Act (DSA) verstoßen hat, könnte die Kommission dem Unternehmen eine Geldstrafe von bis zu 6 % seines weltweiten Jahresumsatzes auferlegen.
Im vergangenen Dezember verhängte die Europäische Kommission gegen das soziale Netzwerk von Elon Musk eine Geldbuße in Höhe von 120 Millionen Euro wegen seiner Praktiken bei der Überprüfung von Konten und der Werbung.
Die Bedenken kamen im letzten Sommer auf, nachdem das in die Plattform eingebaute KI-Tool Grok um eine kostenpflichtige Funktion namens "Spicy Mode" erweitert worden war, die es den Nutzern ermöglichte, es zur Erstellung expliziter Inhalte aufzufordern.
Elon Musk machte sich in einem Beitrag auf seinem X-Account über den darauf folgenden Aufschrei lustig.
Anfang dieses Monats, als die weltweite Empörung über die Funktion wuchs, verurteilte ein Sprecher der Kommission diese Funktion auf das Schärfste.
"Das ist nicht 'pikant'", hieß es. "Das ist illegal. Das ist entsetzlich. Das ist ekelhaft. Das hat in Europa nichts zu suchen."
Als Reaktion auf die Wut und den Alarm der Öffentlichkeit ergriff X schließlich Maßnahmen, um zu verhindern, dass Grok die Bearbeitung von Bildern echter Menschen zulässt, um sie in freizügige Kleidung und sexuelle Situationen zu versetzen - mit Einschränkungen für alle Nutzer, einschließlich zahlender Abonnenten.
X teilte außerdem mit, dass sexualisierte, von Grok bearbeitete Bilder von Kindern von der Plattform entfernt und die an der Erstellung dieser Bilder beteiligten Nutzer gesperrt worden seien.
"Wir gehen gegen illegale Inhalte auf X vor, einschließlich Material über sexuellen Kindesmissbrauch (Child Sexual Abuse Material, CSAM), indem wir sie entfernen, Konten dauerhaft sperren und bei Bedarf mit lokalen Behörden und Strafverfolgungsbehörden zusammenarbeiten", heißt es auf dem X Safety-Konto.
Dies ist nicht das erste Mal, dass Grok wegen mutmaßlicher Verstöße gegen europäisches Recht unter die Lupe genommen wird. Im vergangenen November erzeugte der KI-Chatbot Inhalte zur Leugnung des Holocaust.
Ermittlungen gegen den Chatbot der Plattform laufen derzeit in Frankreich, dem Vereinigten Königreich und Deutschland sowie in Australien. In Indonesien und Malaysia wurde Grok gänzlich verboten.
Die Kommission teilte mit, dass sie ein Auskunftsersuchen im Rahmen des DSA gestellt habe und die Antwort noch prüfe.