Anfang vergangenen Monats geriet Grok massiv in die Kritik. Der Dienst hatte sexuell explizite Deepfakes von Frauen und Minderjährigen erzeugt.
Die britische Datenschutzbehörde hat am Dienstag Ermittlungen gegen X und xAI eingeleitet. Sie will prüfen, ob Elon Musks Unternehmen das Datenschutzrecht einhalten, wenn der KI-Chatbot Grok sexualisierte Deepfakes erzeugt.
Die Untersuchung ist Teil eines größeren Falls zu Grok in Großbritannien. Der Dienst steht international in der Kritik, weil Nutzer damit mit einfachen Texteingaben sexualisierte Bilder von Frauen und Kindern erstellen und verbreiten können.
„Die Berichte über Grok werfen äußerst beunruhigende Fragen auf“, erklärte William Malcolm, Executive Director für Regulierungsrisiken und Innovation beim Information Commissioner’s Office, in einer Mitteilung. „Es geht darum, wie personenbezogene Daten genutzt wurden, um intime oder sexualisierte Bilder ohne Wissen oder Einwilligung der Betroffenen zu erzeugen, und ob ausreichende Schutzmechanismen vorhanden waren, um das zu verhindern.“
„Wer die Kontrolle über seine persönlichen Daten auf diese Weise verliert, kann sofort und erheblich geschädigt werden. Für Kinder gilt das in besonderem Maß.“
Bereits im vergangenen Monat hat die unabhängige britische Aufsichtsbehörde für Online-Sicherheit, Ofcom, ein formelles Verfahren gegen X eröffnet. Sie prüft, ob die Plattform ihren Pflichten nachkommt, Menschen vor illegalen Inhalten zu schützen.
Der Chatbot, den Nutzer über Musks Plattform X aufrufen können, geriet ebenfalls im vergangenen Monat unter Beschuss, weil er es Nutzern erlaubte, sexualisierte Deepfakes vor allem von Frauen und Minderjährigen zu erzeugen.
Regierungen weltweit verurteilen die Plattform und haben eigene Ermittlungen eingeleitet.
In der vergangenen Woche hat auch die Europäische Kommission ein Verfahren gegen das soziale Netzwerk eröffnet. Sie will klären, ob X genug unternommen hat, um das Entstehen und die Verbreitung der Bilder einzudämmen.