Elon Musks KI-Chatbot Grok gerät zunehmend unter Druck: EU, Großbritannien, Indien und Frankreich prüfen Missbrauch für sexuell explizite, nicht-einvernehmliche Bilder.
Malaysia und Indonesien haben Grok, den von Elon Musks xAI entwickelten KI-Chatbot, gesperrt. Behörden erklärten, das Tool sei missbraucht worden, um sexuell explizite und nicht einvernehmliche Bilder zu erzeugen.
Die beiden Länder sind die ersten, die das generative KI-Tool verbieten. Weltweit wächst die Sorge: Solche Systeme erzeugen täuschend echte Bilder, Ton und Text. Die bisherigen Schutzmechanismen verhindern den Missbrauch oft nicht.
Der über Musks Plattform X erreichbare Chatbot Grok steht in der Kritik. Er generierte manipulierte Bilder, darunter Frauen in Bikinis oder sexuell expliziten Posen sowie Inhalte mit Kindern.
Aufseher in den zwei südostasiatischen Ländern erklärten, die bestehenden Kontrollen verhinderten die Erstellung und Verbreitung von Fake-Pornografie nicht, besonders mit Bezug zu Frauen und Minderjährigen. Indonesiens Regierung blockierte den Zugang zu Grok am Samstag vorübergehend. Malaysia folgte am Sonntag.
"Die Regierung sieht nicht einvernehmliche sexuelle Deepfakes als schweren Verstoß gegen Menschenrechte, Würde und die Sicherheit der Bürgerinnen und Bürger im digitalen Raum", sagte Indonesiens Kommunikations- und Digitalministerin Meutya Hafid am Samstag in einer Mitteilung.
Das Ministerium erklärte, die Maßnahme solle Frauen, Kinder und die breite Öffentlichkeit vor mit KI erzeugter Fake-Pornografie schützen.
Erste Erkenntnisse zeigen: Grok fehlen wirksame Schutzmechanismen. Nutzende lassen sich damit nicht zuverlässig daran hindern, pornografische Inhalte auf Basis realer Fotos von Einwohnerinnen und Einwohnern Indonesiens zu erstellen und zu verbreiten, sagte Alexander Sabar, Generaldirektor für die Aufsicht über den digitalen Raum, in einer separaten Erklärung. Solche Praktiken können Privat- und Bildrechte verletzen, wenn Fotos ohne Zustimmung manipuliert oder geteilt werden. Das verursacht psychische, soziale und Rufschäden.
In Kuala Lumpur ordnete die Malaysian Communications and Multimedia Commission am Sonntag eine vorübergehende Einschränkung für Grok an. Zuvor sei es zu "wiederholtem Missbrauch" gekommen: Mit dem Tool seien obszöne, sexuell explizite und nicht einvernehmlich manipulierte Bilder erzeugt worden, darunter Inhalte mit Frauen und Minderjährigen.
Die Behörde hatte X Corp. und xAI in diesem Monat zu strengeren Schutzvorkehrungen aufgefordert. Die Antworten setzten vor allem auf Meldemechanismen durch Nutzende.
"Die Sperre ist als präventive und verhältnismäßige Maßnahme verhängt", hieß es. Rechtliche und regulatorische Verfahren liefen noch. Der Zugang bleibe blockiert, bis wirksame Schutzmechanismen greifen.
Grok startete 2023 und lässt sich auf X kostenlos nutzen. Nutzerinnen und Nutzer können dem System Fragen stellen und Beiträge markieren, die sie selbst erstellt haben, ebenso Antworten auf Posts anderer. Im vergangenen Sommer kam der Bildgenerator Grok Imagine hinzu, inklusive eines sogenannten 'spicy mode', der Inhalte für Erwachsene erzeugen kann.
Die Beschränkungen in Südostasien fallen in eine Phase zunehmender Prüfung von Grok auch anderswo, darunter in der Europäischen Union, in Großbritannien, Indien und Frankreich.
In der vergangenen Woche beschränkte Grok die Bildgenerierung und -bearbeitung auf zahlende Kundinnen und Kunden, nachdem es weltweit Empörung über sexualisierte Deepfakes von Personen gab. Kritikerinnen und Kritiker sagen jedoch, das Problem sei damit nicht gelöst.