Behörden schlagen Alarm: Man missbraucht Grok, um sexuell explizite und nicht einvernehmliche KI-Bilder zu erzeugen. Die Plattform steht deshalb in der Kritik.
Die malaysischen Behörden kündigten am Dienstag rechtliche Schritte gegen Elon Musks soziales Netzwerk X und die KI-Sparte xAI an. Sie werfen den Unternehmen vor, die Sicherheit der Nutzerinnen und Nutzer des Chatbots Grok nicht zu gewährleisten.
Der Schritt erfolgte wenige Tage nachdem Malaysia und Indonesien als erste Länder den Zugriff sperrten auf Grok. Die Sorge wächst, dass der Dienst für die Erstellung sexualisierter, nicht einvernehmlicher Bilder missbraucht wird.
Die malaysische Kommunikations- und Multimedia-Kommission erklärte in einer Mitteilung, sie habe einen Missbrauch von Grok festgestellt. Nutzer erzeugten und verbreiteten schädliche Inhalte: sexuell explizit, unzüchtig, extrem beleidigend sowie manipulierte Bilder ohne Einwilligung.
Sie teilte mit, sie habe X und xAI in diesem Monat aufgefordert, die Inhalte zu entfernen. Die Unternehmen haben bislang nicht reagiert.
„Inhalte, die angeblich Frauen und Kinder betreffen, sind äußerst besorgniserregend. Solches Verhalten verstößt gegen malaysisches Recht und untergräbt die von den Unternehmen erklärten Sicherheitszusagen“, hieß es. Die Kommission hat eine Rechtsvertretung beauftragt. Ein Verfahren soll bald beginnen.
Generative KI-Werkzeuge geraten zunehmend unter Beobachtung. Sie können realistische Bilder, Ton und Texte erzeugen. Zugleich wächst die Sorge, dass bestehende Schutzmechanismen ihren Missbrauch nicht verhindern.
Grok startete 2023 und lässt sich auf X kostenlos nutzen. Im vergangenen Jahr kam die Bildfunktion Grok Imagine hinzu. Sie umfasst einen sogenannten „Spicy“-Modus, der Inhalte für Erwachsene erzeugen kann. Grok steht in der Kritik, manipulierte Bilder zu generieren – darunter Darstellungen von Frauen in Bikinis oder in sexuell expliziten Posen sowie Bilder, in denen Kinder vorkommen.
In der Europäischen Union, in Indien und im Vereinigten Königreich gerät Grok unter Druck. Die Regierung in London kündigte am Montag an, „Nudification“-Apps zu kriminalisieren. Die britische Medienaufsicht leitete zudem eine Untersuchung ein, ob Grok gegen das Gesetz verstoßen hat, indem die Plattform das Teilen sexualisierter Bilder von Kindern zuließ.
In der vergangenen Woche beschränkte Grok das Erstellen und Bearbeiten von Bildern auf zahlende Nutzerinnen und Nutzer. Zuvor hatte es weltweit Empörung über sexualisierte Deepfakes von Personen gegeben. Kritikerinnen und Kritiker sehen das Problem damit jedoch nicht gelöst.
Musk und seine Unternehmen äußerten sich öffentlich nicht zu den Beschränkungen in Südostasien. xA1 beantwortete Medienanfragen automatisiert mit dem Satz: „Legacy Media Lies.“