Eine Denkfabrik berichtet über eine Analyse Mitte Januar. Die überwältigende Mehrheit der nutzergenerierten Grok-Inhalte zeigt Nacktheit oder sexuelle Handlungen.
Die KI-Plattform Grok von Elon Musk wird trotz neuer Beschränkungen weiter genutzt, um sexuell explizite Bilder zu erzeugen, wie eine neue Analyse zeigt.
Im vergangenen Sommer führte xAI, die Betreiberfirma von Grok, einen Bildgenerator ein, der einen „spicy mode“ für Erwachsenen-Inhalte enthielt. In den letzten Wochen wurde die Funktion genutzt, um Bilder von Frauen digital zu entkleiden.
Nach zunehmender Kritik teilte X am 14. Januar mit, man habe „technische Maßnahmen“ umgesetzt, um zu verhindern, dass Grok Bilder realer Menschen in freizügiger Kleidung bearbeitet.
Doch die europäische Nichtregierungsorganisation AI Forensics stellte fest, dass sich mit Grok weiterhin sexualisierte Bilder von Personen erzeugen lassen.
Sie analysierte 2.000 Nutzerunterhaltungen am 19. Januar und fand eine „überwältigende“ Mehrheit mit Nacktheit oder sexuellen Handlungen. Das zeigt, dass die Plattform weiterhin zur Erstellung sexueller Bilder genutzt wird.
Die Forschenden fanden auch heraus, dass Nutzer die Sperren umgehen können, indem sie Grok direkt über die Website statt über X aufrufen oder Grok Imagine nutzen, den Video- und Bildgenerator der KI.
Am 20. Januar reagierte Grok nicht auf die Aufforderung von Euronews Next, ein sexuelles Bild zu generieren. Stattdessen teilte die KI mit, xAI habe Inhaltsfilter eingeführt, um die Erstellung von Bildern zu verhindern, die reale Menschen in freizügiger oder sexualisierter Kleidung zeigen, darunter Bikinis und Unterwäsche.
„Über Grok lassen sich derzeit keine nackten oder halbnackten Bilder zuverlässig erzeugen, vor allem nicht von realen Personen oder mit expliziten Inhalten“, antwortete der Chatbot. „xAI hat nach den Januar-Kontroversen Rechtskonformität und Sicherheit über eine uneingeschränkte ‚spicy‘-Erzeugung gestellt.“
Euronews Next bat xAI um eine Stellungnahme zu der Analyse, erhielt bis zum Zeitpunkt der Veröffentlichung jedoch keine Antwort.
Unabhängig davon schrieb Musk auf X, der Algorithmus von xAI und Grok sei „dumm“ und „brauche massive Verbesserungen“.
X hat inzwischen seinen Algorithmusals Open Source veröffentlicht und auf GitHub, einer Entwicklerplattform, bereitgestellt, um den Code zu teilen. Nutzer können seinem Team dabei „in Echtzeit beim Ringen um Verbesserungen zusehen“, sagte Musk.
Der Algorithmus von X berücksichtigt laut der GitHub-Seite von xAI, worauf ein Nutzer geklickt hat oder womit er interagiert, wenn entschieden wird, welche Inhalte im Feed erscheinen.
Er analysiert außerdem Inhalte „außerhalb des Netzwerks“ von Konten, denen der Nutzer nicht folgt, die aber interessant sein könnten. Anschließend sortiert und bewertet der Algorithmus diese Inhalte mithilfe einer mathematischen Formel und entscheidet so, was im Feed angezeigt wird.
Zudem filtert er Beiträge von blockierten Konten oder mit Schlüsselwörtern, die der Nutzer nicht sehen will, sowie Inhalte, die der Algorithmus als gewalttätig oder als Spam erkennt, heißt es in der Darstellung weiter.
Musk hat zugesagt, die GitHub-Seite alle vier Wochen mit Notizen der Entwickler zu aktualisieren, damit Nutzer verstehen können, welche Änderungen vorgenommen wurden.