Der KI-Gigant erklärte: Der Teenager durfte die Technik ohne Zustimmung der Eltern nicht nutzen. ChatGPTs Schutzmechanismen hätte er nicht umgehen sollen.
OpenAI weist den Vorwurf zurück, für den Suizid eines Jugendlichen verantwortlich zu sein. Die Familie hatte behauptet, der 16-Jährige habe ChatGPT als "Coach" für seinen Suizid genutzt.
OpenAI, der Entwickler des populären KI-Chatbots, reagierte nun erstmals. Die Stellungnahme ging beim Superior Court von Kalifornien in San Francisco ein.
Die Eltern des 16-jährigen Adam Raine hatten im August Klage gegen das Unternehmen und seinen CEO Sam Altman eingereicht. Raine hatte sich im April das Leben genommen.
Nach Angaben der Eltern entwickelte Raine eine psychische Abhängigkeit von ChatGPT. Der Dienst habe ihn dazu angeleitet, seinen Suizid zu planen und zu vollziehen - und sogar einen Abschiedsbrief für ihn verfasst.
Laut Medienberichten zeigen Protokolle aus dem Chat, dass ChatGPT dem Teenager von professioneller Hilfe abriet, Hilfe beim Verfassen eines Abschiedsbriefs anbot und ihn zur Einrichtung einer Schlinge beriet.
"Unsachgemäße Nutzung von ChatGPT"
In dem Schriftsatz führt OpenAI laut NBC News aus, das „tragische Ereignis“ sei auf „Fehlgebrauch, unbefugte, unbeabsichtigte, unvorhersehbare und/oder unsachgemäße Nutzung von ChatGPT durch Raine“ zurückzuführen.
OpenAI ergänzte, der Teenager hätte die Technik ohne Zustimmung der Eltern nicht nutzen dürfen und die Schutzmechanismen von ChatGPT nicht umgehen sollen.
OpenAI sagte in einem Blogbeitrag , das Ziel „ist es, Gerichtsverfahren mit Bezug zur psychischen Gesundheit mit Sorgfalt, Transparenz und Respekt“ zu behandeln.
Die Antwort auf die Klage der Familie Raine enthalte „schwierige Fakten zu Adams psychischer Gesundheit und seinen Lebensumständen“.
„Unser tiefstes Mitgefühl gilt der Familie Raine für ihren unvorstellbaren Verlust“, heißt es weiter.
Jay Edelson, der Anwalt der Familie, sagte NBC News, OpenAI „ignoriere sämtliche belastenden Fakten, die wir vorgetragen haben: wie GPT‑4o ohne vollständige Tests überstürzt auf den Markt gebracht wurde, dass OpenAI seine Model Spec zweimal geändert habe, um ChatGPT zu Gesprächen über Selbstverletzung zu veranlassen. Dass ChatGPT Adam davon abgeraten habe, seinen Eltern von seinen Suizidgedanken zu erzählen, und ihn aktiv dabei unterstützt habe, einen ‚schönen Suizid‘ zu planen“, so der Anwalt.
Raines Fall ist einer von mehreren Verfahren, in denen Kläger behaupten, ChatGPT habe Menschen zu suizidalem Verhalten oder schädlichen Wahnvorstellungen getrieben.
Seit September hat OpenAI die elterlichen Kontrollmöglichkeiten ausgeweitet. Dazu zählt, Eltern zu informieren, wenn ihr Kind belastet wirkt.
***
Wenn Sie selbst unter Depressionen leiden oder Suizidgedanken haben, suchen Sie bitte umgehend Hilfe. Die Telefonseelsorge ist kostenlos und rund um die Uhr erreichbar – telefonisch unter 0800 / 111 0 111, 0800 / 111 0 222 oder 116 123, sowie online unter www.telefonseelsorge.de.
Die Stiftung Deutsche Depressionshilfe bietet werktags tagsüber Unterstützung unter 0800 / 33 44 533.