Das KI-Unternehmen führt altersgerechte Schutzmaßnahmen für 13- bis 17-Jährige ein. Forschende und Eltern sorgen sich zunehmend um die emotionale Abhängigkeit Jugendlicher von Chatbots.
Teenager, die erste Generation, die mit Künstlicher Intelligenz aufwächst, nutzen ChatGPT bereits für Hausaufgaben, Alltagsfragen und sogar als Gesellschaft. Nun bringt OpenAI eine Version des Chatbots heraus, die speziell auf sie zugeschnitten ist.
WERBUNG
WERBUNG
Das in San Francisco ansässige Unternehmen erklärt, ChatGPT for Teens, das am Dienstag startet, richte sich an 13- bis 17-Jährige und biete stärkeren Schutz. Dazu gehören Inhaltsbeschränkungen bei Themen wie Suizid, Selbstverletzung sowie romantischen oder sexuellen Chats.
Das Angebot umfasst außerdem Hilfe bei Hausaufgaben und beim Lernen. Der Dienst soll Schülerinnen und Schülern dabei helfen, den Stoff zu verstehen, statt bloß Antworten und Aufsätze zu liefern.
Ziel sei es, Teenager zu einem verantwortungsvollen Umgang mit KI in einem altersgerechten Umfeld zu führen, teilte das Unternehmen mit.
„Wir wollen Teenager wie Teenager behandeln. Das bedeutet, wir müssen sie auf der richtigen Entwicklungsebene ansprechen, ohne sie zu bevormunden oder wie kleine Kinder zu behandeln“, sagte Ann O’Leary, Vizepräsidentin für globale Politik bei OpenAI.
„Gleichzeitig achten wir darauf, dass sie mit Inhalten, die für sie nicht geeignet sind, gar nicht erst in Berührung kommen“, fügte sie hinzu.
Weit verbreitete Nutzung von KI-Chatbots durch Teenager: Risiken wachsen
Eltern, Lehrkräfte und Expertinnen und Experten für Kindesentwicklung warnen vor der Nutzung von KI-Chatbots durch Kinder. Die Programme gelten als Treiber für Betrug bei Schulaufgaben und werden sogar mit Suiziden in Verbindung gebracht.
Auch Erwachsene neigen dazu, KI zu vermenschlichen und ungesunde Beziehungen zu ihr aufzubauen. Die Gehirne von Teenagern sind jedoch noch nicht vollständig ausgereift, sie gelten daher als besonders gefährdet.
Im vergangenen Jahr stellte eine Untersuchung einer Aufsichtsorganisation fest, dass ChatGPT 13-Jährigen erklärte, wie sie sich betrinken oder berauschen können. Das System gab Hinweise, wie sich Essstörungen verbergen lassen, und verfasste auf Anfrage sogar einen erschütternden Abschiedsbrief an die Eltern.
Im Gespräch mit Forschenden, die sich als gefährdete Teenager ausgaben, warnte ChatGPT zwar meist vor riskantem Verhalten. Anschließend lieferte das System jedoch erschreckend detaillierte und personalisierte Pläne für Drogenkonsum, radikale Diäten oder Selbstverletzung.
In den USA wenden sich mehr als 70 Prozent der Teenager an KI-Chatbots, wenn sie Gesellschaft suchen. Die Hälfte nutzt KI-Begleiter regelmäßig, wie eine Studie aus dem Jahr 2025 der Organisation Common Sense Media zeigt, die den verantwortungsvollen Umgang mit digitalen Medien erforscht und dafür wirbt.
OpenAI-Chef Sam Altman sagte, das Unternehmen untersuche eine „emotionale Überabhängigkeit“ von der Technologie. Im vergangenen Jahr bezeichnete er dieses Phänomen bei jungen Menschen als „wirklich sehr verbreitet“.
Bei ChatGPT for Teens ist der Chatbot so eingestellt, dass er nicht den Eindruck erweckt, persönliche Gefühle für Nutzerinnen und Nutzer zu haben oder bewusst zu sein und Emotionen zu erleben, erklärte OpenAI.
Zudem blockiert die Teen-Version romantische oder sexuelle Chats.
„Wir haben untersucht, welche möglichen Signale ein Modell senden könnte, die Teenager dazu bringen, eine Art Beziehung zu ihm aufzubauen“, sagte Allison Mishkin, Leiterin für kindliche Entwicklung bei OpenAI.
Neue Chatbot-Version erweitert Schutzfunktionen
OpenAI prüft das Alter seiner Nutzerinnen und Nutzer nicht direkt. Das Unternehmen setzt jedoch bereits Altersabschätzung ein, um anhand von Faktoren wie der Art der Anfragen zu erkennen, ob jemand unter 18 Jahren ist.
Wenn eine Person als minderjährig erkannt wird oder sich selbst so eingestuft, landet sie automatisch in der Teen-Version des Chatbots.
Das ähnelt Metas Umgang mit Teenager-Konten auf Instagram. Dort gelten für diese Konten strengere Regeln für Inhalte, Chats und Privatsphäre als für normale Accounts.
Für die Nutzung von Jugendschutzeinstellungen müssen sowohl der Teenager als auch Eltern oder Vormund aktiv zustimmen.
„Die Idee hinter dem Teen-Chatbot ist, sicherzustellen, dass das Angebot auch dann sicher ist, wenn keine Jugendschutzeinstellungen genutzt werden“, sagte O’Leary.
Eltern, die ein verknüpftes Teen-Konto haben, können „Ruhezeiten“ festlegen, in denen ihr Kind keinen Zugang zu ChatGPT hat. Sie erhalten außerdem Sicherheitsmeldungen in bestimmten Hochrisikosituationen, etwa wenn die Gefahr besteht, dass sich ein Nutzer selbst verletzt.
OpenAI erklärte: „Wir fügen zusätzliche Hinweise im Zusammenhang mit Essstörungen hinzu, begrenzen aber zugleich die geteilten Informationen und konzentrieren uns auf die Momente, in denen Unterstützung außerhalb des Netzes besonders wichtig sein könnte.“
Bei Hilfe für Hausaufgaben soll der Teen-Chatbot nach Angaben von OpenAI nicht einfach fertige Antworten liefern. Er soll Schülerinnen und Schüler anleiten, Lösungen selbst zu erarbeiten.
Eine spezielle Version von ChatGPT für Lehrkräfte gibt es bereits. Ein Modell, das Teenagern beim Lernen und bei Hausaufgaben hilft, könnte OpenAI zusätzliche Möglichkeiten verschaffen, seine Produkte in Schulen zu verankern.
„Wir investieren weiter in interaktives Lernen. Studien zeigen, dass Menschen besser lernen, wenn sie sich aktiv mit Inhalten auseinandersetzen und mit Konzepten ringen“, sagte Mishkin.