ChatGPT schätzt, ob Nutzerinnen und Nutzer unter 18 sind. Es berücksichtigt das Alter des Kontos, Onlinezeiten und die Themen ihrer Fragen.
OpenAIs KI-Chatbot ChatGPT soll künftig das Alter seiner Nutzer einschätzen. So will das Unternehmen Jugendlichen eine sicherere Online-Erfahrung bieten. Der Druck auf Techfirmen, Minderjährige besser zu schützen, nimmt zu.
Das neue System zur Altersschätzung des Unternehmens nutzt Informationen aus dem Nutzerkonto, um einzuschätzen, ob die Person unter 18 ist. Dazu zählen, wie lange das Konto existiert, die Uhrzeiten der Anmeldung und das Nutzungsverhalten in der App.
Stuft ChatGPT eine Person als unter 18 ein, schaltet der Dienst sofort zusätzliche Schutzmechanismen ein. Sie filtern drastische, gewalttätige, selbstschädigende und sexuelle Inhalte. Auch virale Social-Media-Challenges, die Minderjährige zu „riskantem oder schädlichem Verhalten“ verleiten, werden begrenzt.
OpenAI betont, der Ansatz sei „von Expertinnen und Experten begleitet und in der wissenschaftlichen Literatur zur kindlichen Entwicklung verankert“.
Als minderjährig eingestufte Konten können ChatGPT weiterhin nutzen, um zu lernen, kreativ zu arbeiten und Fragen zu stellen, so sagte das Unternehmen.
Das Update von OpenAI kommt zu einem Zeitpunkt, an dem Regierungen in der Europäischen Union über Beschränkungen für Social-Media-Konten von Nutzerinnen und Nutzern unter 16 beraten. Australien hat im Dezember ein Verbot verhängt. Nach den australischen Vorgaben gilt ChatGPT nicht als soziales Netzwerk.
OpenAI und sein CEO, Sam Altman, werden in Kalifornien von den Eltern des 16-jährigen Adam Raine verklagt. Der Teenager nahm sich im vergangenen April das Leben. Die Eltern werfen der Plattform vor, ihn dazu angeleitet und sogar einen Abschiedsbrief für ihn verfasst zu haben.
Zuvor hatte OpenAI bereits elterliche Kontrollen in ChatGPT eingeführt. Eltern können „Ruhezeiten“ festlegen, in denen die KI nicht genutzt werden kann, und Benachrichtigungen erhalten, wenn ihr Teenager in den Nachrichten mit dem Bot Anzeichen von Not zeigt.
Wer im neuen System fälschlich als unter 18 eingestuft wird, kann ein Live-Selfie aufnehmen oder einen amtlichen Ausweis hochladen, um sein Alter zu bestätigen und die Beschränkungen aufheben zu lassen.