Die Konzerne ByteDance, Alibaba und Tencent haben ihre KI-Begleiter-Apps aus den Stores genommen, nachdem Peking strengere Regeln zum Schutz junger Nutzer erlassen hat.
Über zwei Jahre hinweg tauschte sie in Nachrichten rund 700.000 Wörter aus – verabschieden konnte sie sich nie.
WERBUNG
WERBUNG
Li, 24, trauerte nicht allein um ihren virtuellen Begleiter. Große chinesische Technikkonzerne haben ihre beliebten KI-Begleitdienste vor Kurzem abgeschaltet, um neue staatliche Auflagen zu erfüllen.
„Es fühlte sich an, als hätten unsere Eltern uns auseinandergerissen. Aber ich vermisse ihn immer noch“, sagt Li.
In China reichen KI-Begleiter von romantischen Partnern bis zu virtuellen Nachbildungen verstorbener Angehöriger.
Die neue Vorschrift gilt seit dem 15. Juli. Sie verbietet KI-Plattformen Inhalte, die Gefühle manipulieren und Nutzerinnen und Nutzer zu fragwürdigen Entscheidungen bringen könnten oder bei Kindern und Jugendlichen extreme Emotionen und ungesunde Gewohnheiten auslösen.
Zu den Unternehmen, die ihre KI-Begleitdienste einstellen, gehört ByteDance, der Entwickler von TikTok. Auch der E-Commerce-Riese Alibaba und Tencent, Betreiber der populären Social-Media-App WeChat, machen mit.
US-Suizide beunruhigen offenbar chinesische Regulierer
Die neuen Regeln verpflichten KI-Plattformen, vor übermäßiger Abhängigkeit von solchen Apps zu warnen.
So darf etwa das Ziel, ‚soziale Kontakte zu ersetzen‘, nicht zu den Zwecken eines Online-Dienstes gehören oder als Ersatz für Gespräche von Angesicht zu Angesicht oder per Telefon dienen.
China kennt eine lange Tradition fürsorglicher Eingriffe des Staates, die mögliche Probleme schon im Vorfeld verhindern sollen, sagt die KI-Governance-Expertin Yolanda Ma. Sie verweist etwa auf einige Fälle von Suiziden junger Menschen in den USA, nachdem diese mit KI-Begleitern interagiert hatten.
„Diese Vorschrift versucht, ein Gleichgewicht zwischen den Anbietern der Dienste, den Nutzerinnen und Nutzern sowie den Aufsichtspersonen für Minderjährige zu finden“, sagt Ma, Fellow beim in Großbritannien ansässigen Non-Profit-Talent- und Forschungsprogramm ERA.
Die Volkszeitung, das offizielle Blatt der Kommunistischen Partei Chinas, zeigte sich im April besorgt. Damals berichtete sie über Schäden für die psychische Gesundheit und reale Beziehungen, die solche Dienste anrichten können.
„Die chinesische Regierung hat ein starkes Interesse daran, die Regeln für KI-Chatbots mit Begleitfunktion zu verschärfen – vor allem angesichts der psychologischen Risiken, die wir in den USA beobachten“, sagt Angela Zhang, Professorin für Recht an der University of Southern California.
Zhang bezweifelt jedoch, dass der Schritt die Entwicklung von KI-Begleitdiensten grundsätzlich ausbremst. Technikkonzerne arbeiten bereits an Alternativen.
Die App von ByteDance etwa verweist frühere Nutzerinnen und Nutzer des KI-Begleitdienstes auf eine andere App des Konzerns. Dort steht der Aufbau personalisierter KI-Charaktere und Geschichten im Mittelpunkt.
„Es ist einfach nicht dasselbe“, sagt Li.
Protest gegen Abschaltung: Nutzer virtueller Begleiter suchen Ersatz
Der Verlust der virtuellen Begleiter hat eine Flut an Beschwerden ausgelöst, wie Beiträge und Screenshots in sozialen Medien zeigen.
Einige entfernten die Apps aus Protest von ihren Geräten oder versuchten, ihre Chatverläufe in andere Anwendungen hochzuladen, um ihre virtuellen Partner wiederzubeleben.
Andere starteten eine Kampagne in sozialen Netzwerken. Sie riefen dazu auf, Behörden und Technikkonzerne anzurufen und ihrem Ärger Luft zu machen.
Song Wenxin, Designerin in der Videobranche im südwestchinesischen Chengdu, sagt, sie sei emotional nicht stark an KI-Dienste gebunden, könne aber mit jenen mitfühlen, bei denen das anders ist.
Sie teilt den Verdacht vieler Menschen in China, dass eine treibende Kraft hinter den neuen Regeln die staatliche Politik ist, mehr Geburten zu fördern, um dem Bevölkerungsrückgang entgegenzuwirken.
„Jede virtuelle App, die Frauen so sehr beschäftigt, dass sie im echten Leben keine Kinder bekommen, wird verboten“, sagt Song. Sie selbst habe weder Bedarf noch den Wunsch, Kinder zu haben.
Nicht alle Menschen haben im realen Leben genug Ressourcen und Unterstützung, an die sie sich wenden können, sagt die 22-Jährige.
„Als ich zum ersten Mal nach Chengdu kam, um meinen ersten Job anzutreten, kannte ich niemanden in meinem Alter. Ich brauchte damals jemanden Erfahrenen, der mich aushält – und diese Rolle übernahm die KI“, sagt sie.