Über 100 internationale Organisationen fordern, dass Techfirmen für Kinderschutz bei KI haften sollen – nicht die Eltern.
Mehr als 100 Organisationen, darunter Amnesty International und Save the Children, fordern in einem gemeinsamen Appell von Regierungen, künstliche Intelligenz für Kinder sicher zu machen. Der Aufruf erfolgt einen Tag, bevor die Vereinten Nationen ihren ersten globalen Gipfel zur Steuerung von KI abhalten.
WERBUNG
WERBUNG
Die Koalition wird von der Kinderrechtsorganisation 5Rights Foundation angeführt. Sie warnt, dass KI Kindern bereits schadet. Die derzeitigen Regulierungsansätze greifen ihrer Ansicht nach erst ein, wenn es zu spät ist.
Die Warnung kommt zu einem Zeitpunkt, an dem die Zahl der Klagen gegen KI-Unternehmen wie Character Technologies und OpenAI wächst. Im Zentrum stehen dabei die Auswirkungen sogenannter „Begleiter“-Chatbots, die fortlaufende emotionale Beziehungen simulieren sollen. Kritiker werfen den Firmen vor, ihre KI-Chatbots als sicher für Kinder zu vermarkten, ohne ausreichend vor den Risiken zu warnen.
In einer am Montag veröffentlichten Erklärung vor dem ersten Global Dialogue on AI Governance der UNO erklärt die Gruppe, Regierungen sollten die Geschäftsmodelle ins Visier nehmen, die aus ihrer Sicht das Problem vorantreiben.
„Kinder haben uns eine klare Diagnose des Problems gegeben“, sagte Leanda Barrington-Leach, Geschäftsführerin von 5Rights.
„Sie verlangen nicht von uns, KI-Innovation zu stoppen. Aber es kann auch nicht darum gehen, erst aufzuräumen, nachdem Schaden entstanden ist.“
Die Koalition fordert zehn Maßnahmen, die Regierungen ergreifen sollen, um Kinder vor Schäden zu schützen.
Dazu gehört, dass Unternehmen nachweisen müssen, dass ihre KI-Systeme für Kinder sicher sind, bevor sie auf den Markt kommen. Firmen, deren Produkte Kinderrechte verletzen, sollen finanzielle Sanktionen erhalten. Verboten werden sollen Gestaltungsmerkmale, die gezielt psychologische Schwachstellen von Kindern ausnutzen. Außerdem soll die kommerzielle Nutzung von Bildern, Stimmen und biometrischen Daten von Kindern untersagt werden.
Die Gruppe ist überzeugt, dass dafür keine neuen Gesetze nötig sind. Ausreichend sei, wenn Regierungen die Zusagen erfüllen, die sie bereits mit der UN-Kinderrechtskonvention und dem Global Digital Compact der Vereinten Nationen eingegangen sind. Dieses globale Rahmenwerk verpflichtet Staaten, internationales Recht und Menschenrechte auch im digitalen Raum zu achten.
„Solange Unternehmen für Geschwindigkeit, Engagement und Datensammlung belohnt werden und nicht für Sicherheit, werden wir weiter nur die Symptome behandeln. Die Krankheit wird sich dadurch dauerhaft ausbreiten“, sagte sie. Die Achtung der Kinderrechte „muss zur Voraussetzung für jedes Geschäftsmodell werden und darf kein optionaler Zusatz sein“, so Barrington-Leach.