OpenAI und Anthropic verhandeln nach eigenen Angaben mit der amerikanischen Lehrergewerkschaft über Sicherheits- und Datenschutzabkommen. Google, wichtigste Edtech-Anbieterin an US-Schulen, ließ offen, ob sie vergleichbare Zusagen plant.
Microsoft führt in den USA neue Leitplanken und Datenschutzstandards für den Einsatz von KI an Schulen ein. Das Unternehmen hat sie mit der zweitgrößten Lehrergewerkschaft des Landes ausgehandelt – vor dem Hintergrund einer wachsenden Gegenbewegung gegen KI und exzessive Bildschirmzeit.
WERBUNG
WERBUNG
Die Vereinbarung (Quelle auf Englisch), die in der vergangenen Woche unterzeichnet wurde, verbietet KI-Begleiter oder Funktionen, die „eine emotionale Bindung oder Abhängigkeit fördern“ oder Schülerinnen und Schüler länger binden sollen, als es für eine Lernaufgabe nötig ist.
Die Standards sind rechtlich bindend und sehen Prüfungen durch unabhängige Stellen vor.
Im Rahmen der weitreichenden Vereinbarung erklärt Microsoft, dass das Unternehmen Daten von Schülerinnen, Schülern und Lehrkräften nicht zum Training seiner KI-Systeme nutzt. Eine enge Ausnahme gilt nur für Daten, die dem Schutz von Kindern dienen können. Erhobene Daten dürfen nach Unternehmensangaben weder verkauft noch für Werbung oder zur Produktentwicklung verwendet werden.
Vorgesehen sind außerdem Prüf- und Transparenzmaßnahmen. Microsoft muss Familien in verständlicher Sprache erklären, wie die Werkzeuge funktionieren und welche Daten sie erfassen.
„Dieser Standard setzt die Messlatte für den Schutz der Privatsphäre von Kindern und die Sicherheit von KI hoch, und wir werden diese Vereinbarung auf alle Schulbezirke im ganzen Land ausweiten“, erklärte Brad Smith, Vizevorsitzender und Präsident von Microsoft, in einer Mitteilung.
Nach Unternehmensangaben gelten die Standards ab dem 1. November für Microsoft-Schulverträge in den gesamten USA.
Europäische Klassen: Braucht es eine KI-Bremse?
KI hält bereits Einzug in europäische Klassenzimmer.
Eine Studie der Europäischen Kommission (Quelle auf Englisch) zu frühen Anwendern in weiterführenden Schulen in Finnland, Deutschland, Irland, Luxemburg und Spanien zeigt: Schülerinnen und Schüler nutzen generative KI, um schwierige Themen erklärt zu bekommen, Fertigkeiten zu üben und sich auf Prüfungen vorzubereiten.
Einige europäische Regierungen ziehen bereits klare Grenzen für den Einsatz bei jüngeren Jahrgängen.
Norwegen empfiehlt in diesem Jahr, dass Kinder im Alter von etwa sechs bis zwölf Jahren generative KI grundsätzlich nicht selbst für Schulaufgaben verwenden sollen. Jugendliche von etwa 13 bis 15 Jahren können vorsichtig erste Erfahrungen damit machen.
Frankreich ermöglicht es Kindern im Grundschulalter, etwas über KI zu lernen, rät aber davon ab, dass sie generative KI direkt nutzen. Unter Aufsicht im Klassenraum ist der Einsatz ab etwa 13 oder 14 Jahren vorgesehen.
Ein Euronews vorliegendes Dokument deutet darauf hin, dass die Europäische Kommission in einem Gesetzesvorschlag, der am Donnerstag veröffentlicht werden soll, vorschlägt, Kindern unter 15 Jahren den Zugang zu riskanten Online-Diensten wie KI-Chatbots zu untersagen.
OpenAI und Anthropic verhandeln über ähnliche Schutzmaßnahmen
Fachleute halten die Sicherheitsvorkehrungen in der US-Vereinbarung für relevant. Einige warnen jedoch, dass strengere Schutzstandards nicht automatisch als Empfehlung für einen umfassenderen KI-Einsatz an Schulen missverstanden werden sollten.
„Ich fürchte, dass ein so prominenter Rahmen falsch verstanden wird und Schulen denken: ‚Wenn sie beim Datenschutz und bei der Sicherheit gute Arbeit leisten, sollten wir das Werkzeug auch nutzen‘“, sagte Josh Golin, Direktor der US-Online-Sicherheitsorganisation Fairplay.
Golin betont, die Standards entfalten nur dann Wirkung, wenn sich auch andere große KI-Unternehmen anschließen.
„Wird Google diesen Rahmen übernehmen? Das ist eine große Frage“, sagte er.
Google stand in den USA in der Kritik, nachdem das Unternehmen im August Gemini-gestützte Werkzeuge in Google Classroom auch für von Schulen ausgegebene Konten von Schülerinnen und Schülern unter 18 Jahren freigeschaltet hatte.
Kritikerinnen und Kritiker sehen darin einen weiteren Schritt im Wettlauf der Technologiekonzerne, ihre KI-Produkte im Bildungssystem zu verankern und jüngere Nutzerinnen und Nutzer zu erreichen. Nach eigenen Angaben nutzen weltweit mehr als 150 Millionen Lehrkräfte sowie Schülerinnen und Schüler Classroom.
Die Lehrergewerkschaft führt auch Gespräche mit OpenAI und Anthropic. Beide Unternehmen haben die Microsoft-Vereinbarung öffentlich begrüßt.
OpenAI, der Entwickler von ChatGPT, sprach von einem „wichtigen Meilenstein für die Sicherheit und den Datenschutz bei KI an Schulen“. Das Unternehmen erklärte, es arbeite mit der Lehrergewerkschaft zusammen und gehe davon aus, bald eine eigene Vereinbarung abzuschließen.
Anthropic, der Entwickler von Claude, erklärte, man unterstütze ebenfalls Bemühungen, einen verantwortungsvollen Einsatz von KI in der Bildung zu fördern, und arbeite mit der Gewerkschaft an Sicherheits- und Datenschutzstandards.