Die Datenschutzorganisation Noyb verklagt das in San Francisco ansässige Start-up Scale AI wegen der Überwachung von 900.000 Beschäftigten durch die Trainingsplattform Outlier.
Eine prominente europäische Datenschutzorganisation reicht nach eigenen Angaben in Europa fünf Beschwerden gegen das US-Startup Scale AI ein. Hintergrund ist, wie die Trainingsplattform Outlier Beschäftigte überwacht und damit ihre Rechte verletzt.
WERBUNG
WERBUNG
Die Schritte erfolgen in einer Phase, in der KI-Unternehmen in Europa immer stärker unter Beobachtung stehen. Das KI-Amt der EU hat in diesem Monat Untersuchungen gegen OpenAI und Anthropic eingeleitet. In den USA hat Präsident Donald Trump eine Vereinbarung unterzeichnet mit den sechs größten amerikanischen KI-Konzernen, die ihnen eine weitgehende Selbstregulierung erlaubt – ein Zeichen wachsender Differenzen darüber, wie die Technologie weltweit gesteuert werden soll.
Weltweit wachsen zudem die Sorgen, dass KI Arbeitsplätze verdrängen und für schädliche Zwecke eingesetzt werden könnte.
Das Europäische Zentrum für digitale Rechte, besser bekannt als Noyb, bringt nach eigenen Angaben zwei Beschwerden in Österreich ein, jeweils eine in Frankreich und den Niederlanden sowie eine weitere in Italien. In einer am Dienstag, 27. Oktober, veröffentlichten Mitteilung erklärt die Organisation, die Beschwerden richteten sich gegen die Art und Weise, wie Beschäftigte überwacht werden, und gegen den geringen Schutz, den das freiberufliche Vertragsmodell bei der Anwerbung von Mitarbeitenden bietet.
Die Plattform Outlier AI von Scale AI gewinnt freiberufliche Arbeitskräfte und Fachexperten, die KI-Modelle trainieren, bewerten und verbessern sollen. Sie setzt dabei auf ein Plattform-Arbeitsmodell, wie man es von Uber oder Lieferdiensten kennt.
Nach Angaben von Noyb greift die Plattform auf mehr als 900.000 Freiberufler zurück, die Antworten von KI-Systemen prüfen und berichtigen. Zu den Kunden zählen Meta, OpenAI, Google und die US-Regierung. Noyb beschreibt den Prozess als eine Praxis, bei der Beschäftigte „ihre Expertise faktisch US-Big-Tech-Konzernen zur Verfügung stellen“.
Outlier „sammelt enorme Mengen persönlicher Daten und zwingt die Beschäftigten, eine invasive biometrische Kontrolle zu durchlaufen, um Geld zu verdienen“, erklärte die NGO.
„In Europa verstößt diese weitreichende Überwachung am Arbeitsplatz eindeutig gegen das grundlegende Recht der Beschäftigten auf Datenschutz“, hieß es weiter.
Noyb wirft Scale AI vor, dass auf Geräten der Beschäftigten Tracker von Unternehmen wie TikTok, LinkedIn und Facebook installiert werden, sobald sie auf der Outlier-Plattform arbeiten. Diese Tracker erhalten Zugriff auf persönliche Daten.
Darunter seien IP-Adressen, Kontaktdaten und Informationen, die sich für zielgerichtete Werbung und Profilbildung nutzen lassen, teilte die Gruppe mit.
„Eine derart ständige und weitreichende Überwachung bei der Arbeit widerspricht allen nachvollziehbaren Erwartungen. Warum sollten LinkedIn oder Facebook wissen, an welchen Aufgaben Sie gerade sitzen?“, sagte Lisa Steinfeld Leiser, Datenschutzjuristin bei Noyb.
Die Organisation wirft Scale AI zudem vor, Beschäftigte zu wiederholten biometrischen Identitätsprüfungen durch ein Unternehmen namens Persona zu verpflichten. Dazu gehören Videoaufnahmen des Gesichts und das Hochladen von Ausweisdokumenten.