Amazon-Mitarbeiter hören Unterhaltungen von Kunden mit Alexa an
Das Unternehmen Amazon lässt seine Mitarbeiter aufgezeichnete Unterhaltungen von Kunden mit der Assistenzsoftware Alexa anhören und abtippen. Der Grund: Die Spracherkennung soll so verbessert werden.
Wenn man Alexa Befehle erteilt, werden Aufnahmen automatisch in die Cloud gesendet. Das ist bekannt. Neu ist allerdings, dass diese Mitschnitte von Mitarbeitern von Amazon - also Menschen - angehört werden.
Amazon bestätigt Vorgehensweise
In einer Stellungnahme bestätigte der Konzern die Vorgehensweise: "Wir versehen nur eine extrem geringe Anzahl von Interaktionen einer zufälligen Gruppe von Kunden mit Anmerkungen, um die Nutzererfahrung zu verbessern."
Bloomberg zufolge wird diese Arbeit an diversen Standorten rund um die Welt erledigt, unter anderem in Boston, Costa Rica, Indien und Rumänien. Zwei Mitarbeiter in Bukarest gaben an, dass sie pro Schicht bis zu 1000 Mitschnitte anhören.
Ein anderer Mitarbeiter aus Boston sagte, er habe beispielsweise Aufzeichnungen analysiert, die die Worte "Taylor Swift" enthielten und dann mit der Anmerkung versehen, dass die Nutzer die Sängerin meinten.
"Im Rahmen dieses Workflows haben Mitarbeiter keinen direkten Zugriff auf Informationen, die die Person oder das Konto identifizieren können", betonte Amazon.
Nutzer können den Mitschnitten zugeordnet werden
Bloomberg fand jedoch heraus, dass sich auf einem Screenshot zu solch einem Transkriptions-Auftrag eine Account-Nummer, der Vorname des Kunden sowie die Seriennummer des Geräts befunden hätten. Amazon erklärte, dass alle Informationen streng vertraulich behandelt würden und zudem mit Zugangseinschränkungen und Verschlüsselung gearbeitet werde.
Bisher konnten Nutzer jedoch nicht erkennen, dass ihre Unterhaltungen mit Alexa von Menschen angehört werden. Auf der Amazon-Seite heißt es in Fragen und Antworten zu den Geräten: "Zum Beispiel verwenden wir Ihre Befehle an Alexa, um unsere Systeme zur Spracherkennung und zum Verstehen natürlicher Sprachen zu trainieren".
Einige der Mitarbeiter hätten die Aufgabe, sich die Sprachbefehle anzuhören und nachzuprüfen, ob Alexa die Worte richtig erkannt hatte, schrieb Bloomberg. In anderen Fällen werde eine Unterhaltung mit der Software angehört, um zu sehen, wie gut sie mit dem Nutzer interagierte.
Mitarbeiter hörten auch private Informationen
In einigen Fällen hätten die Mitarbeiter vertrauliche Informationen wie Namen oder Bankkonto-Informationen gehört, berichtete Bloomberg.
In diesen Fällen sollten sie ein Häkchen im Menüpunkt "kritische Daten" setzen und sich die nächste Aufnahme vornehmen. Bloomberg nannte auch weitere Beispiele für von den Mitarbeitern gehörte private Aufnahmen: Ein Frau, die in der Dusche singt, ein Kind, das nach Hilfe ruft. Zwei Beschäftigte sagten Bloomberg, sie hätten auch etwas gehört, was ein sexueller Übergriff gewesen sein könnte. Laut zwei Mitarbeitern aus Rumänien seien sie in solchen Situationen angehalten, nichts zu unternehmen, schrieb der Finanzdienst.
Alexa zeichnet manchmal auch fälschlicherweise auf
Geräte mit der Assistenzsoftware wie Amazons Echo-Lautsprecher beginnen die Aufnahme grundsätzlich erst, wenn sie das festgelegte Weck-Wort wie "Alexa" hören. Zugleich passiert es immer wieder mal, dass die Funktion fälschlicherweise aktiviert wird, weil die Software glaubt, das Wort gehört zu haben. Auch versehentlichen Aufnahmen würden abgetippt, berichtete Bloomberg. Den Mitarbeitern zufolge würden pro Tag bis zu 100 solcher Aufnahmen durchgearbeitet.
Von Amazon gab es am Donnerstag zunächst keine weiteren Informationen. Auch die Konkurrenten Apple und Google äußerten sich zunächst nicht zur Anfrage, ob sie auf eine ähnliche Vorgehensweise bei ihren Assistenten Siri und Google Assistant zurückgreifen.