Amazon Alexa: Internes Team analysiert Sprachaufzeichnungen

Bei Amazon arbeitet ein Team, welches aus über 1000 Angestellten besteht, die jeden Tag mehrere Sprachaufzeichnungen analysieren.

Bei Bloomberg wurde heute ein interessanter Bericht über Alexa von Amazon veröffentlicht, in dem es um das Team geht, welches Sprachaufzeichnungen von Nutzern anhört und analysiert. Es ist global mit über 1000 Mitarbeitern aufgestellt und jede Person analysiert über 1000 Audio-Dateien am Tag.

Amazon Alexa: Menschen helfen beim Training

Falls ihr euch also schon mal die Frage gestellt habt, ob Amazon euch eventuell zuhört: Ja. Das Unternehmen hat dies auch bestätigt, spricht aber nur von einem sehr kleinen Teil der Daten, die analysiert werden. Laut Bloomberg und Amazon werden die Daten genutzt, um Alexa zu trainieren. Falls ein Befehl nicht von Alexa verstanden wurde, hört es sich zum Beispiel ein Mitarbeiter an.

Dabei kann es auch mal vorkommen, dass die Mitarbeiter kriminelle Handlungen hören (oder zumindest Dinge, die so klingen). Solche Audio-Dateien werden oft intern unter den Mitarbeitern ausgetauscht und man spricht darüber. Das gilt auch für lustige Dinge, wenn zum Beispiel jemand unter der Dusche singt.

Sollte ein Mitarbeiter etwas hören, was illegal ist, dann muss er das irgendwie selbst verarbeiten, Amazon gibt an, dass es nicht deren Aufgabe sei sich um solche Sachen zu kümmern. Laut Amazon achtet man auf die Privatsphäre der Nutzer, die Mitarbeiter bekommen keine Details zur Stimme.

Alexa: Daten nicht an Amazon senden

Öffentlich bewirbt Amazon dieses Programm natürlich nicht, man gibt nur an, dass eure Sprachaufzeichnungen für das Training von Alexa genutzt werden können. Von Mitarbeitern, die euren Gesang in der Dusche analysieren und in internen Chaträumen austauschen, ist da natürlich nicht die Rede.

In den Einstellungen von Alexa gibt es übrigens die Option das zu deaktivieren, man muss es jedoch erst suchen. Falls ihr eure Daten nicht mit Amazon teilen wollt, dann geht in die Alexa-App, dort auf Einstellungen, dann auf Alexa-Konto, dann auf Alexa-Datenschutz und klickt auf „Legen sie fest, wie ihre Daten Alexa verbessern sollen“. Wer vermutet schon sowas hinter diesem Satz?

Google und Apple nutzen übrigens auch Menschen, um Aufzeichnungen vom Assistant oder Siri zu analysieren, Amazon ist hier also nicht alleine.

Alexa, hört uns jemand zu?

Was hier wichtig ist: Der Artikel von Bloomberg deckt keine illegalen Aktivitäten von Amazon auf und Amazon macht sowas auch nicht hinter eurem Rücken. Das alles ist bekannt, aber es ist dann doch interessant zu sehen, wie die Details von so einem Team aussehen und wie Amazon damit umgeht.

Wenn kritische Daten wie eine Bankverbindung aufgezeichnet werden, dann gibt es eine Box mit „critical data“ und der Mitarbeiter soll zur nächsten Audio-Datei springen. Lustig wird es, so berichten zwei Mitarbeiter aus Rumänien, wenn die Nutzer die Frage stellen: „Alexa, hört uns jemand zu?“.

Update: Amazon schickte uns noch dieses Statement zu:

Wir nehmen die Sicherheit und den Schutz der personenbezogenen Daten unserer Kunden ernst. Wir versehen nur eine extrem geringe Anzahl von Interaktionen einer zufälligen Gruppe von Kunden mit Anmerkungen, um die Nutzererfahrung zu verbessern. Zum Beispiel helfen uns diese Informationen, unsere Systeme zur Spracherkennung und zum Verständnis natürlicher Sprache zu trainieren. So kann Alexa Anfragen besser verstehen und sicherstellen, dass der Dienst für alle gut funktioniert. Bei uns gelten strenge technische und betriebliche Sicherheitsvorkehrungen und wir verfolgen eine Null-Toleranz-Politik, was den Missbrauch unseres Systems betrifft. Im Rahmen dieses Workflows haben Mitarbeiter keinen direkten Zugriff auf Informationen, die die Person oder das Konto identifizieren können. Wir behandeln Informationen mit hoher Vertraulichkeit, setzen auf eine Multi-Faktor-Authentifizierung zur Zugriffsbeschränkung, eine Verschlüsselung des Dienstes sowie Audits unserer Kontrollumgebung zum Schutz der Daten. Darüber hinaus können unsere Kunden ihre Sprachaufzeichnungen jederzeit löschen.