De slimme speaker luistert, duizenden Amazon-werknemers luisteren stiekem mee

“Alexa, zet eens 4 pakken halfvolle melk op de boodschappenlijst!” “Siri, hoe warm wordt het morgen?” Miljoenen mensen hebben een “slimme” luidspreker in huis en gebruiken die om snel een antwoord te krijgen op heel triviale vragen of om er allerlei opdrachten aan te geven. De bekendste slimme speakers, die verbonden zijn aan het internet, zijn de Google Home, Apple HomePod, de Sonos One en de Echo van Amazon.

Amazon blijkt nu wereldwijd duizenden werknemers in dienst te hebben die de hele dag luisteren naar opnames die de Echo-luidsprekers voortdurend maken bij zowat 100 miljoen klanten die zo’n slimme speaker hebben gekocht. Dit personeel zou tewerkgesteld zijn in grote kantoren in de VS, Costa Rica, India en Roemenië. Dat schrijft het Amerikaanse persagentschap Bloomberg op basis van getuigenissen van zeven medewerkers van Amazon. 

(lees verder onder de tweet van een journalist die dit aan het licht heeft gebracht)

Per dag krijgen de werknemers van Amazon zo’n 1.000 stukjes audio voor hun kiezen. Ze luisteren naar de opnames om de werking van de software achter de speakers voortdurend te verbeteren. Op die manier worden de gebruikers almaar beter op hun wenken bediend door de slimme software van de internetwinkel.

Als Alexa - zoals het computersysteem van Amazon heet - een opdracht krijgt, maar het systeem die niet begrijpt, wordt een geluidsopname van die opdracht naar een werknemer van Amazon gestuurd. Die luistert dan naar het fragment, schrijft uit wat er wordt gezegd en leert het computer­systeem wat het precies moet doen als het nog eens die opdracht krijgt.

De werknemers van Amazon krijgen natuurlijk niet alleen de opdrachten te horen, ze vangen ook op wat er eventueel in de achtergrond te horen is. Volgens de werknemers die met Bloomberg praatten, vangen ze zo soms verbijsterende dingen op.

Twee medewerkers zeggen zelfs dat ze iets hebben gehoord waarvan ze vermoedden dat het seksueel misbruik was. Wat moet een medewerker in zulke gevallen doen? Zwijgen of het melden? Amazon zegt dat het procedures heeft die medewerkers in zulke gevallen moeten volgen. Maar, twee Roemeense medewerkers die Amazon om richtlijnen vroegen, verklaarden aan Bloomberg dat ze van hun werkgever te horen kregen dat het niet aan hen was om tussenbeide te komen.

In een schriftelijke reactie aan Bloomberg zegt Amazon dat het bedrijf de privacy en de veiligheid van de persoonlijke informatie serieus neemt. Volgens het bedrijf zijn er ook strikte richtlijnen, zowel technisch als “operationeel”.

Zo zouden de werknemers die de opnames moeten beoordelen geen informatie krijgen waardoor ze een bepaalde opname kunnen koppelen aan een bepaalde gebruiker. Dat is heel belangrijk, want ze kunnen ook allerlei gevoelige info te horen krijgen, zoals wachtwoorden, bankrekeningnummers enzovoort. Als medewerkers zulke informatie oppikken, moeten ze meteen stoppen met luisteren en een vakje aanvinken dat er “kritische data” te horen zijn.

In de gebruiksvoorwaarden meldt Amazon overigens nergens dat er mensen kunnen meeluisteren naar de opnames die gemaakt worden met Echo-luidsprekers. Het bedrijf schrijft alleen dat opnames “gebruikt worden om de accuraatheid van de (zoek)resultaten te verbeteren”.

Kunnen gebruikers van een Echo dan niets doen om te voorkomen dat hun opnames worden gebruikt? Amper. Je kan de microfoon uitschakelen, maar dan luistert de speaker ook niet meer naar opdrachten. Idem als je het toestel volledig uitschakelt. Wat je ook kan doen: de opnames achteraf wissen.

Amazon is niet het enige bedrijf dat mensen in dienst heeft om hun slimme luidsprekers nog slimmer te maken. Ook Apple en Google houden opnames bij van opdrachten die gebruikers respectievelijk aan Siri en Assistant geven, ook telkens om de systemen slimmer te maken.

Het is niet bekend of medewerkers bij beide bedrijven systematisch naar de opnames luisteren, zoals bij Amazon het geval is. Wel maken beide bedrijven zich hard dat de opnames die ze bijhouden, ontdaan zijn van elke informatie waardoor duidelijk kan worden wie er te horen is.  

Ook Facebook wordt er soms van verdacht dat het gebruikers zou afluisteren. Maar uit een experiment van het Canvas-programma "Facebook en ik" blijkt dat niet te kloppen.