Slimme speaker Amazon neemt privégesprek van koppel op en stuurt het naar willekeurige persoon in hun contactenlijst

Danielle uit Portland, Oregon, had Amazon Echo’s in zowat elke kamer van haar huis geïnstalleerd. Helemaal mee met de tijd en er volledig van overtuigd dat de slimme speakers haar privacy niet in het gedrang zouden brengen -  zoals internetreus Amazon zo vaak benadrukt. Maar nu heeft de Amerikaanse de bekende internetreus stevig aan de oren moeten trekken. 

Een apparaat nam immers een privégesprek met haar man op en verzond het audiobestand zonder hun toelating of zelfs medeweten naar iemand in hun adressenlijst. Danielle ontdekte dat Alexa het gesprek met haar man had opgenomen toen ze onlangs een alarmerend telefoontje kreeg van een collega van haar echtgenoot, die in Seattle woont. “Koppel al je Alexa-apparaten nu los, je bent gehackt”, zei hij. Eerst geloofde Danielle de kennis niet, maar toen die daarna vertelde dat hij hen over hardhouten vloeren had horen discussiëren, viel haar mond open van verbazing. Hij stuurde haar het audiofragment op. En ja hoor, ze hoorde zichzelf en haar man praten over - gelukkig - vloeren. 

“Dit voelt vies”, vertelt ze aan KIRO-TV. “Een totale inbreuk op mijn privacy. Ik dacht meteen bij mezelf: ‘ik steek die dingen nooit meer in.' Ik kan het niet vertrouwen." Amazon bevestigt dat een audioboodschap werd opgenomen bij Danielle thuis en naar een nummer werd verzonden. Het Amerikaanse bedrijf excuseert zich voor het voorval en geeft doe dat zijn software het aardig verknald heeft. "Amazon neemt privacy erg serieus", stelt een woordvoerder. "We hebben onderzocht wat er is gebeurd en besluiten dat het om een heel zeldzaam incident gaat. We nemen stappen om dit in de toekomst te vermijden."

Het gebeurt nog al wel eens dat het systeem leidt tot misverstanden: een verkeerde interpretatie of een onverwacht en onzinnig antwoord bijvoorbeeld, zonder veel erg. Maar in dit geval is het slimme ding serieus in de fout gegaan. 

Een woordvoerder over wat er mogelijk is misgelopen: "Waarschijnlijk is de Echo wakker geworden door een woord in de achtergrond dat op ‘Alexa’ leek", klinkt het. "De boodschap die daarop volgde werd geïnterpreteerd als een ‘send message’-aanvraag. Daarop vroeg Alexa hardop ‘naar wie?’ De achtergrondconversatie leverde een interpretatie van een naam op in de contactenlijst van de klant. Alexa vroeg om bevestiging en dacht dat ze van het pratende tweetal een ‘right’ te horen kreeg." Een "onwaarschijnlijke reeks van gebeurtenissen", erkent Amazon, daaraan toevoegend dat ze verschillende opties bekijken om zulke incidenten nog onwaarschijnlijker te maken.

Amazon is dus formeel: een bizarre bug, maar meer ook niet. The Guardian werpt echter op dat het bedrijf in het verleden patentaanvragen heeft ingediend voor functionaliteit waarbij altijd geluisterd wordt – zoals een algoritme dat analyseert wanneer mensen zeggen dat ze van iets ‘houden’ of iets ‘gekocht’ hebben. Het patent omvatte een diagram waarbij twee mensen een telefoongesprek voeren en achteraf andere reclame ontvangen.