Tech

'Amazon-medewerkers luisteren naar spraakopdrachten Alexa'

Floris Poort • 11 april 2019 15:43 @florispoort

Beeld © Getty

Duizenden Amazon-medewerkers luisteren zonder dat mensen dat weten naar de spraakopdrachten die zij hun slimme Alexa-speakers geven. De medewerkers horen zo gevoelige privé-informatie.

Dat zeggen zeven mensen die voor Amazon aan een zogenoemd trainingsprogramma voor kunstmatige intelligentie werken, meldt Bloomberg. Duizenden medewerkers in allerlei landen luisteren naar spraakopdrachten die gebruikers aan hun slimme Amazon-speakers hebben gegeven.

Opdrachten die door assistent Alexa niet goed zijn begrepen of gehoord, worden naar menselijke medewerkers gestuurd. Zij luisteren naar geluidsfragmenten en zetten die om in tekst die weer aan Alexa wordt gegeven. Zo moeten gaten in het functioneren van de spraakassistent worden gedicht.

Soms bevatten de fragmenten echter privé-informatie. De anonieme medewerkers hoorden bijvoorbeeld een vrouw die vals zong onder de douche of een huilend kind. Maar ook verontrustende fragmenten komen voor, zoals opnames die wijzen op seksueel misbruik.

Niet voor politie spelen

De medewerkers zeggen dat aan de bel trekken geen zin heeft. Amazon zou zeggen dat het niet zijn taak is om in te grijpen. In een reactie zegt Amazon dat het de privacy van gebruikers serieus neemt, en dat het een zero-tolerance-beleid hanteert bij het omgaan met zijn controlesystemen.

Het bedrijf zegt echter nergens expliciet tegen zijn gebruikers dat er ook mensen naar de opnames van Alexa luisteren. "We gebruiken vragen aan Alexa om onze spraakherkenning en natuurlijke taalsystemen te trainen", stelt het bedrijf in zijn voorwaarden.

"Je denkt er niet per se aan dat een ander mens luistert naar wat je tegen je smart speaker zegt", stelt professor Florian Schaub van de universiteit van Michigan, die onderzoek doet naar privacy-problemen rond slimme speakers. "Ik denk dat we zijn geconditioneerd om aan te nemen dat deze apparaten enkel werken met magische zelflerende systemen. Maar er komt nog steeds mensenwerk bij kijken."

Amazon keek ook al binnen bij klanten

Amazon kwam eerder al met een vergelijkbaar voorval in het nieuws. Begin dit jaar bleek dat medewerkers van Amazon-dochterbedrijf Ring de kunstmatige intelligentie ook een handje hielpen. Ring verkoop slimme camera's en deurbellen, die verkocht worden met de belofte dat ze mensen, voertuigen en voorwerpen kunnen herkennen.

Maar ook dat systeem heeft nog menselijke hulp nodig, en via dat systeem zouden medewerkers live bij mensen binnen kunnen kijken. Ook zou het mogelijk zijn geweest om oudere beelden later terug te kijken. Amazon ontkende die berichtgeving later, maar zei video's wel handmatig te labelen om zijn diensten te verbeteren, enkel met video's die klanten publiekelijk hebben gedeeld.

Bron • Bright