Amazon aurait secrètement entraîné l'IA d'Alexa à l'insu de ses employés

12 mai 2021 à 16h00
16
Alexa amazon assistant personnel © Shutterstock.com
© Shutterstock.com

On en sait désormais un peu plus sur la manière dont Alexa, l'assistant personnel intelligent d'Amazon, a été développée. Utilisée notamment sur les enceintes connectées de la gamme Echo, Alexa aurait été « entraînée » par des salariés de la firme à leur insu.

Les révélations du journaliste Brad Stone, auteur de l'ouvrage Amazon Unbound: Jeff Bezos and the Invention of a Global Empire, publié le 11 mai 2021, devraient faire couler beaucoup d'encre, et pas seulement outre-Atlantique, sur la genèse et le processus de développement d'Alexa.

Des salariés d'Amazon participent au développement d'Alexa malgré eux

Brad Stone connaît plutôt bien Amazon. Le journaliste américain de Bloomberg Businessweek vient de publier son troisième ouvrage en 8 ans portant sur la firme fondée par Jeff Bezos. Et le petit dernier révèle notamment comment Amazon a mis au point son assistant personnel intelligent, Alexa.

Lancée en 2014, cette dernière aura bénéficié durant l'année précédente d'un entraînement intensif grâce à un contrat passé avec la société Appen. L'objectif était alors pour Amazon de louer des maisons et des appartements via Appen à Boston (New Jersey) et de les remplir de divers objets électroniques, à savoir des télévisions, des consoles de jeux ou des micros, mais surtout, de près de 20 prototypes de l'Amazon Echo, son enceinte connectée.

Plusieurs salariés de la firme auraient alors refusé une mission de leur employeur en voyant les pièces fournies, mais d'autres travailleurs temporaires s'y sont finalement pliés : poser des questions ouvertes rédigées préalablement sur des tablettes qu'ils n'auraient qu'à lire en se promenant dans les pièces. Rien de bien méchant, en perspective.

Silence d'Alexa, d'Amazon comme d'Appen

La malice réside dans le fait que les collaborateurs d'Amazon n'étaient pas au courant que leurs propos étaient collectés afin de rendre Alexa la plus précise possible. Les Amazon Echo étant éteint, l'IA ne pouvait répondre aux questions, mais était néanmoins à même de transmettre les paroles à d'autres employés d'Amazon chargés de les analyser et permettre ainsi à Alexa de comprendre toujours plus de nouvelles demandes d'un niveau simple.

Il s'agissait également de permettre au futur assistant personnel intelligent d'être précis et donc de s'entraîner à comprendre certains accents régionaux ou de distinguer des bruits de fond. Une opération ainsi renouvelée 6 jours sur 7 pendant 6 mois dans 10 villes différentes qui aura permis, seulement un an plus tard, de proposer une Amazon Echo équipée d'Alexa et d'ainsi concurrencer Google et Apple, leaders dans le secteur des assistants personnels intelligents.

Alexa et l'Amazon Echo connurent au cours des dernières années un véritable succès puisque l'enceinte connectée d'Amazon représentait 31,7 % des ventes dans sa catégorie en 2019.

Appen comme Amazon ont, pour l'instant, refusé de commenter les allégations faites par Brad Stone dans son ouvrage.

Source : Business Insider

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
16
13
eykxas
Je serai curieux de lire cet ouvrage car je vois pas comment les employés faisaient des trucs «&nbsp;malgré eux&nbsp;». On leur demande de lire des questions à voix hautes dans des pièces témoins…<br /> A moins d’être complètement idiot, c’est pas dur à comprendre que c’est fait pour de l’analyse. Et même si le projet Echo était secret et que les employés ne savait pas que c’était pour ça, ils devaient bien se douter que c’était pour quelque chose de ce genre.<br /> De plus la mission devant être accepté, il n’y a pas vraiment de problème.
obbiclubic
On a rien sans rien …
norwy
«&nbsp;Si les brebis sont faibles et stupides, ce n’est pas la faute du renard, donc tout va bien !&nbsp;»<br /> Je ne suis pas sûr que la naïveté des employés soit une bonne excuse pour les exploiter à leur insu notamment concernant des données qu’ils ont explicitement refusé de partager, d’après l’article.
clockover
Et des mecs hébergent leurs données (notamment d’entreprise) sur AWS.<br /> Bien sûr qu’elles sont scannées dans tous les sens ^^.<br /> A la naïveté…
eykxas
Ceux qui ont accepté la mission ne sont pas exploités à leur insu vu qu’ils l’ont signé !<br /> De plus ces « données » ne sont pas les leurs vu que c’est fourni. Et qu’il ne s’agit que de questions basiques (comme : quel temps fait-il ?) qu’ils doivent lire.<br /> Vous avez vraiment lu l’article avant de commenter ?<br /> Le seul « hic » c’est que l’enregistrement n’était pas indiqué.<br /> Si on te demande de lire des phrases en vrac à voix haute juste comme ça dans une pièce ça t’interpelle pas ?
norwy
«&nbsp;Ceux qui ont accepté la mission ne sont pas exploités à leur insu vu qu’ils l’ont signé !.. Vous avez vraiment lu l’article avant de commenter ?&nbsp;»<br /> Amazon aurait secrètement entraîné l’IA d’Alexa à l’insu de ses employés<br /> Plusieurs salariés de la firme auraient alors refusé une mission de leur employeur en voyant les pièces fournies<br /> Des salariés d’Amazon participent au développement d’Alexa malgré eux<br /> Silence d’Alexa, d’Amazon comme d’Appen<br /> Du coup, j’ai moi-même l’impression que vous n’avez pas lu l’article, c’est marrant, ça… Enregistrer des salariés à leur insu et sans leur accord explicit, c’est illégal.<br /> Que d’autres salariés se rendent complice de ce larcin, c’est un autre sujet. Les victimes ce sont les personnes enregistrées à leur insu.<br /> Encore une fois « Si les brebis sont faibles et stupides, ce n’est pas la faute du renard, donc tout va bien ! ».
carinae
Bah a ce compte là, autant leur dire a quoi tout cela sert, qu’ils vont être enregistrés et leur faire signer une clause de confidentialité plutôt que tout faire en loose day
eykxas
Vous avez clairement pas lu correctement.<br /> Déjà, y’a pas vraiment de secret. Les employés avaient un ordre de mission. L’objectif « final » de cette mission n’a pas forcément a être révélé. Mais les employés savaient ce qui leur était demandé.<br /> Certains salariés ont refusés la mission. Et alors ? Moi aussi j’ai refusé des missions de mon employeur. Personne n’en a fait un drame.<br /> Ils participent au développement d’Alexa malgré eux. Pas exactement. Les enregistrements auraient pu servir à un autre projet.<br /> La seule chose dont amazon semble « coupable » c’est de ne pas avoir indiqué clairement que les employés étaient enregistrés.<br /> Et encore, on a pas lu l’ouvrage en question (qui dit que le journaliste de Clubic a bien retranscrit les infos correctement…) On ne connaît pas les infos sur lesquels se base le journaliste de Bloomberg… (qui dit que lui aussi a bien des infos correctes ?).<br /> Dans l’état actuel de cette news, il ne s’agit que de spéculation sur des infos non vérifiables.
pecore
Je sens le scandale bien putaclick de la grosse méchante société multimilliardaire exploitant ses pôvres salariés sous payés. Mais où va le monde ma brave dame.<br /> Pareil que plusieurs autres messages je ne vois pas comment les employés pouvaient ignorer à quoi servaient les objets connectés et les phrases déclamées à voie haute. Tout au plus ne savaient ils pas tous les détails du projets concernant le développement de l’IA mais je ne vois pas en quoi ce serait un tort de la part d’Amazon. Compartimenter les informations c’est normal quant on parle de développement.
pecore
Plus l’éventualité très probable de quelques avocats d’affaire bien voraces qui ont vu une opportunité de se faire une fortune.
Kfabien
neXt
Skoleras
Et sur leurs contrats de travail, une petite clause ne prévoyait pas ce cas de figure ?
jcc137
Un gros buzz pour pas grand chose, apparemment !<br /> Mon explication est que si les «&nbsp;employés&nbsp;» savaient qu’ils étaient enregistrés, ils auraient dicté les phrases avec un manque de naturel comme nous avons tous quand nous savons que nous sommes enregistrés ou filmés. A moins d’être des acteurs pro, le ton naturel de la voix est capitale pour l’IA, et la meilleure façon de garder ce naturel recherché est de cacher le fait de les enregistrer.<br /> Claude Lelouch fait pareil lorsqu’il fait tourner une scène plusieurs fois à ses acteurs, et finit par garder systématiquement la première, car c’est elle qui a réunit l’aspect naturel recherché.
mart666
En tout cas le résultat est là, Alexa fonctionne vraiment bien. (j’ai remplacé mes google home par alexa).
sebstein
Amazon aurait secrètement entraîné l’IA d’Alexa à l’insu de ses employés<br /> Du coup, c’est Jeff himself qui a codé l’IA ?<br /> Plus sérieusement :<br /> La malice réside dans le fait que les collaborateurs d’Amazon n’étaient pas au courant que leurs propos étaient collectés afin de rendre Alexa la plus précise possible. Les Amazon Echo étant éteint, l’IA ne pouvait répondre aux questions, mais était néanmoins à même de transmettre les paroles à d’autres employés d’Amazon chargés de les analyser et permettre ainsi à Alexa de comprendre toujours plus de nouvelles demandes d’un niveau simple.<br /> Ils croyaient quoi les employés ? Qu’ils devaient juste lire des questions dans le vide, comme ça, sans raison ?<br /> Et je ne vois pas en quoi lire des questions préalablement rédigées pose un problème de vie privée…
Voir tous les messages sur le forum

Actualités du moment

Bon plan Amazon : la souris bureautique Logitech M330 Silent Plus est à -50%
Amazon, Apple et Google s’allient pour promouvoir l’intercompatibilité des objets connectés
Obtenez 4 To de stockage externe Seagate à moins de 90€ avec un code chez Cdiscount
SteelSeries dévoile sa nouvelle souris gaming boostée au RGB, la Rival 5
Le top des PC portable gamer : MSI GF75 Thin à -450€ chez Cdiscount
Apple retire discrètement le serveur web Zoom caché via une mise à jour sur Mac
Mini critique Tribes of Europa (S01)
Mini critique Truth Seekers (S01)
Mini critique For All Mankind (S02E01)
Mini critique Snowpiercer (S02E01)
Haut de page