Amazon aurait secrètement entraîné l'IA d'Alexa à l'insu de ses employés

Publié le 12 mai 2021 à 16h00

On en sait désormais un peu plus sur la manière dont Alexa, l'assistant personnel intelligent d'Amazon, a été développée. Utilisée notamment sur les enceintes connectées de la gamme Echo, Alexa aurait été « entraînée » par des salariés de la firme à leur insu.

Les révélations du journaliste Brad Stone, auteur de l'ouvrage Amazon Unbound: Jeff Bezos and the Invention of a Global Empire, publié le 11 mai 2021, devraient faire couler beaucoup d'encre, et pas seulement outre-Atlantique, sur la genèse et le processus de développement d'Alexa.

Des salariés d'Amazon participent au développement d'Alexa malgré eux

Brad Stone connaît plutôt bien Amazon. Le journaliste américain de Bloomberg Businessweek vient de publier son troisième ouvrage en 8 ans portant sur la firme fondée par Jeff Bezos. Et le petit dernier révèle notamment comment Amazon a mis au point son assistant personnel intelligent, Alexa.

Lancée en 2014, cette dernière aura bénéficié durant l'année précédente d'un entraînement intensif grâce à un contrat passé avec la société Appen. L'objectif était alors pour Amazon de louer des maisons et des appartements via Appen à Boston (New Jersey) et de les remplir de divers objets électroniques, à savoir des télévisions, des consoles de jeux ou des micros, mais surtout, de près de 20 prototypes de l'Amazon Echo, son enceinte connectée.

Plusieurs salariés de la firme auraient alors refusé une mission de leur employeur en voyant les pièces fournies, mais d'autres travailleurs temporaires s'y sont finalement pliés : poser des questions ouvertes rédigées préalablement sur des tablettes qu'ils n'auraient qu'à lire en se promenant dans les pièces. Rien de bien méchant, en perspective.

Silence d'Alexa, d'Amazon comme d'Appen

La malice réside dans le fait que les collaborateurs d'Amazon n'étaient pas au courant que leurs propos étaient collectés afin de rendre Alexa la plus précise possible. Les Amazon Echo étant éteint, l'IA ne pouvait répondre aux questions, mais était néanmoins à même de transmettre les paroles à d'autres employés d'Amazon chargés de les analyser et permettre ainsi à Alexa de comprendre toujours plus de nouvelles demandes d'un niveau simple.

Il s'agissait également de permettre au futur assistant personnel intelligent d'être précis et donc de s'entraîner à comprendre certains accents régionaux ou de distinguer des bruits de fond. Une opération ainsi renouvelée 6 jours sur 7 pendant 6 mois dans 10 villes différentes qui aura permis, seulement un an plus tard, de proposer une Amazon Echo équipée d'Alexa et d'ainsi concurrencer Google et Apple, leaders dans le secteur des assistants personnels intelligents.

Alexa et l'Amazon Echo connurent au cours des dernières années un véritable succès puisque l'enceinte connectée d'Amazon représentait 31,7 % des ventes dans sa catégorie en 2019.

Appen comme Amazon ont, pour l'instant, refusé de commenter les allégations faites par Brad Stone dans son ouvrage.

Source : Business Insider

Par Thibaut Keutchayan

Je m'intéresse notamment aux problématiques liant nouvelles technologies et politique tout en m'ouvrant à l'immense diversité des sujets que propose le monde de la tech' quand je ne suis pas en train de taper dans un ballon.

Articles de Thibaut Keutchayan

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !

Commentaires (0)

Rejoignez la communauté Clubic

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

Commentaires (10)

eykxas

Je serai curieux de lire cet ouvrage car je vois pas comment les employés faisaient des trucs « malgré eux ». On leur demande de lire des questions à voix hautes dans des pièces témoins…

A moins d’être complètement idiot, c’est pas dur à comprendre que c’est fait pour de l’analyse. Et même si le projet Echo était secret et que les employés ne savait pas que c’était pour ça, ils devaient bien se douter que c’était pour quelque chose de ce genre.

De plus la mission devant être accepté, il n’y a pas vraiment de problème.

obbiclubic

On a rien sans rien …

norwy

« Si les brebis sont faibles et stupides, ce n’est pas la faute du renard, donc tout va bien ! »

Je ne suis pas sûr que la naïveté des employés soit une bonne excuse pour les exploiter à leur insu notamment concernant des données qu’ils ont explicitement refusé de partager, d’après l’article.

eykxas

Ceux qui ont accepté la mission ne sont pas exploités à leur insu vu qu’ils l’ont signé !

De plus ces « données » ne sont pas les leurs vu que c’est fourni. Et qu’il ne s’agit que de questions basiques (comme : quel temps fait-il ?) qu’ils doivent lire.

Vous avez vraiment lu l’article avant de commenter ?

Le seul « hic » c’est que l’enregistrement n’était pas indiqué.

Si on te demande de lire des phrases en vrac à voix haute juste comme ça dans une pièce ça t’interpelle pas ?

norwy

« Ceux qui ont accepté la mission ne sont pas exploités à leur insu vu qu’ils l’ont signé !.. Vous avez vraiment lu l’article avant de commenter ? »

Amazon aurait secrètement entraîné l’IA d’Alexa à l’insu de ses employés
Plusieurs salariés de la firme auraient alors refusé une mission de leur employeur en voyant les pièces fournies
Des salariés d’Amazon participent au développement d’Alexa malgré eux
Silence d’Alexa, d’Amazon comme d’Appen

Du coup, j’ai moi-même l’impression que vous n’avez pas lu l’article, c’est marrant, ça… Enregistrer des salariés à leur insu et sans leur accord explicit, c’est illégal.

Que d’autres salariés se rendent complice de ce larcin, c’est un autre sujet. Les victimes ce sont les personnes enregistrées à leur insu.

Encore une fois « Si les brebis sont faibles et stupides, ce n’est pas la faute du renard, donc tout va bien ! ».

carinae

Bah a ce compte là, autant leur dire a quoi tout cela sert, qu’ils vont être enregistrés et leur faire signer une clause de confidentialité plutôt que tout faire en loose day

eykxas

Vous avez clairement pas lu correctement.

Déjà, y’a pas vraiment de secret. Les employés avaient un ordre de mission. L’objectif « final » de cette mission n’a pas forcément a être révélé. Mais les employés savaient ce qui leur était demandé.

Certains salariés ont refusés la mission. Et alors ? Moi aussi j’ai refusé des missions de mon employeur. Personne n’en a fait un drame.

Ils participent au développement d’Alexa malgré eux. Pas exactement. Les enregistrements auraient pu servir à un autre projet.

La seule chose dont amazon semble « coupable » c’est de ne pas avoir indiqué clairement que les employés étaient enregistrés.

Et encore, on a pas lu l’ouvrage en question (qui dit que le journaliste de Clubic a bien retranscrit les infos correctement…) On ne connaît pas les infos sur lesquels se base le journaliste de Bloomberg… (qui dit que lui aussi a bien des infos correctes ?).

Dans l’état actuel de cette news, il ne s’agit que de spéculation sur des infos non vérifiables.

pecore

Je sens le scandale bien putaclick de la grosse méchante société multimilliardaire exploitant ses pôvres salariés sous payés. Mais où va le monde ma brave dame.
Pareil que plusieurs autres messages je ne vois pas comment les employés pouvaient ignorer à quoi servaient les objets connectés et les phrases déclamées à voie haute. Tout au plus ne savaient ils pas tous les détails du projets concernant le développement de l’IA mais je ne vois pas en quoi ce serait un tort de la part d’Amazon. Compartimenter les informations c’est normal quant on parle de développement.

pecore

Plus l’éventualité très probable de quelques avocats d’affaire bien voraces qui ont vu une opportunité de se faire une fortune.

Kfabien