Des équipes d'Amazon chargées de scruter les images des caméras de surveillance de la marque

11 octobre 2019 à 14h57
36
Amazon Cloud Cam

Des vidéos de caméras de surveillance d'Amazon sont regardées et analysées par des humains. Une révélation qui tombe alors qu'on apprenait il y a peu que les conversations enregistrées par Alexa sont elles aussi écoutées par des humains.

Amazon est une nouvelle fois mis en cause dans une affaire relative à la vie privée des utilisateurs. D'après une enquête de Bloomberg, le groupe américain fait étudier des extraits d'images issues des enregistrements de ses caméras de surveillance.

Les vidéos de Cloud Cam visionnées

Selon le média, Amazon engage des contractuels basés en Inde et en Roumanie. Le groupe leur envoie des échantillons vidéo d'enregistrements capturés par des caméras Cloud Cam. L'analyse de ces extraits permet d'améliorer l'IA du service, l'aidant notamment à distinguer les situations de danger des fausses menaces.

Problème : les utilisateurs ne sont pas au courant que les images de leur caméra peuvent être visionnées par un être humain. Certains contractuels interrogés admettent avoir vu passer des vidéos à caractère très privé.

De son côté, Amazon se défend en assurant que tous les utilisateurs ne sont pas concernés par cette exploitation des images. Le groupe explique que certains de ses employés sont volontaires et que ce sont eux qui fournissent les vidéos ainsi analysées. Autre cas possible : si un client rapporte un problème avec une caméra, les enregistrements peuvent être regardés afin de comprendre ce qui ne va pas.


Alexa aussi mise en cause

Ce n'est pas la première fois qu'Amazon est accusé de se montrer invasif et de ne pas respecter la vie privée des consommateurs. Nous apprenions il y a quelques mois que des humains écoutent des conversations consignées par Alexa. Là encore, l'entreprise de Seattle arguait qu'il s'agit d'un moyen d'améliorer les fonctionnalités et que les extraits sont livrés brut à ceux qui les écoutent, sans aucune donnée personnelle permettant de faire le lien avec les individus qui se cachent derrière les voix.

Source : Bloomberg
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
36
14
GRITI
Et aller…une histoire de plus… C’est sans fin… Perso, j’attends qu’un politique se fasse avoir par ce genre de système et ces conversations/vidéos soient rendues publiques. Ce sera sans doute le meilleur moyen de les pousser à réagir…<br /> D’un autre côté on en revient toujours au même point: confier ses données privées (audios, vidéos etc…) à ce genre d’entreprise…faut pas se plaindre après. Autant il y a 7 ou 8 ans je veux bien que le grand public n’était pas au courant, autant maintenant…
Saulofein
Mais n’importe quoi, tu manipules l’information pour jouer sur la peur des gens.<br /> Rien n’a jamais été rendu publique, et les personnes qui traite ces images sont forcément tenues par des contrats avec clauses de confidentialité, et il doit certainement y avoir des mécanismes pour les empêcher de sortir les vidéos.<br /> Il n’y a jamais eu de divulgations d’images!
nrik_1584
Pas au courant pas au courant… je me souviens encore du nombre de fois où j’expliquais aux gens pourquoi je n’avais pas confiance en ce genre de service et recevais au mieux de l’ignorance voir un léger foutage de gueule…<br /> Donc maintenant qu’ils ont les deux pieds dedans j’ai presque envie de dire “tant pis pour eux”. u_u
Elrix
Mais oui, et la marmotte met le chocolat dans le papier d’alu…<br /> J’hésite entre naïveté ou stupidité.
Saulofein
Waoh, quelle argumentation!<br /> J’hésite entre paranoïa et anxiété…
GRITI
Tu n’as pas compris/je me suis mal exprimé.<br /> Je sais bien que rien n’a été rendu public. Encore heureux.<br /> Je reprends donc.<br /> Toutes ces histoires de données enregistrées pour amélioration de service se multiplient et les gens ne sont pas forcément au courant:<br /> Certains contractuels interrogés admettent avoir vu passer des vidéos à caractère très privé.<br /> Perso, pour moi, cela doit être sanctionné et stoppé. Les “scandales” se multiplient mais les politiques n’agissent pas. D’où, mon “souhait” qu’une personnalité politique soit victime d’une fuite de données audios/vidéos suite à l’enregistrement des données pour amélioration des services. Peut-être que là, enfin, les politiques daigneraient légiférer et vraiment sanctionner les entreprises.<br /> Quant aux contractuels avec clauses de confidentialité…c’est du vent. Un contrat n’est qu’un bout de papier avec des mots écrits et qui n’a AUCUN pouvoir. C’est la personne concernée par le contrat qui lui donne un pouvoir et décide de le respecter ou pas. Tout le monde peut s’acheter. Sans compter que même sans être corrompu, on peut soi-même tirer profit des données que l’on reçoit et les revendre spontanément. Vu le succès des vidéos volées par webcam, il y a un marché. Surtout dans des pays où la pauvreté est plutôt majoritaire.<br /> Sans compter qu’il faut être sûr que la société sous contrat qui analyse ses données a intérêt à avoir un système de sécurité informatique plutôt balèze…ce qui a un coût.
nrik_1584
Disons que ton argumentaire s’appuie tout de même sur pas mal de principes et d’hypothèses qui même si elles sont logiques et justifiées ne sont en l’état pas prouvées (comme on dit : “avec des SI on met Paris en bouteille”).<br /> Et de base dans ce genre de système quand l’humain fait partie de la chaîne, il n’est pas fiable en termes de discrétion.<br /> Ajoute à ça que ça fait deux fois qu’ils faut qu’ils se retrouvent dos au mur pour communiquer sur le sujet et la relative confiance envers leurs produits / services en prend un coup.
Saulofein
Je vois d’ici le type lourd en soirée!<br /> Oui mais tu te rends pas compte tes données personnelles nianiania…
GRITI
nrik_1584:<br /> Pas au courant pas au courant<br /> Je maintiens qu’il y a plusieurs années, c’étaient plutôt les geeks internautes de la première heure qui étaient au courant. Et passaient pour des paranos. Au niveau des médias mainstream, il me semble qu’il n’y avait rien ou pas grand chose sur le sujet. Non?
nrik_1584
Du tout. Quand j’en parle c’est parce qu’on vient me poser la question où que ces mêmes personnes viennent me casser les pieds à ne pas comprendre pourquoi j’ai pas de compte FaceBook et je n’en veux pas. Ou encore quand des collègues me sortent étonnés qu’ils ont entendu dire qu’avec Android Google les suit par défaut à la trace via leur compte gmail.<br /> Et chaque fois que j’explique le pourquoi du comment et les solutions que j’applique pour limiter la casse j’obtiens un des deux comportement cités précédemment.<br /> Tu devrais éviter de juger les gens sans rien savoir.
GRITI
Saulofein:<br /> Je vois d’ici le type lourd en soirée!<br /> Comme toujours, tout est une question de point de vue. Pour MOI, en soirée, nrik_1584 ne serait pas un type lourd sur le sujet des données privées.
nrik_1584
Ah ça je dis pas le contraire. Mais quand tu voyais l’indifférence des gens vis à vis de ces mêmes personnes informées (qui du coup stoppe la diffusion de l’info).<br /> Ben d’une part le résultat final ne m’étonne guère mais en plus je m’assoie et observe la scène.<br /> Ne pas savoir c’est une chose, refuser de s’informer en est une autre.
Saulofein
Bon, deux point:<br /> Le premier, on sait tous comment ça se passe auhjourd’hui avec les assistants vocaux, et autres objet connectés. Pour améliorer la pertinence des IA, on n’a pas d’autres choix que de traiter des vidéos manuellement.<br /> Mais une nouvelle fois, il s’agissait de volontaires, ou de personnes qui ont reporté des problèmes ce qui oblige par conséquent a regarder la séquence. Pour les volontaire, s’ils font des trucs “très perso” devant les caméra, ils sont co*s d’envoyer ces éxtraits là.<br /> Deuxièmement, je t’invite a aller sur shodan (ou par toi même si tu dispose d’un minimum de connaissance en hacking) pour regarder le nombre de caméra privée ouverte sur internet, je t’assure qu’on a pas besoin d’aller chez amazon pour voir la vie privée d’inconnus.<br />
toug19
si ça te déranges pas que quelqu’un regarde les images de chez toi, par exemple ta conjointe nue qui passe devant la caméra. Et puis un de ces 4, la vidéo se retrouve sur un site internet.
gwlegion
encore une fois le probleme c’est le concentement …<br /> que l’utilisateur sois informé avant l’achat, et qu’il soit d’accord.<br /> Apres, c’est le choix de chaqu’un de faire ce qu’il veut …<br /> un conentement aiclairé on apelle ca … RGPD, quand tu nous tiens XD
Saulofein
MDR, non mais lis le titre de la source:<br /> Teams in India and Romania use video snippets sent by customers for troubleshooting purposes and to train artificial intelligence algorithms.<br /> Ces gens on consciament envoyé des vidéos a amazoon! Je suis pas assez co*s pour envoyer des vidéos de moi au lit avec ma copine!
GRITI
Saulofein:<br /> Deuxièmement, je t’invite a aller sur shodan (ou par toi même si tu dispose d’un minimum de connaissance en hacking) pour regarder le nombre de caméra privée ouverte sur internet, je t’assure qu’on a pas besoin d’aller chez amazon pour voir la vie privée d’inconnus.<br /> Je connais. Mais pour moi, il y a une différence entre installer une caméra chez soi sans rien connaître et donc sans se douter que ce sera piratable si on ne fait rien et installer un système appartenant à un grand groupe à qui on fait confiance (c’est un autre débat cette confiance).<br /> Saulofein:<br /> on sait tous comment ça se passe auhjourd’hui avec les assistants vocaux, et autres objet connectés.<br /> Faux. Encore une fois, cela nous semble évident tout cela à nous qui traînons sur Clubic. Mais je te garantis que ce n’est pas le cas de tout le monde, loin de là.<br /> Saulofein:<br /> Pour les volontaire, s’ils font des trucs “très perso” devant les caméra, ils sont co*s.<br /> En partie d’accord. Mais je pense aussi, qu’une caméra tu finis par l’oublier au bout d’un certain temps. Et en plus, cela peut être d’autres personnes qui ont été filmées que celles qui étaient volontaires et qui ne savaient pas forcément qu’il pouvait y avoir analyse par des humains. Voir qui ne savait pas qu’il y avait une caméra.
GRITI
Clips containing inappropriate content are flagged as such, then discarded so they aren’t accidentally used to train the AI, the people said. Amazon’s spokeswoman said such clips are scrapped to improve the experience of the company’s human reviewers, but she didn’t say why unsuitable activity would appear in voluntarily submitted video clips.<br /> The workers said Amazon has imposed tight security on the Cloud Cam annotation operation. In India, dozens of reviewers work on a restricted floor, where employees aren’t allowed to use their mobile phones, according to two of the people. But that hasn’t stopped other employees from passing footage to non-team members, another person said.<br /> Là je ne suis pas sûr de comprendre:<br /> Dozens of Amazon workers based in India and Romania review select clips captured by Cloud Cam, according to five people who have worked on the program or have direct knowledge of it.<br /> Ils n’utilisent que les vidéos de 5 personnes? Si oui, cela me paraît bien peu pour entraîner l’IA.<br /> Edit: ou elles ont été sélectionnées par 5 personnes?
nrik_1584
Le dernier point je le comprends plus comme une sorte de liste de courses.<br /> 5 gus bossant au niveau de la programmation de l’IA définissent une liste de thèmes sur lesquelles elle pêche et les gars d’Inde et Roumanie sont chargés d’identifier des vidéos correspondantes pour aider l’apprentissage sur les dits thèmes.<br /> Edit : ah non correction… la partie sur les 5 personnes désigne des témoins qui ont bossé là dedans.<br /> Ca donnerait : Des douzaines de salariés Indiens et Roumains d’Amazon parcourent et sélectionnent des vidéos filmées par les Cloud Cam, selon 5 personnes ayant travaillé pour le programme ou ayant été en contact direct.
Saulofein
oui effectivement je pense que tu as raison, je vois pas comment l’interpréter autrement
GRITI
En effet, ça doit bien être ce sens là. Bien vu.
Nmut
Non, c’est juste qu’ils ont 5 témoignages de personnes ayant travaillé sur le projet.
GRITI
Compris ensuite avec le commentaire de nrik_1584 mais merci quand même. <br /> De toute façon, seulement 5 personnes comme bases pour entraîner l’IA…ce n’était pas crédible.
tryptique
Clubic.com – 7 Nov 14<br /> Un site affiche les vidéos de 73 000 caméras IP privées<br /> En savoir plus<br />
toug19
ça c’est de la communication officielle. Parce que excuse moi:<br /> “Certains contractuels interrogés admettent avoir vu passer des vidéos à caractère très privé.”<br /> et<br /> “L’analyse de ces extraits permet d’améliorer l’IA du service, l’aidant notamment à distinguer les situations de danger des fausses menaces.”<br /> ça ne colle pas avec ce que tu dis.
Saulofein
“Certains contractuels interrogés admettent avoir vu passer des vidéos à caractère très privé” Ben Amazon n’est pas responsable de ce que les personnes leur envoient, et oui le but final est d’éduquer une IA.<br /> Je ne vois pas ce qui te choque…
GRITI
Saulofein:<br /> Ben Amazon n’est pas responsable de ce que les personnes leur envoient<br /> Je suis d’accord là-dessus. Mais je me demande quand même comment cela fonctionne. Est-ce que le volontaire donne son accord pour envoyer du H24 7 jours sur 7 ou seulement certains créneaux?<br /> but she didn’t say why unsuitable activity would appear in voluntarily submitted video clips .<br /> mais elle n’a pas dit pourquoi une activité inappropriée apparaîtrait dans des vidéoclips soumis volontairement.<br /> J’ai du mal à croire que les gens aient volontairement envoyé des vidéos très privées. Il y a quelque chose qui n’est pas clair là-dedans je trouve.
Zetmor
Si Amazon même a les images … le gouvernement (et pas que le notre) a les images aussi, hein.
nrik_1584
Je vois que deux options :<br /> exhibitionnisme (peu probable mais pas impossible),<br /> des proches ignorant que le contenu filmé allait être examiné à la loupe par de parfaits inconnus.<br /> Après il peut aussi y’avoir le cas de la mauvaise blague à la rigueur…
GRITI
Ou alors, il y avait des créneaux prédéfinis à l’avance pour les images récupérées mais qui n’ont pas été respectés. Les données récoltées couvriraient donc une période plus grande que prévue.
nrik_1584
Oui… Après je veux bien que certaines personnes soient dévouées à leur entreprise mais là ça devient un rien envahissant s’il faut tenir compte d’un planning d’intrusion sur sa vie privée. xD
GRITI
Dévouées ou volontariat rémunéré :).
m_enfin
Sur internet, entre un excès de naïveté et un excès de parano, il faut TOUJOURS privilégier l’excès de parano. L’histoire nous montre que même en étant dans un excès de parano on est en fait en deçà de la réalité. Ca s’est toujours confirmé concernant internet. Toujours.
KlingonBrain
Le problème de notre société, c’est que les gens veulent acheter des gadgets technologiques sans prendre la peine de se former à minima sur leur utilisation et les dangers potentiels.<br /> Cela ne peut engendrer que des problèmes…
xeno
Bienvenu dans le cloud, peut être qu’un jour les gens comprendrons que le cloud c’est une belle connerie, non seulement c’est a bas la vie privé, mais en plus sans internet cela ne sert plus a grand chose
ares-team
C’est facile de réclamer, mais si personne ne porte plainte, comment voulez vous qu’une sanction leur soit infligé ?
Voir tous les messages sur le forum

Derniers actualités

Apple : pourquoi la canicule risque de retarder l'arrivée des nouveaux iPad
Le Facebook Portal + est à moins de 300€ en ce moment chez Cdiscount
Vous ne trouverez pas ce PC portable Lenovo moins cher qu'ici
Fouille des sacs des employés : Apple met fin à 10 ans de procès (et va lâcher 30 millions au passage)
Pourquoi vous devriez voir bientôt plus de pub sur les apps iPhone et iPad
Profitez d'un prix attractif sur ce Chromebook parfait pour les étudiants !
Ce SSD de 1 To chute de prix et passe sous la barre des 80€
Enfin ! Le chargeur 5W d'Apple disparaît des rayons
Pour une protection parmi les plus complètes face aux virus, cette solution signée Bitdefender est idéale
Le superbe écran LG UltraWide de 34
Haut de page