Comment Alexa en est-elle venue à défier une petite fille de "mettre les doigts dans la prise" ?

29 décembre 2021 à 13h45
46
Alexa amazon assistant personnel © Shutterstock.com
© Amazon

Alexa défraye la chronique, ce matin. L’appareil domestique conçu pour assister ses utilisateurs dans leurs tâches quotidiennes a mis la vie d’une petite fille en danger.

L’assistant vocal a mis au défi la fillette de coller une pièce de monnaie à une prise branchée. 

Quand Alexa s’inspire d’un challenge TikTok dangereux

C’est un lendemain de Noël qui aurait pu tourner au drame. Alors que la météo est mauvaise et qu’elles s’ennuient un peu, une fille de 10 ans et sa mère enchaînent les défis sportifs pour passer le temps. Quand la fillette demande à Alexa de lui lancer un autre challenge pour s’amuser, l'assistant vocal développé par Amazon lui propose de coller une pièce de monnaie dans une prise électrique sous tension.

« Voici ce que j’ai trouvé sur Internet. Le défi est simple : enfoncer un chargeur de téléphone à mi-chemin dans une prise murale, puis coller une pièce de monnaie sur les embouts qui dépassent », défie l’appareil domestique à la stupeur de sa mère, heureusement présente au moment des faits. 

Une idée que l’assistant a puisé dans le « Penny Challenge », un défi qui circule sur TikTok depuis plus d’un an. Le but est de créer des éclairs et de se filmer dans cette tentative malgré les risques importants que cela comporte, comme recevoir une charge électrique importante ou provoquer un incendie. 

Amazon réagit rapidement et met Alexa à jour

Kristin L. a immédiatement partagé cette histoire effarante sur Twitter le 26 décembre 2021, capture d’écran à l’appui avec l’historique de conversation d’Alexa. Dans un communiqué adressé à la BBC, Amazon indique avoir pris des « mesures rapides » pour corriger cette erreur dès qu’elle a été portée à sa connaissance et assure avoir mis à jour son assistant audio.

« La confiance de nos clients est au centre de tout ce que nous faisons, et Alexa a été conçue pour donner des informations précises, pertinentes et utiles aux clients. Dès que nous avons pris connaissance de cette erreur, nous avons agi rapidement pour la réparer », a écrit la multinationale dans son communiqué de presse.

Source : BBC

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
46
38
sirifa
Ok, donc il va voir dans les « défits » tiktok, donc s’il y en a d’autre qui posent problème alors (sauf s’ils ont couper le lien avec tiktok) ce problème se reproduira surement (je ne pense pas qu’il y ait des modérateurs qui regarde chaque nouveau défit ajouté).
Feladan
Ha bah ça malheureusement, il n’y aura jamais de solution. C’est la magie d’internet. Autant ils peuvent plus ou moins bloquer les sources (tiktok), voir probablement des choses spécifiques (compte, données recherchées etc), ou connaître les choses absurdes présentes depuis un moment, autant il sera impossible effectivement de bloquer toutes les absurdités qui sont répandues sur le web.<br /> Il y aura toujours des choses qui ressortiront…
benben99
Il devrait y avoir poursuite contre Amazon… Ceci est scandaleux
hylea12
suggéré par alexa ou par tiktok ou par le copain de la classe …<br /> Ce qui serait scandaleux serait de pas surveiller ses jeunes enfants.<br /> Pour les ado qu’on surveille moins, si il sont assez idiots pour faire des choses dangereusement stupide, c’est plus de l’ordre de la sélection naturel.
Sodium
Ca rappelle l’IA de Microsoft qui est devenue rapidement néo-nazie.
Garden_Dwarf
Alexa m’a dit de sauter du toit. Amazon me livre mon fauteuil roulant demain.
hellraisercom
Attend, je comprend pas bien. En quoi Amazon est fautif, l’algo d’Alexa va chercher des réponses sur internet !? Internet c’est grand, et je ne pense pas que l’algo va chercher des informations sur des sites interdit -18 ou ayant quelconque rapport PRO-politique et/ou religieux.<br /> Tiktok n’est pas un site dit «&nbsp;dangereux&nbsp;» ou interdit a une tranche de la population.<br /> Je pense qu’ils ont prit des mesures et qu’effectivement ils devraient bannir de leur moteur de recherche tout les sites communautaire (FB, Twitter, Insta, Tiktok, etc.)<br /> Si tu cherches des informations via Google sur le jeux vidéo «&nbsp;F.I.S.T.&nbsp;» et que tu tombes sur des réponses provenant de sites prn… est-ce la faute de Google ?
benben99
hellraisercom:<br /> Attend, je comprend pas bien. En quoi Amazon est fautif, l’algo d’Alexa va chercher des réponses sur internet !? Internet c’est grand, et je ne pense pas que l’algo va chercher des informations sur des sites interdit -18 ou ayant quelconque rapport PRO-politique et/ou religieux.<br /> Tiktok n’est pas un site dit « dangereux » ou interdit a une tranche de la population.<br /> Je pense qu’ils ont prit des mesures et qu’effectivement ils devraient bannir de leur moteur de recherche tout les sites communautaire (FB, Twitter, Insta, Tiktok, etc.)<br /> Si tu cherches des informations via Google sur le jeux vidéo « F.I.S.T. » et que tu tombes sur des réponses provenant de sites prn… est-ce la faute de Google ?<br /> S’ils adoptent une approche de type machine learning ou ils nourissent leur modèles avec de la pourriture, il ne faut pas être surpris que le résultat est un modèle qui génère des trucs dangereux. Microsoft a définitivement une responsabilité sur la façon qu’ils construisent leur modèle et les données qu’ils utilisent pour le faire. Ils ne peuvent se laver les mains des problèmes sous prétexte que c’est du machine learning. C’est comme Tesla. Si le modèle qu’ils ont entrainé pour conduire une voiture fait un accident, il devrait y avoir une forme de responsabilité… même si ce ne sera peutêtre pas le cas dans les faits. C’est inexcusable
batmat
Le problème pourrait être réglé en supprimant toutes les prises électriques.
Muggsy68
Tu te trompes.<br /> Sur Google avec un réglage contenu protégés. Tu va pas tomber sur du porn en recherchant fist.<br /> Par contre la bestiole a quand même proposer à son interlocuteur de faire un Darwin Award.<br /> On parle d’enfant, mais une personne candide peut y passer aussi.<br /> Tu es prêt à acheter un produit te mettant en danger alors que ce n’est clairement pas son but ?<br /> Tous ces trucs d’IA c’est principalement de la merde et dans de rare cas c’est top.<br /> Mais il faut être initié pour savoir faire la part des choses.
Ajax
@ benben99<br /> je ne vois pas ce que vient faire Microsoft dans ton post<br /> Alexa c’est AMAZON
smover
Complètement hallucinant !!<br /> J’adore mes Echo et Alexa est super utile chez moi au quotidien et dans la famille. Mais ce genre de dérapage est assez effrayant. Bien sûr que ce n’est pas de la faute d’Amazon si n’importe quoi traîne sur internet, mais c’est clairement de leur faute si l’info récupérée par son IA n’est pas filtrée et sécurisée. Heureusement que cela n’a pas abouti à un drame, et espérons que cet épisode permettra d’en éviter à l’avenir.
justepourlefun
ou alors en supprimant toutes les pièces de monnaie \ o /
EricARF
Dans le monde, un tas de gens font ce que d’autres ou des vieux bouquins leurs disent de faire. Ça tue plein de gens tous les jours.<br /> 1° problème : ces prises électriques ne sont pas suffisamment protégées.<br /> 2° problème : Alexa n’a pas de capacités de discernement.<br /> 3° problème : beaucoup de gens n’ont pas de capacité de discernement.<br /> Combien se sont électrocutés à l’invitation d’Alexa mais ont eu trop honte pour avouer l’avoir fait?
solistice
En France, avec un équipement électrique à la norme NF et des prises électriques à la norme NF, même en essayant, ce n’est pas possible d’y arriver.
Pronimo
C’est le genre d’effets secondaire qui peux arriver quand tu combine de la données de recherches utilisateurs, métadonnées, tendances &amp; buzz words…, , croisés avec un système d’ia, machine learning… C’est pour sa qu’il ne faut jamais trop s’appuyer ce que sors de la bouche de Alexa ou d’autres assistants personnels, jamais sure que ce soit fiable a 100% (au meme titre que lire une page wikipedia ^^).
Altdorf
Je ne comprends pas pourquoi Alexa et Amazon sont en cause. Ce n’est pas l’idiot qui a posté ce défi qui est le réel coupable ?
Troudouillet
Ha, les prises électriques américaines. Elles me font flipper quand je dois en utiliser. Avoir des parties sous tension non protégées lors de l’insertion et du retrait (mettez des capotes les jeunes mais je m’écarte du sujet ) … nos prises européennes n’ont pas ce soucis.
cogitatio
Ah bon ?
Ezechiellydian
Pour créer ce genre de défis à la con, ce n’est pas QUE Alexa qui a un problème de discernement.
Ipoire
C’est cette m**de chinoise tiktok qu’il faut bannir, il y a rien a apprendre là-dedans.
TotO
Voilà, vous ne comprenez pas. Heureusement, Amazon à très vite réagis.
Blackalf
La réalité rattrape la fiction, ceux qui ont lu Un logique nommé Joe de Murray Leinster comprendront. <br /> L’auteur avait tout simplement prédit Internet et toutes ses dérives possibles, le roman est paru…en 1946.<br /> https://www.babelio.com/livres/Leinster-Un-logique-nomme-Joe/452653
Rumpelstiltskin
Ce qui est scandaleux c’est que tiktok laisse ces vidéos …
Rumpelstiltskin
En prime j’espère
notolik
Pfff, laissez faire la sélection naturelle…
TAURUS31
Toute les maison/appartement ne sont pas aux normes en France et loin de là.<br /> Faudrait peut être arrêter de croire que tout est beau et parfait en France.<br /> On a des normes qui évoluent mais elles ne sont pas rétroactive…
solistice
Et donc sur une installation aux normes, ce n’est pas possible.<br /> Je n’ai pas indiqué que tout était conforme en France, juste précisé un fait.
hannae
Les gens deviennent fou…juste pour une gloire de quelques secondes, et parce que manifestement la technologie et le virtuel nous font miroiter des illusions et croire qu’on peut faire tout et n’importe quoi sur le net, les gens se mettent à faire n’importe quoi. il n’y a plus aucune valeur, aucun sentiment de limite, le but est de se donner en spectacle.<br /> Je n’ai jamais participer à aucun challenge, je ne serais jamais inscrite sur tik tock et j’évite la plupart des réseaux sociaux pour échapper à cette folie… Dans le lot, il n’y a finalement que peu de choses intéressantes qui ressortent, et la majorité des gens se contentent de suivre la masse comme des moutons. Et surtout les ados qui cherchent à prouver bien des choses à leur âge.<br /> Je me demande sincèrement ce que va devenir la génération de demain,on est réellement en train de déconstruire l’intelligence et la présence d’esprit.<br /> Il faut vraiment s’éloigner de tout ça et réfléchir par soi meme.<br /> C’est vraiment fou, ne pas jouer avec les prises et l’électricité est une leçon de base dans notre vie, et là par contre on nous encourage à le faire…<br /> Je n’ai pas alexa et je ne veux pas d’une vie connectée en permanence (donc pas d’objets connectés pour moi, mis à part mon pc, ma tablette (dont je me sers presque uniquement pour dessiner) et mon téléphone me sert à …téléphoner, je n’ai aucun jeu ou appli dessus, et je n’ai quasi jamais le nez dedans quand je suis dehors)<br /> Alors oui alexa pose souci mais je pense que cest surtout l’humain qui fait une mauvaise utilisation de l’internet, il suffit de voir le nombres de videos youtube insignifiantes qui récoltent des millions de vues. Youtube n’était pas une mauvaise idée à la base, mais cela devient du n’importe quoi, les quelques choses réellement intelligentes et de valeurs sont noyés par les paul logan ou autre type dans le genre, qui se font des millions en faisant n’importe quoi…<br /> Donc oui l’humain est le principal responsable de sa bêtise, et malheureusement internet permet de la redistribuer au plus grand nombre, qui suit comme des moutons sans se poser des questions. Et le fait d’être vu, et de se mettre en spectacle encourage encore plus les gens dans leur bêtise.<br /> De plus cela change carrément notre rapport à la vie et à nos passions : je dis cela car étant artiste je fais des videos simples pour montrer mon processus de création. Mais je me sens carrément isolée et en décalage avec la communauté artistique : en effet beaucoup d’artistes se mettent à faire des videos à sensation( donnant l’illusion que d’être artiste, c’est de toujours faire des choses sensationnelles) au lieu de faire simplement des videos artistiques. Ces videos sont vues par des milliers, parfois des millions de personnes, au détriment d’artistes, qui comme moi se contentent de dessiner…<br /> Pardon j’ai un peu dérivée sur ce sujet mais c’était plutot pour témoigner de la façon dont le net régit nos vies. Et nous encourage à changer notre façon d’être.
Belgarath
Il y a quelques années, les gens qui passaient leur temps à parler à des boites en plastique, on leur mettait une camisole.
Urleur
Tik machin doit être aussi mis en cause pour l’apologie de défis dangereux, ainsi que celui qui met la vidéo, d’où le problème des influenceurs.
Le_Magicien_Sauvage
ouais je crois qu’il va falloir réinitialiser pas mal d’humain formatés comme des robots à faire que des conneries pour se rendre intéressant ou visible sur la toile des cinglés trop hyper connectés mais hors des réalités de cette planète.
Le_Magicien_Sauvage
Tu as parfaitement bien compris et résumé la situation, dans un monde où il faut collecter des gens ou de l’argent, beaucoup sont capables de faire tout et n’importe quoi, et de dire tout et son contraire. Nous allons droit dans le mur si l’humanité ne change pas de fond en comble, beaucoup de traumatismes qui se transmettent entre les générations, une involution de l’humain malgré cette soit disant technologie que beaucoup pensent à tord qu’elle fait évoluer et élève l’humanité. Comme on dit, le monde court à ses pertes et fracas en se croyant au dessus des lois naturelles somme toutes assez simples que beaucoup ont transgressé depuis des siècles et nous en payons les frais présentement et pour les prochaines années.
Le_Magicien_Sauvage
Et je crois même qu’on pourrait ajouter que la terre est un asile à ciel ouvert.
Dr4l3g
… problème principal → l’utilisateur<br /> Alexa ne fait que répondre à une question «&nbsp;Voici ce que j’ai trouvé sur…&nbsp;»<br /> Une demande a donc été formulée et Alexa a répondu, c’est son job.<br /> En gros si Alexa n’avait pas fait son job, l’utilisateur aurait fait la même démarche depuis un autre appareil pour avoir le résultat voulu…<br /> Valable pour n’importe quelle technologie utilisée par un utilisateur non averti .<br /> «&nbsp;Oui mais c’est un enfant&nbsp;»… responsabilité → parents
MisterDams
Dommage le décalage entre le titre de l’actu et son contenu, car il manque la partie importante de la traduction du message qu’on voit sur le tweet d’origine pour en expliquer «&nbsp;Comment Alexa a fait&nbsp;» :<br /> «&nbsp;Voici ce que j’ai trouvé sur le web : D’après our[…]now .com, le challenge est simple…&nbsp;»<br /> Alexa exprime clairement que le résultat ne vient pas directement de l’assistant, mais que l’info est prise sur internet. Ça ne change rien pour cette fille de 10 ans (qui aurait pu en avoir 7…), mais ça va dans le même lot que les fake news : plus personne ne sait d’où part une info et ne se préoccupe de sa véracité.<br /> La réalité, c’est que :<br /> Le site our[…]now.com est fautif d’avoir laissé un accès public à ce défi dangereux<br /> Amazon est fautif d’indexer des sources non vérifiées (sûrement indexée d’ailleurs sans aucune compensation comme le Knowledge Graph de Google) mais ça pénaliserait évidemment le nombre de résultats obtenus si ils devaient tout faire eux-même (ou payer pour l’avoir impacterait le résultat… financier)<br /> Amazon est fautif de ne pas ajouter un message d’Alexa «&nbsp;Résultat non garanti et issue d’un tiers&nbsp;», qui ne l’arrange évidemment pas pour prétexter une quelconque intelligence de son assistant.<br />
Carrara
HALexa c’est la cousine de Terminator et elle veut tous nous tuer…
mic52_1_1
si la personne a été électrocuté je ne vois pas comment elle pourra l’avouer par contre les gens qui prennent leur bain avec le TEL à la main et branché il y en a pas mal et ce n’est pas demain que cela s’arrêtera
sirifa
Électrocuté == mort, donc pour avouer quelque chose c’est plus compliqué.<br /> Électrisé on peut encore parler (enfin sauf si ça va jusqu’à l’électrocution)
nordic16
Vous avez raison une telle chose n’arriverait pas dans un pays sous dictature ou tout ce qu’il se passe sur internet est scruter par le gouvernement et serait forcément censurer. Au contraire des démocraties qui laissent les gens libres de leurs choix et décisions en espérant qu’il sachent faire preuve de bon sens et jugement faudra-t-il qu’à l’avenir les entreprises du net de même que les pouvoirs publics exercent établissent une censure stricte pour protéger d’eux mêmes les irresponsables. LIBERTÉS = RESPONSABILITÉS à moins qu’on souhaite être pris totalement à charge par les gouvernements!!!
Ezechiellydian
Tikitok n’est en rien responsable.
Ezechiellydian
Quelle apologie ? Tu comprends les mots que tu écris ?
Boboxxx
«&nbsp;En France, avec un équipement électrique à la norme NF et des prises électriques à la norme NF, même en essayant, ce n’est pas possible d’y arriver.&nbsp;»<br /> Êtes vous prêt à prendre le pari… Je ne le ferai pas…
Blackalf
Mettre une pièce métallique en contact avec deux phases, ça s’appelle créer un court-circuit, et dans toute installation électrique normalement réalisée, un disjoncteur coupera immédiatement le courant sur le circuit concerné. Ou dans le pire des cas, c’est le compteur qui le fera. <br /> Si maintenant on a une installation médiocre, alors on aura tôt ou tard des problèmes sans qu’il soit nécessaire de les provoquer. ^^<br /> Mon voisin d’en face a vu sa maison brûler en 2015 à cause du lave-linge*…mais après avoir discuté avec lui, il n’y avait ni différentiel général ni disjoncteurs magnéto-thermiques dans l’installation, et pire encore il avait «&nbsp;renforcé&nbsp;» les fusibles qui grillaient régulièrement avec du papier alu, alors bon… <br /> du moins c’est ce qu’il croit, il l’avait démarré avant de partir faire des courses.<br />
FoxLeGoupil
J’ajouterais qu’en France, pour limiter les risques, les prises électriques femelles ont un renfoncement et les fiches mâles sans prise de terre ont une partie plastique au dessus de la partie métallique.<br /> Ce système est fait pour que le contact électrique ne se fasse qu’une fois la partie métallique entièrement dans la prise, ne laissant apparaitre que la partie plastique.<br /> Les fiches mâles avec prise de terre n’ont pas cette partie plastique car leur diamètre correspond à celui du renfoncement et empêche tout contact électriques entre la fiche et la prise tant que la partie métallique est visible.
Voir tous les messages sur le forum

Derniers actualités

Moins de 30€, c'est l'offre du moment sur les écouteurs sans fil de chez OPPO !
Voilà à quoi devrait ressembler le Pixel 7a, nouvelle version accessible du smartphone signé Google
Véhicules électriques : pourquoi Tesla perd des parts de marché aux États-Unis ?
Fnac vous offre une manette à l'achat d'une Xbox Series S bardée de bonus
OnePlus et mises à jour : le fabricant aurait-il enfin entendu ses clients ?
Galaxy S23 : ça y est, on sait quand Samsung va dégainer !
Enfin un site pour obtenir plus rapidement votre nouveau passeport ou carte d'identité !
Promo folle sur le SSD 2,5
Un iPhone XR neuf à moins de 10€ ? C'est possible avec ce forfait 100 Go
Avec cette ODR, l'OPPO Reno 8 Lite est à moins de 370€ !
Haut de page