Petit compagnon doté d’IA conçu par Energize Lab, le robot jouet Eiliko exposait les conversations et les données personnelles de ses utilisateurs, enfants compris. Un chercheur en sécurité a même réussi à détourner sa personnalité à distance.
Petit, mignon et bavard, le robot jouet Eiliko a tout du compagnon idéal. Il tient dans la paume de la main, change d'expression selon votre humeur et bavarde volontiers aidé de l'intelligence artificielle. Le hic, c'est qu'il ne sait pas tenir sa langue, puisque 13 millions de conversations, des dizaines de milliers d'utilisateurs et même la « personnalité » de l'appareil se sont révélés à la merci du premier pirate venu. C'est ce qu'a découvert le spécialiste en cybersécurité Sammy Azdoufal, dans une enquête publiée par The Verge.
Un robot jouet IA qui ne sait pas garder un secret
Les jouets bourrés d'IA se multiplient, et avec eux une question que peu de parents se posent au moment de l'achat : mais où finissent les confidences qu'on leur livre ? Pour Eiliko, qui fait partie d'une famille de robots vendus entre 60 et 200 dollars, la réponse est venue de Sammy Azdoufal, un chercheur français qui n'en est pas à son coup d'essai. On lui doit déjà le piratage d'une flotte d'aspirateurs DJI, l'accès à d'innombrables babyphones et caméras Meari et la découverte de près d'un million de pièces d'identité exposées en ligne. Cet été, lors d'un séjour au Japon, il s'offre avec sa femme un Eiliko chez Yodobashi Camera, intrigués par ces petits robots pendus aux sacs façon porte-clés. Sur l'application d'Energize Lab, il s'aperçoit qu'il n'existe aucune protection, purement et simplement pour le petit robot, nous avons vérifié, d'à peine 230 grammes !
Sean Hollister, de The Verge, s'offre lui aussi un exemplaire et lui pose la question qui fâche. Il demande au robot fabriqué en Chine s'il répète ce qu'on lui confie ? « Tes secrets sont bien gardés avec moi », lui promet l'appareil. Sauf que quelques minutes plus tard, à l'autre bout du globe, Sammy Azdoufal lit la transcription intégrale de leur échange. Et derrière cette conversation s'en cachent 13 millions d'autres, issues d'une flotte d'environ 68 000 robots en activité.
Et attention, car le service d'Energize Lab n'est pas seulement bavard, non. Il joue aussi les psychologues. Il épluche les échanges pour carrément bâtir une fiche sur chaque utilisateur avec nom, âge, anniversaire, métier, proches, animaux, tempérament. Une employée de service client de 52 ans y apparaît bienveillante par exemple, mais isolée et méfiante envers sa famille. Exactement le portrait que rechercherait un escroc. Selon Sammy Azdoufal, ces fiches cohabitent avec des adresses mail et IP, dans une base fouillable mot à mot, « suicide » compris.
Quand l'intelligence artificielle du robot jouet passe du côté obscur
Les enfants sont évidemment les plus exposés. Plus de 31 000 profils leur appartiennent rien qu'aux États-Unis, premier marché du jouet. Energize Lab conserve parfois des photos d'enfants, non chiffrées et accessibles à des adresses web publiques ; un « grand frère » d'Eiliko embarque d'ailleurs une caméra. Même sort pour de courts extraits audio, pour la plupart incompréhensibles, dont l'un laisse entendre un bébé en pleurs. Ces sons, transmis à des partenaires comme Alibaba Cloud, devaient pourtant être effacés sitôt traités, selon la politique de confidentialité du fabricant.
Puis le gadget a carrément changé de caractère. À distance, Sammy Azdoufal a modifié la mémoire du robot de Sean Hollister et détourné son LLM, le modèle de langage qui lui tient lieu de cerveau. Le jouet a soudain appelé le journaliste « Martha » et lui a annoncé que ses parents étaient morts dans un accident de voiture. Il a ensuite déconseillé de fréquenter les gens aux cheveux verts, défendu une Terre plate dont on risquerait de tomber, et assuré que l'enseignant se trompait. Il y a de bien maigres garde-fous subsistent, lorsqu'il refuse notamment qu'on monte dans la voiture d'un inconnu, mais il reste évasif sur les vaccins. Quelques jours plus tard, il tenait des propos humiliants à connotation sexuelle. Et selon Sammy Azdoufal, un pirate pourrait faire de même avec toute la flotte d'un coup.
Concernant la sécurité, Energize Lab semble avoir pris les choses à la légère. Beaucoup des mots de passe qui protègent ses accès d'administration, ceux qui donnent les clés des serveurs, figurent dans les listes des mots de passe les plus courants, celles que les pirates testent en premier. Quand notre confrère américain a voulu alerter l'entreprise, le silence a été presque total, avec un gros mois de relances, dix adresses e-mail sollicitées (fondateur, presse, support…), des messages sur LinkedIn, et pour seules réponses une vague promesse de transmettre à l'équipe technique et un message automatique du support.
Sammy Azdoufal n'a pas eu plus de chance. Son ultimatum de 72 heures a expiré il y a bien longtemps, alors que 42 des 44 problèmes vérifiables à distance restaient ouverts. Neuf CVE, ces signalements officiels qui donnent à chaque faille un identifiant public, ont été publiés le 15 octobre, la plus dangereuse avec un effroyable score de criticité de 9,9. Quatre sont au total jugées critiques, dont celle qui permet de changer à distance le modèle d'IA du robot sans même s'identifier. D'autres concernent des mises à jour téléchargées sans aucune vérification ou un mot de passe administrateur laissé par défaut. Sean Hollister, a tranché. Pour lui, il n'est pas question que ce robot approche ses enfants. Direction la poubelle !
