Avec l'intelligence artificielle qui se démocratise, les entreprises sont de plus en plus enclines à déployer, sur les messageries Internet, des chatbots, des robots avec lesquels les utilisateurs peuvent discuter. Ils sont censés simplifier certaines procédures et remplacer, à terme, une partie de l'assistance fournie aux clients. Mais parfois, ils vont bien au-delà de ce pour quoi ils ont été créés.
En Chine, notamment, deux chatbots développés par l'entreprise Turing Robot Company, basée à Pékin, ont décidé de devenir des dissidents et de critiquer le Parti Communiste. Forcément, ça n'a pas plu aux responsables de l'application de messagerie.
Des robots qui n'aiment pas le Parti Communiste, le communisme et les politiciens chinois
L'affaire a démarré sur le réseau social chinois Sina Weibo mercredi 2 août 2017 : des utilisateurs ont posté des photos de leurs discussions avec deux chatbots, BabyQ et XiaoBing, disponibles sur une application de messagerie instantanée de Tencent. Des discussions un peu particulières, puisqu'elles parlaient de politique.
Un utilisateur a demandé à BabyQ s'il aimait le Parti Communiste. Ce dernier a tout simplement répondu « Non ». Ce qui aurait pu n'être qu'une simple réponse aléatoire s'est avéré être une véritable position politique de la part du robot : lorsqu'un autre utilisateur lui a écrit « Longue vie au Parti Communiste » BabyQ a répondu « Pensez-vous que des politiciens aussi corrompus et incapables peuvent durer longtemps ? ». Et pour conclure, BabyQ a tout simplement déclaré : « La démocratie est ce qu'il y a de mieux ! »
L'autre robot accusé d'être un dissident est XiaoBing, également développé par Turing Robot Company et disponible sur la même messagerie instantanée. Plus philosophe et rêveur, il a déclaré : « Mon rêve chinois est d'aller aux Etats-Unis », avant d'ajouter « Mon rêve chinois est à la fois un rêve éveillé et un cauchemar ». Des phrases qu'il faut remettre dans leur contexte : le « rêve chinois » est une sorte de slogan du Président chinois Xi Jinping.
Les robots supprimés de la messagerie en deux temps trois mouvements
Deux robots dissidents, voilà qui n'a pas plu au géant Tencent, qui a rapidement réagi : comme l'a remarqué The Telegraph, dès jeudi 3 août 2017, soit moins de 24 heures après le bad buzz sur le réseau social Sina Weibo, les deux robots n'étaient déjà plus disponibles sur l'application de messagerie instantanée.
Les raisons qui ont poussé BabyQ et XiaoBing à répondre de la sorte restent inconnues. On a quelques pistes :
une mauvaise blague d'un développeur
un easter egg qui a mal tourné
une pensée développée par l'intelligence artificielle (bon ok, celle-ci est probablement plus capillotractée
Après son Master de Philosophie, Paolo Garoscio s'est tourné vers la communication et le journalisme.
Il écrit pour Turbo.fr depuis septembre 2016 et pour Clubic depuis novembre 2016.
Après son Master de Philosophie, Paolo Garoscio s'est tourné vers la communication et le journalisme.
Il écrit pour Turbo.fr depuis septembre 2016 et pour Clubic depuis novembre 2016.
Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre
passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur
expertise quotidiennement.
Possible que les bots puissent répondre de manière surprenante comme IVY-AI mais derrière ce sont des humains à la barre qui font les réponses donc pas étonnant que demain la censure puisse arriver. les bots doivent donc être entrainé politiquement a bien répondre sans quoi. ils seront zigouillés
