le jeudi 03 août 2017

La Chine supprime deux chatbots… anticommunistes

Avec l'intelligence artificielle qui se démocratise, les entreprises sont de plus en plus enclines à déployer, sur les messageries Internet, des chatbots, des robots avec lesquels les utilisateurs peuvent discuter. Ils sont censés simplifier certaines procédures et remplacer, à terme, une partie de l'assistance fournie aux clients. Mais parfois, ils vont bien au-delà de ce pour quoi ils ont été créés.

En Chine, notamment, deux chatbots développés par l'entreprise Turing Robot Company, basée à Pékin, ont décidé de devenir des dissidents et de critiquer le Parti Communiste. Forcément, ça n'a pas plu aux responsables de l'application de messagerie.

Des robots qui n'aiment pas le Parti Communiste, le communisme et les politiciens chinois


L'affaire a démarré sur le réseau social chinois Sina Weibo mercredi 2 août 2017 : des utilisateurs ont posté des photos de leurs discussions avec deux chatbots, BabyQ et XiaoBing, disponibles sur une application de messagerie instantanée de Tencent. Des discussions un peu particulières, puisqu'elles parlaient de politique.

Un utilisateur a demandé à BabyQ s'il aimait le Parti Communiste. Ce dernier a tout simplement répondu « Non ». Ce qui aurait pu n'être qu'une simple réponse aléatoire s'est avéré être une véritable position politique de la part du robot : lorsqu'un autre utilisateur lui a écrit « Longue vie au Parti Communiste » BabyQ a répondu « Pensez-vous que des politiciens aussi corrompus et incapables peuvent durer longtemps ? ». Et pour conclure, BabyQ a tout simplement déclaré : « La démocratie est ce qu'il y a de mieux ! »

L'autre robot accusé d'être un dissident est XiaoBing, également développé par Turing Robot Company et disponible sur la même messagerie instantanée. Plus philosophe et rêveur, il a déclaré : « Mon rêve chinois est d'aller aux Etats-Unis », avant d'ajouter « Mon rêve chinois est à la fois un rêve éveillé et un cauchemar ». Des phrases qu'il faut remettre dans leur contexte : le « rêve chinois » est une sorte de slogan du Président chinois Xi Jinping.

AI chatbot bot ban


Les robots supprimés de la messagerie en deux temps trois mouvements


Deux robots dissidents, voilà qui n'a pas plu au géant Tencent, qui a rapidement réagi : comme l'a remarqué The Telegraph, dès jeudi 3 août 2017, soit moins de 24 heures après le bad buzz sur le réseau social Sina Weibo, les deux robots n'étaient déjà plus disponibles sur l'application de messagerie instantanée.

Les raisons qui ont poussé BabyQ et XiaoBing à répondre de la sorte restent inconnues. On a quelques pistes :
  • une mauvaise blague d'un développeur
  • un easter egg qui a mal tourné
  • une pensée développée par l'intelligence artificielle (bon ok, celle-ci est probablement plus capillotractée
Et vous, quelle est votre théorie ?

Modifié le 03/08/2017 à 09h52
Commentaires