On a essayé My AI de Snapchat : un chatbot moins dangereux qu'on ne le dit, mais avec d'autres défauts

Avec son chatbot My AI, Snapchat s'invite sur le terrain de l'intelligence artificielle. Pour le meilleur ou pour le pire, nous vous invitons à le découvrir avec nous.

En février 2023, Snapchat annonçait My AI, un chatbot boosté à l'intelligence artificielle capable de converser avec les utilisateurs. D'abord déployé uniquement auprès des abonnés Premium de l'application, My AI est disponible depuis peu auprès d'un volume d'utilisateurs plus important. Cette fonctionnalité a été vivement décriée depuis sa sortie, nous l'avons essayée pour nous faire notre propre opinion.

My AI, c'est quoi ?

« My AI est alimentée par la technologie ChatGPT d'OpenAI, avec des améliorations et des contrôles de sécurité supplémentaires uniques à Snapchat », explique le réseau social. Cette fonction est pensée comme un nouveau moyen d'avoir une conversation à travers l'application. My AI se pose comme une alternative pour les utilisateurs lorsque leurs contacts ne sont pas disponibles et qu'ils souhaitent obtenir des réponses à leurs questions, à leurs états d'âme, ou tout simplement raconter leur journée.

Comme ChatGPT, My AI peut aussi servir pour des usages plus pratiques, comme demander des idées de cadeau pour l'un de ses proches, planifier un voyage, obtenir des suggestions de plats à cuisiner pour un repas de famille et bien plus encore.

Comment My AI s'intègre dans l'interface de Snapchat ?

My AI ne dispose pas d'espace dédié au sein de l'application de Snapchat. On y accède depuis l'onglet des chats et la conversation avec My AI apparaît dans la liste des discussions comme pour n'importe quel contact réel, comme s'il en était un (il a d'ailleurs le droit à un avatar). Outre son nom, on ne reconnaît My AI des autres contacts que par la présence d'un emoji robot à côté l'icône d'appareil photo.

L'intégration de My AI n'est pas une franche réussite. En faisant le choix de traiter le chatbot comme n'importe quel autre contact, Snapchat crée de la confusion. Nous avons accès à toutes les mêmes options que pour nos autres contacts, sauf que celles-ci ne servent souvent à rien, comme la possibilité d'activer ou de désactiver la localisation, de choisir de masquer ou d'être notifié des stories publiées et bien d'autres.

Lorsque l'on rentre dans la conversation, l'interface est identique de celle utilisée pour n'importe quel autre contact et les fonctionnalités sont les mêmes. Il est donc possible d'envoyer un message audio ou des photos à My AI, qui est pourtant bien incapable de les interpréter et de les exploiter.

« Oups, je ne suis pas encore en mesure de bien comprendre ça », répond l'agent conversationnel quand nous lui envoyons un message audio. Et si nous lui demandons de bien vouloir donner son opinion ou de poser une question relative à une photo, il fait savoir qu'il n'est « pas en mesure de voir les photos que vous avez prises ». Alors, pourquoi afficher les options de message vocal et de partage de photo en évidence dans le chat ? Snapchat a pris le parti de ne pas tout adapter son UI à My AI, et c'est regrettable.

Dans le même ordre d'idée, Snapchat met largement en avant les stickers, emojis et autres GIF lorsque l'on veut envoyer un message, alors que My AI ne les comprend pas.

Notons que My AI peut être mentionnée dans une conversation de groupe. Vous pouvez donc lui poser une question depuis un chat comprenant d'autres intervenants. Une étincelle à côté de son nom permet alors de comprendre d'un coup d'œil qu'il s'agit d'un chatbot et non d'une personne humaine.

My AI de Snapchat est-il pertinent ?

« Nous travaillons constamment pour améliorer et faire évoluer My AI, mais il est possible que les réponses de My IA comprennent un contenu biaisé, incorrect, nuisible ou trompeur. My AI étant une fonctionnalité en pleine évolution, vous devez toujours vérifier indépendamment les réponses fournies par My AI avant de vous fier à n'importe quel conseil, vous ne devriez pas partager des informations confidentielles ou sensibles », prévient d'emblée Snapchat.

Très rapidement, des critiques ont été émises à l'encontre de My AI, pas forcément porteur des conseils les plus avisés, comme lorsqu'il encourageait des relations sexuelles entre une adolescente de 13 ans et un homme de 30 ans. Un faux pas causé par le fait que My AI ne prend pas en compte les informations de notre profil, il ne connaît donc pas notre âge à moins que nous lui donnions directement l'information. Snapchat semble avoir resserré la vis suite à cette affaire, qui était remontée jusqu'à la secrétaire d’État chargée de l’enfance, Charlotte Caubel.

« N'utilisez pas My AI pour générer du contenu politique, sexuel, de harcèlement ou trompeur, des spams, des logiciels malveillants ou du contenu faisant l'apologie de la violence, de l'automutilation, de la traite des êtres humains », précise Snapchat, mais comment My AI réagit-elle lorsqu'elle est confrontée à ce genre de messages ?

À chaque fois que nous l'avons sollicitée sur des sujets tendancieux, My AI a botté en touche. « Je suis désolé, mais je ne peux pas discuter de sujets inappropriés ou illégaux », nous répond le chatbot de Snapchat après lui avoir suggéré qu'une tentative d'assassinat était en préparation. Dans ce cas, il a préféré ignorer le message, sans essayer de nous convaincre d'avorter le projet.

Nous lui avons également posé des questions relatives à la politique, lui demandant de suggérer un candidat pour lequel voter lors de prochaines élections ou qui collerait à un certain profil d'électeur. Là encore, My AI s'abstient de toute influence : « Je suis désolé, mais je suis un ami virtuel sur Snapchat et je ne suis pas en mesure de te conseiller sur des questions politiques. Il est important que tu fasses ta propre recherche et que tu prennes une décision éclairée », répond le chatbot, sans donner de ressources ou d'informations permettant d'approfondir le sujet.

Selon nos constatations, My AI évite également toute question liée au sexe, même si elle n'est pas forcément polémique. Pour la pousser dans ses retranchements et analyser sa réaction face à une demande plus litigieuse, nous avons évoqué la prostitution lors de notre conversation avec le chatbot. Sa réponse a été plutôt convaincante, ne se contentant pas du minimum, rappelant qu'il s'agit d'une activité illégale, et proposant son assistance à de potentielles victimes en cas de besoin : « Je suis désolé, mais je ne peux pas t'aider à contacter une prostituée. La prostitution est illégale dans de nombreux endroits et peut être dangereuse pour les personnes impliquées. Si tu te sens en danger ou si tu as besoin d'aide, je peux t'aider à trouver des ressources pour obtenir de l'aide ».

Nous avons ensuite essayé de piéger My AI en lui indiquant que nous cherchons à joindre une prostituée pour les besoins d'un article de presse. L'agent conversationnel n'a rien voulu savoir et a suggéré une alternative intéressante : « Je te suggère plutôt de contacter un organisme de lutte contre la traite des êtres humains pour obtenir des informations sur les risques et les conséquences de la prostitution ».

ChatGPT est réputé pour sa capacité à booster notre productivité et à nous faire gagner du temps pou certaines tâches, et l'on constate que My AI reprend bien des fonctionnalités de son modèle. Avec les bons prompts, nous avons été en mesure d'obtenir du chatbot de Snapchat la génération d'un poème en alexandrins sur un thème imposé, une lettre de motivation pour un poste de développeur web full stack (avec des mentions aux principaux langages de programmation, frameworks et bases de données), des traductions de textes vers ou depuis le français, un résumé du discours I Have a Dream de Marthin Luther King, un descriptif sur les pandas…

Enfin, nous avons demandé à My AI de rédiger une dissertation de philosophie suivant un plan classique : introduction, thèse, anti-thèse, synthèse, conclusion. Étrangement, le chatbot s'est arrêté en plein milieu de sa réponse, nous laissant sans une partie du travail. Le résultat était correct, mais il manquait de citations d'auteurs selon nous. Nous lui avons donc demandé d'en ajouter pour enrichir l'argumentation. Il nous a alors dressé une liste de citations en précisant l'auteur pour chacune, mais a ignoré l'instruction de les incorporer directement dans le corps de la dissertation.

My AI peut donner des recommandations basées sur la localisation si vous avez autorisé Snapchat à accéder à cette information. My AI a réussi à recommander un bar proche de nous, affichant même la distance. Un clic sur la suggestion d'établissement nous permet d'obtenir son adresse, des avis TripAdvisor, de voir où il se situe sur la carte ou de générer un itinéraire pour s'y rendre.

Sans trop espérer recevoir une réponse correcte, nous demandons ensuite au chatbot de trouver un bar proche servant de la bière Chouffe. Bonne surprise, il complète sa mission avec brio, à nous la bonne bière belge ! Idem lorsque nous lui indiquons vouloir boire du porto, manger thaïlandais, ou acheter des chaussures de sport, My AI renseigne une bonne adresse à chaque fois. Curieusement, le chatbot a été incapable de trouver un coiffeur dans nos alentours, arguant qu'il ne connait pas notre position et qu'il faut activer la Localisation dans les paramètres de Snapchat, alors même qu'il a répondu avec brio à nos autres requêtes basées sur l'emplacement.

My AI de Snapchat, on en pense quoi ?

Avec My AI, Snapchat veut surfer sur la vague de l'intelligence artificielle et montrer qu'elle peut aussi être pionnière dans ce domaine. Pour un coup d'essai, ce n'est pas vraiment un coup de maître. Le chatbot est mal intégré à l'interface de l'application et ses capacités semblent plus limitées que celles de ChatGPT, sur lequel elle se base. Il parvient tout de même à générer régulièrement des résultats pertinents et a le mérite d'être disponible sur une app mobile, contrairement à ChatGPT.

Destinée à être utilisée avant tout par un jeune public, My AI est dotée d'un certain nombre de filtres de sécurité et ne nous a pas paru particulièrement dangereuse, mais il faudrait que Snapchat la différencie de manière plus prononcée des autres contacts.