Voilà qui devrait calmer les ardeurs des aficionados de l’IA. Air Canada a tout récemment débranché un chatbot qui racontait n’importe quoi sur les politiques de promotions de l’entreprise.
Novembre 2022. Après le décès de sa grand-mère, Jake Moffat, citoyen canadien habitant à Vancouver, se rend sur le site de Air Canada pour réserver un vol jusqu’à Toronto afin d’assister aux obsèques. Durant le processus de réservation, l’homme demande au chatbot présent sur la page du site comment profiter du tarif préférentiel réservé aux personnes endeuillées. Le petit agent conversationnel lui indique que pour obtenir un remboursement il suffit de le demander dans les 90 jours suivant l’achat. Problème, cette marche à suivre est complètement bidon et une hallucination totale de la part du chatbot.
Justice : 1 - IA : 0
Logiquement donc, une fois la demande de remboursement envoyé par Jake Moffat, Air Canada ne l’honore pas, indiquant que les conditions de promotions des vols « pour urgence familiale » sont clairement détaillées sur la page vers laquelle pointait le chatbot et que l’interprétation qui en a été faite par le robot conversationnel était erronée. Bien décidé à ne pas se faire avoir à cause d’une hallucination logicielle, Jake Moffat poursuit Air Canada en justice dans son pays pour, malgré tout, obtenir le remboursement qui lui a été promis.
Depuis quelques jours, les Boeing 737 Max 9 ne sont pas épargnés par les problèmes techniques…
Lire la suite
Malgré une vaillante tentative de justification basée sur l’argument que « le chatbot est une entité juridique distincte qui est responsable de ses propres actions », Air Canada n’a pas réussi à convaincre la justice et a dû rembourser une partie du billet de Jake Moffat ainsi que les frais de justice engagés par l’homme endeuillé.
Le chatbot n'est pas une entité juridique à part
Dans la décision de justice publiée par les autorités canadiennes, la cour indique que la défense d’Air Canada est proprement « incroyable » et que l’entreprise est évidemment responsable de « toutes les informations publiées sur son site, qu’elles viennent d’une page web statique ou d’un chatbot. » La justice estime en effet qu’il n’était nulle part indiqué le besoin de croiser des informations obtenues sur une page du site via une autre page du même site, d’autant plus qu’il n’y avait aucun moyen de savoir laquelle des informations données était la plus crédible.
Comme l’a remarqué Ars Technica, le chatbot d’Air Canada a depuis été désactivé malgré les déclarations grandiloquentes du patron de l’entreprise en mars dernier, qui assurait que cette technologie allait « améliorer l’expérience utilisateur ». Raté donc.
En 2023, le paysage des chatbots en français s'est considérablement étoffé, boosté par l'essor de l'intelligence artificielle. Autrefois, ces assistants étaient rationnés à des questions et réponses prédéfinies. Mais maintenant, grâce à des avancées comme celles de ChatGPT, il est possible de poser n'importe quelle question et d'obtenir des réponses pertinentes générées en temps réel.
Lire la suite
Source : Ars Technica
Journaliste depuis quasiment 10 ans, j’ai écumé le secteur de la tech et du numérique depuis mes tout premiers chapôs. Bidouilleur (beaucoup), libriste (un peu), j’ai développé une spécialisation sur les thèmes de l’écologie et du numérique ainsi que sur la protection de la vie privée. Le week-end je torture des Raspberry Pi à grands coups de commandes 'sudo' pour me détendre.
Lire d'autres articles
