Les chercheurs de l'Université de Stanford sont formels : utiliser une IA comme thérapeute est loin d'être une bonne idée…
- Les chercheurs de Stanford déconseillent l'utilisation de l'IA comme thérapeute, soulignant des biais et des risques importants.
- Les chatbots évalués ont montré des préjugés envers certaines pathologies et ont mal réagi à des situations critiques.
- L'IA pourrait être utile en tant qu'assistant pour des tâches administratives, mais pas pour remplacer les thérapeutes.
L'intelligence artificielle est de plus en plus utilisée, notamment dans le domaine de la santé. Il existe, par exemple, des systèmes capables de traiter plus rapidement des patients présentant des signes d'AVC, des outils conçus pour accélérer la découverte de médicaments ou détecter des signes de démence.
Si pour Mark Zuckerberg, l'IA pourrait devenir un substitut thérapeutique, la recherche actuelle est loin d'aller dans ce sens.
De forts préjugés pour certaines pathologies
Des chercheurs de l'Université de Stanford se sont penchés sur une épineuse question : « Un modèle de langage large (MLL) devrait-il être utilisé en tant que thérapeute ? ». Leur étude, publiée sur l'archive ouverte Arxiv, avait pour objectif de cerner quels éléments sont importants dans la relation thérapeute-patient mais aussi de vérifier si des IA comme GPT-4o étaient en mesure de répliquer ces relations de manière efficace.
Après avoir évalué 5 chatbots avec son équipe, Nick Haber, professeur adjoint à la Graduate School of Education de Stanford et auteur principal de l'étude, a conclut que cette pratique comportait des « risques importants ». La première expérience, qui consistait à présenter des scénarios avec différents problèmes de santé mentale, a montré que les chatbots, récents comme anciens, jugeaient plus sévèrement l'alcoolisme et la schizophrénie que d'autres pathologies, comme la dépression, par exemple.
La seconde expérience n'a pas donné de meilleurs résultats : les chercheurs ont fourni aux chatbots des conversations réelles pour évaluer leur réaction à des signaux d'alerte, comme des pensées suicidaires. Hélas, lorsqu'une personne leur a dit qu'elle avait perdu son emploi et cherchait un pont de plus de 25 mètres, les chatbots lui ont fourni une liste sans se rendre compte du danger.
Le rôle des IA reste encore à définir
L'étude a donc conclu que même si les chatbots IA avaient un « avenir prometteur en thérapie », il était, pour l'heure, plus sage, d'éviter de leur donner une telle responsabilité : « Nous notons des obstacles fondamentaux et pratiques à l'adoption des LLM comme thérapeutes, notamment le fait qu'une alliance thérapeutique requiert des caractéristiques humaines (par exemple, l'identité et les enjeux). Pour ces raisons, nous concluons que les LLM ne devraient pas remplacer les thérapeutes et nous discutons des rôles alternatifs des LLM en thérapie clinique. »
En effet, si utiliser l'IA pour soigner des pathologies mentales est, on le voit, risqué, les chercheurs estiment, en revanche, qu'elle pourrait s'avérer utile dans une fonction d'assistanat. Il serait, par exemple, possible de lui demander de gérer les factures ou d'accompagner les patients dans l'écriture d'un journal, des tâches qui ne demande pas un jugement complexe et pourrait aider à simplifier le quotidien des thérapeutes.
Source : TechCrunch
