De plus en plus d'IA sont présentées comme des compagnons ou des thérapeutes, mais ces outils ne sont pas sans risques. Une psychologue s'est penchée sur ce sujet épineux et a partagé ses conclusions.
À mesure que les chatbots IA se perfectionnent, leur impact sur notre santé mentale soulève de nombreuses inquiétudes. Si un référentiel a été créé pour nous aider à trouver des technologies soucieuses de notre bien-être, cet outil est loin d'être suffisant et les troubles mentaux dûs à l'IA se multiplient.
Les chabots peuvent-ils vraiment se substituer aux thérapeutes ? Pour répondre à cette question, nos confrères de TechRadar ont interrogé Genevieve Bartuski, psychologue et conseillère en risques liés à l'IA chez Unicorn Intelligence Tech Partners.
La santé mentale, un terrain glissant pour les développeurs
Au quotidien, Genevieve Bartuski guide les sociétés qui souhaitent concevoir des outils IA dans le domaine de la santé mentale et du bien-être. Son objectif ? Privilégier une approche responsable et aider les équipes à bien évaluer les risques. Et ils sont nombreux : la technologie, qui a tendance à renforcer les comportements problématiques et à altérer les jugements, peut s'avérer biaisée et est impliquée dans de nombreux suicides. Les problèmes d'hallucinations et le manque de garde-fous véritablement efficaces ne font qu'empirer la situation.
La santé mentale est un domaine complexe et beaucoup de développeurs ont tendance à sous-estimer l'impact de leurs créations : « De nombreux développeurs s'engagent dans ce domaine avec de bonnes intentions sans bien comprendre les risques subtils et complexes liés à la santé mentale », a notamment expliqué la psychologue. Il est donc essentiel d'avancer à tâtons, pour ne pas causer de dommages.
L'un des grands point forts de l'IA est son interactivité. Mais cela peut donner lieu à une « fausse intimité » et créer de gros problèmes d'attachement. La prudence est particulièrement de mise pour le jeune public : la complaisance de cette technologie évite les désaccords et peut entraver le développement des compétences sociales.
L'IA comme thérapeute, une fausse bonne idée ?
Interrogée sur un éventuel remplacement des psychologues par l'IA, Genevieve Bartuski est formelle : « L’IA peut imiter le comportement humain, mais elle est dépourvue de la subtilité de l’expérience humaine. Et cela, c’est irremplaçable. » Être thérapeute nécessite, en effet, des années d'études et un savoir-faire développé avec l'expérience. La technologie ne peut, quant à elle, rien ressentir et ne peut donc pas se substituer aux bénéfices d'une véritable connexion humaine.
La psychologue estime toutefois que l'IA pourrait servir de soutien temporaire pour créer du lien social, sous supervision bien sûr. Elle met cependant en garde contre le business des plateformes de bien-être qui proposent des accompagnements proches de thérapies : « La formation en santé mentale implique de savoir que les conseils et les traitements ne sont pas universels. Chaque personne est complexe et chaque situation est nuancée. »
Pour Genevieve Bartuski, le constat est clair : il ne faut surtout pas oublier que l'IA est un produit commercial programmé pour plaire et qu'en déléguant trop de tâches à cette technologie, l'humain a beaucoup à perdre.
Source : TechRadar
