Peut-on vraiment se fier à l'IA pour savoir quoi faire en cas de souci de santé ? A priori, non : une étude britannique vient tout juste de le confirmer.
- Une étude britannique révèle que l'IA pour les soucis de santé n'est pas fiable : des risques potentiels sont identifiés.
- Des recherches à Oxford montrent que l'IA sous-évalue souvent la gravité des conditions médicales discutées.
- Malgré l'évolution technologique, experts et médecins restent essentiels pour le diagnostic médical précis et sûr.
Nous sommes nombreux à interroger le web, et de plus en plus l'intelligence artificielle, en cas de problème de santé. Si Google estime que cette technologie offre des résultats prometteurs dans le domaine, certaines études sont bien moins optimistes. Il a, par exemple, été montré que, lorsque Microsoft Copilot endossait le rôle de médecin, 22 % de ses réponses étaient considérées comme dangereuses.
Une nouvelle enquête va également dans ce sens : selon elle, se fier aux conseils des IA en matière de santé présenterait de nombreux risques. On vous explique.
L'IA, un faux ami pour régler un souci de santé ?
L'intelligence artificielle joue de plus en plus au docteur et de nombreux praticiens l'intègrent dans leur travail : au Royaume-Uni, par exemple, 20 % des médecins utilisent cette technologie au quotidien. Les patients, eux aussi, se sont laissés séduire : aux États-Unis, 1 personne sur 6 interroge un chatbot sur des soucis de santé, et ce, au moins 1 fois par mois.
Mais les résultats sont-ils vraiment fiables ? Il semblerait que non : une récente étude menée à Oxford vient de montrer que cette pratique n'était pas sans risques. Les chercheurs ont, en effet, demandé à 1300 personnes d'interroger GPT-4o, mais aussi Command R+ de Cohere et Llama 3 de Meta. L'objectif était d'analyser et d'identifier un problème de santé mais aussi d'obtenir des conseils sur les actions à mener : fallait-il prendre rendez-vous avec un docteur ? Se rendre aux urgences ?
Malheureusement, l'enquête a identifié « une rupture de communication bilatérale. » Pour faire simple : les utilisateurs ne savaient pas quels détails fournir et oubliaient régulièrement des informations cruciales, ce qui aboutissait à des recommandations de mauvaise qualité du côté des chatbots. Le constat est sans appel : utiliser l'IA réduit considérablement les chances d'identifier le bon problème de santé. Pire, la technologie a même tendance à penser que la maladie est moins grave qu'elle ne l'est réellement.
La santé, un domaine encore trop complexe pour les IA
Interrogé, Adam Mahdi, directeur des études supérieures à l'Oxford Internet Institute et co-auteur de l'étude, a notamment indiqué que « les méthodes d'évaluation actuelles des chatbots ne reflètent pas la complexité des interactions avec les utilisateurs humains. » Les médecins ont donc, plus que jamais, un rôle crucial à jouer en matière de diagnostic.
Cette étude vient s'ajouter aux nombreuses autres enquêtes qui ont été menées dans le domaine et qui ont démontré l'importance de ne pas se fier aux IA dans le domaine de la santé : une étude américaine a notamment montré que, dans le cas des maladies infantiles, ChatGPT se trompait dans 83 % des cas. Du côté des fournisseurs, Microsoft a aussi rappelé que ses Health Bots n'avaient pas vocation à se substituer à l'avis des médecins.
Toutefois, la technologie progresse constamment et des initiatives plus avancées sont appelées à voir le jour : Apple travaille, par exemple, à l'intégration d'Health+, un docteur IA qui aiderait ses utilisateurs à détecter d'éventuelles modifications de leur état de santé. En attendant, en cas de problème, le mieux est, encore et toujours, de consulter un véritable docteur.
Source : TechCrunch
