Une étude qui n'existe pas, une citation inventée, une information fausse présentée comme une évidence… Les chatbots peuvent se tromper avec une assurance déconcertante. Mais d'où viennent ces hallucinations, et peut-on vraiment espérer s'en débarrasser ?
Février 2023. Google s'apprête à présenter Bard, son tout nouveau chatbot, bien décidé à faire de l'ombre à ChatGPT. L'ambiance est à la fête, l'intelligence artificielle promet des merveilles et le géant de Mountain View compte bien prouver qu'il n'a aucune leçon à recevoir d'OpenAI. Pour impressionner son monde, il publie une petite démonstration dans laquelle Bard répond à une question sur les découvertes du télescope spatial James-Webb. Et là, patatras. L'IA affirme tranquillement que l'instrument a réalisé les premières photographies d'une exoplanète. Sauf que ces images existent déjà depuis 2004, et qu'elles ont été prises par le Very Large Telescope de l'Observatoire européen austral. Dix-neuf ans d'écart et pas la bonne référence : de tous les scénarios catastrophes envisageables pour cette présentation, Google venait de cocher le plus embarrassant. Avec panache.
À son corps défendant, l'entreprise venait d'offrir une illustration éclatante d'un phénomène qui allait bientôt faire tourner en bourrique les utilisateurs et utilisatrices d'IA générative : l'hallucination. Car Bard ne s'était pas juste trompé. Il avait énoncé une information fausse comme une évidence, avec tout l'aplomb d'un astrophysicien. Alors, comment des modèles entraînés sur d’immenses quantités de données, auxquels on prête volontiers un savoir encyclopédique, peuvent-ils inventer des faits de toutes pièces ? Et pourquoi ne semblent-ils pas toujours capables de reconnaître leurs erreurs ?
Une hallucination, c'est quoi exactement ?
Dans le domaine de l'intelligence artificielle, une hallucination désigne un contenu généré dans lequel un modèle présente comme valable une information infondée, inventée ou incompatible avec les éléments sur lesquels il devrait s'appuyer.
Chez les grands modèles de langage (LLM) qui alimentent ChatGPT, Gemini, Claude ou encore Le Chat de Mistral, l'invention peut être totale, comme une étude scientifique qui n'existe pas ou une décision de justice sortie de nulle part, mais elle peut aussi se mêler à des faits authentiques, lorsque le modèle confond des dates, attribue une découverte à la mauvaise personne ou mélange les circonstances de plusieurs événements (coucou Bard !). Enfin, une IA peut se révéler infidèle à sa source en lui attribuant des affirmations absentes du texte original, indépendamment de leur véracité.
Alors qu'on s'entende, une IA ne voit pas des choses qui n'existent pas et ne cherche pas non plus à nous raconter des salades. Emprunté au vocabulaire médical, le terme « hallucination » relève d'un abus de langage, d'un anthropomorphisme pratique pour nous aider à comprendre un phénomène purement mathématique, et non psychologique. Pas d'expérience vécue pour la machine, donc, ni d'intention de mentir éhontément.
Une machine à prédire, pas une machine à vérifier
Pour comprendre pourquoi les modèles hallucinent, il faut revenir à la manière dont fonctionne un LLM. Lors de son entraînement, le modèle analyse d'immenses quantités de textes et apprend à prédire la suite d'une séquence à partir des éléments qui la composent, à savoir les tokens.
Pour y parvenir, il s'appuie sur un réseau neuronal composé de couches successives qui effectuent des calculs pour traiter et transformer les informations reçues. Chaque prédiction est ensuite comparée au token qui suit dans le texte d'entraînement, et les écarts servent à ajuster les paramètres du réseau. L'opération est répétée des milliards de fois.
Au fil de cet apprentissage, le modèle assimile bien plus que les structures du langage. Il acquiert des connaissances factuelles, établit des relations entre concepts et apprend aussi les formes sous lesquelles les informations sont présentées. Il apprend à mobiliser ces acquis dans des situations nouvelles, ce qui lui permet de rédiger un texte inédit, d'expliquer une notion ou de résoudre un problème qu'il n'a jamais rencontré sous cette forme.
Seulement, les textes sur lesquels il s'entraîne contiennent aussi des erreurs, des contradictions et des informations périmées. Et comme cet apprentissage consiste à prédire la suite d'une séquence, pas à vérifier la véracité de chaque affirmation, ces inexactitudes peuvent aussi influencer ce que le modèle apprend. À l'inverse, une information peut manquer dans les données d'entraînement, y apparaître trop rarement ou être mal assimilée malgré sa présence répétée.
Et puis, sinon ce serait trop simple, des données correctes ne suffisent pas à assurer une restitution fidèle. Un modèle peut avoir acquis des connaissances exactes et les mélanger ou les associer de travers au moment de répondre. Car on l'a vu, lorsqu'on interroge un LLM, il ne consulte pas une encyclopédie cachée quelque part dans ses paramètres, mais génère sa réponse token après token, en tenant compte de la question posée, du contexte disponible et des relations apprises pendant son entraînement. La question elle-même peut d'ailleurs l'égarer : si elle présente comme acquis un événement qui n'a jamais eu lieu, le modèle peut accepter cette prémisse et en inventer les causes.
Et voilà comment on obtient une réponse absolument cohérente… qui raconte pourtant n'importe quoi : les probabilités qui guident la génération des tokens ne sont jamais garantes de la véracité des faits avancés.
Hallucination ou erreur de raisonnement : quelle différence ?
Une réponse fausse n'est pas forcément une hallucination. Imaginons qu'on demande à une IA d'analyser le bilan financier d'une entreprise. Si elle invente un chiffre d'affaires absent du document, elle hallucine. Si elle reprend les bons montants, mais calcule une hausse de 20 % au lieu de 10 %, elle commet une erreur de calcul. Et si elle déduit d'une augmentation du chiffre d'affaires que l'entreprise a nécessairement réalisé davantage de bénéfices, c'est son raisonnement qui déraille.
Les erreurs peuvent aussi se cumuler. Une IA peut effectuer un calcul impeccable à partir de données inventées, ou échafauder un raisonnement bancal à partir d'informations exactes. Et les frontières ne sont pas toujours aussi nettes : dans la recherche, le terme « hallucination » recouvre parfois un ensemble plus large d'erreurs, jusqu'aux incohérences logiques.
Plutôt bluffer que sécher : les effets pervers de l'incitation à deviner
Et puis il y a cette difficulté à reconnaître ses propres limites. Un modèle n'évalue pas toujours correctement la fiabilité de ses réponses : il peut hésiter devant une information exacte et affirmer une erreur avec un aplomb déconcertant. La manière dont on l'entraîne à répondre peut d'ailleurs accentuer cette tendance à tenter sa chance plutôt qu'à dire « je ne sais pas ».
Après leur apprentissage initial, les modèles passent par des phases d'ajustement destinées, entre autres, à leur apprendre à suivre les consignes, à fournir des réponses utiles et… à être performants. Or, pour mesurer ces performances, on les soumet à toute une batterie de tests dont les critères de notation peuvent encourager les réponses hasardeuses au détriment des réponses prudentes.
Des chercheurs d'OpenAI et du Georgia Institute of Technology se sont d'ailleurs penchés sur ces barèmes dans une étude publiée en avril 2026 dans la revue Nature. Dans de nombreuses évaluations, une bonne réponse rapporte un point, une mauvaise zéro, et un « je ne sais pas » zéro aussi. À ce tarif, un modèle qui cherche à deviner peut obtenir un meilleur score qu'un autre qui préfère s'abstenir faute d'informations fiables. Et lorsque ces résultats servent à ajuster les modèles ou à sélectionner les plus performants, c'est cette prise de risque qu'on peut finir par encourager. Alors, autant y aller au culot.
Internet à la rescousse ? Pas si vite
Les connaissances acquises pendant l'entraînement ne sont toutefois plus la seule matière première des réponses. Les assistants IA actuels peuvent aussi consulter le web, interroger des bases de données ou analyser les documents qu'on leur fournit. Ils accèdent ainsi à des informations récentes ou spécialisées, sans dépendre uniquement de ce qu'ils ont appris.
Parmi les techniques employées, on peut citer la génération augmentée par récupération (Retrieval-Augmented Generation, ou RAG), dont le principe consiste à associer au modèle de langage un système de recherche documentaire qui, lorsqu'on lui soumet une question, traque les passages pertinents dans des sources externes pour les joindre à la requête transmise au LLM. Les réponses gagnent ainsi en fiabilité, du moins en théorie, mais Internet n'étant pas exactement un temple de la rigueur, la recherche peut aussi faire remonter son lot de documents incomplets, hors sujet, périmés ou truffés d'erreurs, que le modèle risque de reprendre à son compte.
De toute façon, même lorsque les sources sont irréprochables, le modèle peut toujours en déformer le contenu au cours de la génération, confondre deux passages, mélanger les conclusions de plusieurs études ou attribuer à une publication des résultats qu'elle n'a jamais présentés.
On serait alors tenté de se rabattre sur les sources cliquables citées par les chatbots qui, on vous le donne en mille, ne sont pas non plus épargnées par les hallucinations. Eh oui, un modèle peut en inventer de toutes pièces, attribuer une information au mauvais document ou renvoyer vers une page qui existe bel et bien, mais ne dit absolument pas ce qu'il prétend.
Peut-on empêcher une IA d'halluciner ?
Trois ans après la bourde de Bard, les modèles de langage les plus avancés ont fait un sacré chemin. Ils suivent mieux les consignes, exploitent davantage de sources externes et s'attaquent à des problèmes de plus en plus complexes. Les hallucinations ont elles aussi reculé dans de nombreuses évaluations, mais même les meilleurs modèles continuent parfois à inventer des informations.
Pour réduire encore ces risques, les équipes de recherche travaillent sur la qualité des données d'entraînement, affinent les méthodes d'ajustement et cherchent à améliorer la capacité des modèles à reconnaître leurs incertitudes, afin qu'ils sachent s'abstenir lorsqu'ils manquent d'informations fiables.
Elles développent aussi des outils capables de vérifier les affirmations produites, en contrôlant par exemple l'existence d'une publication dans une base documentaire, en confrontant une citation au texte original ou en confiant un calcul à un logiciel spécialisé. Mais vérifier une date ou une citation est une chose ; départager des sources contradictoires ou interpréter une question ambiguë en est une autre. D'autant que ces outils peuvent eux-mêmes se tromper, voire introduire de nouvelles erreurs.
Même bardées de sources, les réponses des chatbots ne sont donc pas à prendre pour argent comptant. On peut tenter de limiter la casse en leur fournissant directement les documents à analyser pour cadrer leurs réponses, à condition de vérifier qu'ils n'en déforment pas le contenu ; lorsqu'un chatbot cite une page web à l'appui de ses propos, il faut aussi aller la consulter pour s'assurer qu'elle confirme bien ce qu'il avance. Se contenter d'un « tu es sûr ? » ou d'un « vérifie ta réponse » n'offre pas non plus de garantie. L'IA peut aussi bien confirmer sa première erreur, parfois en brodant davantage (l'obstination), que revenir sur une réponse correcte pour vous donner raison (la complaisance).
Alors, peut-on espérer voir les hallucinations disparaître un jour pour de bon ? Dans les systèmes spécialisés, dont les résultats obéissent à des règles précises, il est parfois possible de tout vérifier. Mais avec les assistants généralistes, auxquels on demande de répondre à peu près à tout, l'exercice est autrement plus délicat, et personne ne sait aujourd'hui garantir qu'ils ne produiront jamais d'informations inventées.
