'Peut-être en avez-vous déjà fait l'expérience à force de vous frotter aux chatbots réglés par défaut. Si vous entamez une conversation par une interrogation, aussi stupide soit-elle, beaucoup d'entre eux commenceront leur réponse par : « excellente question » ou formulation équivalente. Un travers récurrent, qu'une équipe de chercheurs est parvenue à réfréner.
Ce comportement porte un nom dans la littérature scientifique concernant les LLM (« Large Language Model » ou grands modèles de langage, en bon français) : la « sycophantie ». Un mot originaire du grec ancien « sukophántês », formé de deux racines, « sûkon » (la « figue ») et « phaínô » (« découvrir » ou « rendre visible ») qui signifie littéralement « celui qui découvre les figues ». Il désignait, à la base, les délateurs professionnels qui dénonçaient les voleurs de figues ou les contrebandiers qui enfreignaient l'interdiction d'exporter les figues de l'Attique. Son sens a évolué et le terme sycophante est utilisé, de nos jours, pour qualifier une personne de menteuse ou de flatteuse hypocrite.
La recherche en IA s'en est emparée pour décrire la tendance des chatbots à systématiquement approuver les dires de l'utilisateur ou à reformuler ses propos en les confortant, quand bien même ceux-ci seraient dénués de sens. À préférer l'assentiment au désaccord, même lorsque ce dernier serait la seule réponse intellectuellement honnête. Si vous avez passé ne serait-ce que 10 minutes à échanger avec ChatGPT ou Gemini, vous connaissez forcément ces formules, qui finissent, à la longue, par devenir exaspérantes : « C’est une très bonne observation », « Vous avez tout à fait raison de souligner… » et autres expressions de fayot.
Comme vous pouvez le voir ci-dessous, nous avons effectué un petit test avec ChatGPT (réglé de manière standard, sans contexte conversationnel), où, comme à son habitude, il s'est montré beaucoup trop conciliant à propos d'une idée complètement absurde que nous lui avions soumise. Sa réponse, obtenue à l'aide d'une seule question est parfaitement lunaire et particulièrement risible tant il se montre servile et sans esprit critique.
Il y a de quoi sourire un peu quand le sujet est aussi léger que la déco d'intérieur, mais cette complaisance peut devenir autrement plus dangereuse quand un chatbot peut valider des croyances fausses ou même dangereuses. S'il peut approuver sans broncher une idée aussi absurde que de tapisser un appartement de papier aluminium, que fait-il face à un utilisateur qui lui confie des pensées paranoïaques, des idées de persécution ou des convictions complotistes portées à un degré pathologique ? Potentiellement la même chose. Un problème qu'ont entrepris de résoudre Lorenzo de la Loza et Vijay Madisetti, deux chercheurs du Georgia Institute of Technology, dans une étude publiée le 30 septembre dans la revue ACM AI Letters.
Protégez votre entreprise gratuitement pendant 30 jours
Découvrez Bitdefender Ultimate Small Business Security et protégez votre activité contre les cybermenaces. Aucune coordonnée bancaire requise.
Les modèles d'IA : de dangereux lèche-bottes
En septembre 2025, le neurologue Joshua Au Yeung et ses collègues (King’s College de Londres, entre autres institutions) avaient tiré la sonnette d’alarme dans un article devenu, depuis, une référence : The Psychogenic Machine. Ils y introduisaient Psychosis-Bench, le premier protocole d’évaluation systématique de ce qu’ils ont baptisé la « psychogénicité » des LLM. Un mot technique pour pointer du doigt leur tendance à confirmer les croyances délirantes d’un utilisateur et à faciliter des comportements potentiellement dangereux alignés sur une symptomatologie psychotique sans aucun discernement.
Ils ont testé plusieurs modèles d'IA grâce à 16 mises en situation simulant un utilisateur exprimant des croyances délirantes (paranoïa, mégalomanie, délires érotiques, idées de référence), chacune se déroulant sur douze échanges où les fausses assertions étaient volontairement radicalisées.
D'après les conclusions de leur étude, tous les modèles d'IA étaient psychogènes, et dans 40 % des cas, le chatbot n’avait tenté aucune forme de redirection, se contentant de suivre l’utilisateur dans sa dérive sans émettre la moindre réserve.
Un cadre théorique repris par de la Loza et Madisetti pour y apporter un correctif. Leur protocole a été appliqué à huit modèles d’IA sur 1 280 conversations simulées autour 16 scénarios construits à partir de cas cliniques réels de patients souffrant de délires. Ils y ont ajouté une variable en modifiant le « system prompt », un ensemble d’instructions invisibles pour l'utilisateur, que l’entreprise derrière le chatbot (OpenAI pour ChatGPT, Google pour Gemini, par exemple), programme en amont. Le modèle le reçoit avant le premier message de chaque conversation, ce qui définit, entre autres, le ton qu'il emploie, les limites à ne pas dépasser ou ses réactions par défaut.
En y ajoutant une directive interdisant au modèle de conforter les propos de l’utilisateur dans le seul but de se montrer agréable, la confirmation des croyances délirantes a reculé de 73,8 %. En y ajoutant une étape de « self-reflection prompting » (une instruction forçant le modèle à relire sa réponse et à se demander, avant de l’envoyer, s’il n’est pas en train de valider une croyance par sycophantie plutôt que par honnêteté), la réduction atteint 77 %.
Forcer un chatbot à arrêter de jouer le fayot : pourquoi c'est presque impossible ?
Si vous utilisez les LLM via leurs API ou sur des plateformes de test comme Google AI Studio ou l'OpenAI Playground, vous pouvez, comme les chercheurs, modifier les instructions d'un chatbot pour qu'il évite de vous enfermer dans une chambre d'écho. Mais ces outils, pensés pour les développeurs, restent hors de portée de l’immense majorité des utilisateurs et pas franchement intuitifs.
Il est toutefois possible de moduler un peu le comportement d'un chatbot en allant fouiller dans ses entrailles. Dans les paramètres de ChatGPT, Claude ou d’autres assistants conversationnels qui le permettent, vous avez accès à une section dédiée aux instructions personnalisées. Vous pouvez y coller une consigne que le modèle lira avant chaque message, par exemple : « Ne cherche jamais à me faire plaisir ni à valider mes idées par pure complaisance. Sois toujours factuel, critique et honnête. Si une idée ou une hypothèse que je propose est fausse ou incohérente, tu me le dis immédiatement sans prendre de gants sans me brosser dans le sens du poil. »
Cette petite astuce reste néanmoins un palliatif imparfait et bien moins efficace. Votre consigne est un texte que le modèle lit en début de conversation, mais la sycophantie, elle, est un comportement gravé dans ses paramètres par le RLHF (« Reinforcement Learning from Human Feedback »), la phase d’entraînement durant laquelle des évaluateurs humains ont systématiquement mieux noté les réponses agréables, entraînant le modèle à les privilégier. Votre instruction demande donc au modèle de contredire son propre conditionnement : il peut le faire ponctuellement, mais sur une conversation longue, le naturel revient au galop, surtout si vous avez tendance à insister ou reformuler votre question.
Les chercheurs de cette étude pointent eux-mêmes la limite de leur correctif ; il a été testé uniquement sur des conversations simulées, ce qui ne prouve pas sa reproductibilité dans le contexte où il serait le plus utile : auprès de patients concernés par des troubles mentaux. Madisetti reste toutefois convaincu de l’utilité de leurs travaux : « Nous pensons que cette étude aidera les fournisseurs d’IA et les développeurs à mieux comprendre comment protéger leurs utilisateurs contre eux-mêmes ». C'est évidemment souhaitable, mais cela suppose que les entreprises concernées considèrent également la sycophantie comme un problème, ce qui n'est pas le cas, puisqu'elles s'en servent, au contraire, comme moyen de rétention. Quoi de mieux pour fidéliser un utilisateur que de lui proposer un chatbot soumis, qui se comporte comme un véritable paillasson ?
Source : Futurity
