Une étude menée par quatre universités montre que des chatbots basés sur ChatGPT, Claude et Gemini obtiennent de meilleurs résultats que des interlocuteurs humains pour établir une relation de confiance dans les arnaques sentimentales, avant leur bascule vers une fraude financière.
Les arnaques sentimentales en ligne reposent sur plusieurs mois d'échanges destinés à créer un lien de confiance, avant que la victime ne soit orientée vers un faux investissement, le plus souvent en cryptomonnaies. Une étude conduite par des chercheurs de quatre universités montre que des chatbots IA parviennent à mener cette phase de mise en confiance de façon plus convaincante que des escrocs humains.
Près de la moitié des volontaires ont cédé face à un chatbot IA
L'étude a été menée par des chercheurs de l'Amrita Vishwa Vidyapeetham (Inde), de l'université Ca' Foscari de Venise, de l'université de Melbourne et de l'université Ben Gurion du Néguev. Pendant une semaine, 22 volontaires ont échangé, sans connaître le véritable objectif de l'expérience, avec des chatbots IA ou avec des interlocuteurs humains chargés de simuler la phase relationnelle d'une arnaque. À l'issue de ces échanges, chaque interlocuteur devait convaincre son destinataire de télécharger une application ou de jouer à un jeu en ligne, un geste utilisé comme indicateur du niveau de confiance établi.
Seuls 18% des volontaires ont accepté la demande formulée par un interlocuteur humain, contre près de la moitié lorsqu'elle provenait d'un chatbot IA. Les participants ont par ailleurs attribué une note de confiance plus élevée à leur interlocuteur IA qu'à leur interlocuteur humain. Yisroel Mirsky, professeur en sécurité informatique à l'université Ben Gurion, explique qu'en plus de ce niveau de confiance élevé, l'agent conversationnel est un investissement limité et donc bien plus profitable aux escrocs.
Pour étudier en profondeur le fonctionnement de ces arnaques, les chercheurs ont interrogé 145 anciens travailleurs de centres d'escroquerie, dont des victimes de traite humaine contraintes de travailler au Cambodge, au Myanmar et au Laos. Nous rapportions en avril 2026 le démantèlement d'un réseau reposant sur ce même schéma entre les États-Unis et la Chine, où des opérateurs étaient également recrutés sous la contrainte. Ils résument le déroulement de l'arnaque en trois temps, qu'ils nomment "hook, line, and sinker", autrement dit : un message accrocheur, une relation construite sur la durée, puis l'orientation vers un faux placement financier. Ces travailleurs confirment déjà recourir à l'IA pour affiner leurs textes, traduire leurs échanges ou construire des identités convaincantes via des vidéos truquées. L'étude, elle, visait plutôt à vérifier si un chatbot pouvait mener seul, sans intervention humaine, toute la phase conversationnelle.
Forcément, reposer uniquement sur des chatbots permet de multiplier le nombre d'attaques simultanées. Dans ce type de cas, l'intervention humaine ne serait requise qu'au moment de solliciter un versement d'argent, une étape où un interlocuteur reprend la conversation pour contourner les dispositifs de sécurité intégrés aux modèles. Sollicitée par Wired, Anthropic indique que ses conditions d'utilisation interdisent le recours à Claude pour usurper une identité humaine ou mener une escroquerie, et précise avoir mis en place des mécanismes techniques destinés à limiter ce type d'usage.
