Des bots IA ont pendant plusieurs mois parlé incognito avec des internautes du forum Reddit. Une expérimentation menée par des chercheurs suisses qui fait aujourd'hui polémique.
Avec la montée en puissance de systèmes aussi puissants que ChatGPT ou bien Gemini, la question de savoir différencier les véritables êtres humains des IA devient de plus en plus importante. Car un jour, on pourrait bien discuter sur la toile avec des intelligences artificielles si perfectionnées qu'on ne fasse plus la différence. Et on pourrait bien avoir eu un léger aperçu de cette situation à venir sur Reddit !
Des bots IA ont pendant des mois manipulé l'opinion des internautes
Certains utilisateurs de Reddit doivent aujourd'hui l'avoir mauvaise. En effet, il vient d'être découvert que les habitués du subreddit r/changemyview, où les internautes postent une opinion pour obtenir des argumentations contradictoires, ont parlé pendant des mois à des bots IA.
En effet, des chercheurs de l'université de Zurich ont mené une expérimentation dans cet espace, en y lançant des IA pour « étudier la force de persuasion des grands modèles de langage (LLM) dans des environnements en ligne naturels ». Au total, ceux-ci ont posté 1783 commentaires, en personnifiant des figures telles qu'un « homme noir opposé à Black Lives Matter » ou bien un psychologue spécialisé dans les traumatismes.
Les IA sont-elles plus persuasives que les êtres humains ?
Une fois informée, la direction de Reddit a immédiatement banni les chercheurs, et a annoncé réfléchir à la possibilité de se porter en justice. L'université de Zurich va elle examiner les méthodes utilisées par ses scientifiques, et a interdit la publication des résultats de cette enquête.
Mais comme le fait remarquer The Verge, certaines parties de l'étude sont encore disponibles en ligne. On y apprend que les chatbots ont été développés à partir de modèles comme Sonnet 3.5, GPT-4o ou Llama 3.1-405B, et qu'ils auraient été plus efficaces pour convaincre que les êtres humains normaux et ce, « considérablement, atteignant des taux entre trois et six fois plus élevés que la référence humaine ».
Cette étude tendrait ainsi à montrer que les IA peuvent dès aujourd'hui être utilisées par des acteurs malveillants afin de mener des campagnes d'influence d'opinion sur internet. Quelle peut être la solution à ce nouveau défi ?
Source : The Verge
04 février 2025 à 14h11
