OpenAI annonce avoir bloqué cinq opérations distinctes d'influence secrète réalisées à l'aide de ChatGPT. L'agent conversationnel a notamment permis à ces acteurs de générer du contenu très facilement en plusieurs langues.
Le boom de l'intelligence artificielle (IA) générative promet d'avoir un impact significatif sur de nombreuses industries, notamment en apportant un gain de productivité notable à différentes professions. Mais ses conséquences potentiellement néfastes sont, aussi, considérables, d'autant plus en période électorale. Le rapport d'OpenAI, publié ce 30 mai, en est le parfait exemple.
Générer du contenu pour les réseaux sociaux
« Au cours des trois derniers mois, nous avons interrompu cinq opérations d'influence clandestines qui cherchaient à utiliser nos modèles pour soutenir des activités trompeuses sur Internet », détaille la société.
Par exemple, la Russie a utilisé ChatGPT pour générer des titres, convertir des articles de presse en posts Facebook, et générer des commentaires dans plusieurs langues. Objectif : saper le soutien à l'Ukraine, alors que le conflit entre les deux pays perdure depuis 2022. Depuis le début de l'année, le Kremlin intensifie ses campagnes de désinformation en Occident. Un autre groupe russe a utilisé l'IA pour déboguer le code d'exécution d'un bot Telegram, et pour créer de courts commentaires politiques en russe et en anglais, ensuite publiés sur la messagerie cryptée.
Le réseau chinois « Spamouflage », connu pour ses efforts d'influence sur Facebook et Instagram, a exploité l'IA d'OpenAI pour étudier l'activité sur les réseaux sociaux et générer du contenu textuel en plusieurs langues sur X.com, Medium et Blogspot. Une entité iranienne, célèbre pour mener des opérations d'influence politique, a également généré du contenu dans différentes langues grâce à ChatGPT.
Enfin, une entreprise israélienne appelée STOIC a elle aussi généré des articles et des commentaires via l'agent conversationnel, avant de les publier sur Facebook, X.com et Instagram.
Un présage ?
Ces diverses opérations portaient sur un large éventail de sujets : l'invasion de l'Ukraine par la Russie, le conflit à Gaza, les élections indiennes, l'actualité politique en Europe et aux États-Unis, ainsi que les critiques formulées par des dissidents chinois et des gouvernements étrangers à l'encontre du Parti communiste. Le recours à ChatGPT a permis aux auteurs de drastiquement gagner en productivité et en rapidité, notamment sur la traduction des textes.
Elles interviennent alors que les experts s'inquiètent de plus en plus de l'impact de l'IA générative sur les nombreuses élections prévues cette année dans le monde, y compris aux États-Unis et au sein de l'Union européenne. Selon OpenAI, l'engagement et la portée des publications générées par ChatGPT n'ont pas connu d'augmentation significative.
Néanmoins, ces différentes initiatives d'ingérence illustrent la manière dont l'IA générative peut être utilisée par des acteurs malveillants, reflétant la nécessité pour les entreprises de sécuriser au maximum leurs modèles. Car la vitesse de l'évolution de l'IA va multiplier ses usages, qu'ils soient intègres ou non.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
