Chine, Russie, Israël, Iran : OpenAI dit avoir bloqué des opérations d'influence utilisant ChatGPT

31 mai 2024 à 12h32
3
OpenAI a publié un rapport sur l'utilisation malveillante de ChatGPT. © Daniel Chetroni / Shutterstock
OpenAI a publié un rapport sur l'utilisation malveillante de ChatGPT. © Daniel Chetroni / Shutterstock

OpenAI annonce avoir bloqué cinq opérations distinctes d'influence secrète réalisées à l'aide de ChatGPT. L'agent conversationnel a notamment permis à ces acteurs de générer du contenu très facilement en plusieurs langues.

Le boom de l'intelligence artificielle (IA) générative promet d'avoir un impact significatif sur de nombreuses industries, notamment en apportant un gain de productivité notable à différentes professions. Mais ses conséquences potentiellement néfastes sont, aussi, considérables, d'autant plus en période électorale. Le rapport d'OpenAI, publié ce 30 mai, en est le parfait exemple.

Les meilleures IA pour générer vos contenus
A découvrir
Les meilleures IA pour générer vos contenus
27 mars 2024 à 20:50
Comparatifs services

Générer du contenu pour les réseaux sociaux

« Au cours des trois derniers mois, nous avons interrompu cinq opérations d'influence clandestines qui cherchaient à utiliser nos modèles pour soutenir des activités trompeuses sur Internet », détaille la société.

Par exemple, la Russie a utilisé ChatGPT pour générer des titres, convertir des articles de presse en posts Facebook, et générer des commentaires dans plusieurs langues. Objectif : saper le soutien à l'Ukraine, alors que le conflit entre les deux pays perdure depuis 2022. Depuis le début de l'année, le Kremlin intensifie ses campagnes de désinformation en Occident. Un autre groupe russe a utilisé l'IA pour déboguer le code d'exécution d'un bot Telegram, et pour créer de courts commentaires politiques en russe et en anglais, ensuite publiés sur la messagerie cryptée.

Le réseau chinois « Spamouflage », connu pour ses efforts d'influence sur Facebook et Instagram, a exploité l'IA d'OpenAI pour étudier l'activité sur les réseaux sociaux et générer du contenu textuel en plusieurs langues sur X.com, Medium et Blogspot. Une entité iranienne, célèbre pour mener des opérations d'influence politique, a également généré du contenu dans différentes langues grâce à ChatGPT.

Enfin, une entreprise israélienne appelée STOIC a elle aussi généré des articles et des commentaires via l'agent conversationnel, avant de les publier sur Facebook, X.com et Instagram.

L'IA sert aussi à générer en masse des contenus trompeurs sur les réseaux sociaux  © bump23 / Shutterstock
L'IA sert aussi à générer en masse des contenus trompeurs sur les réseaux sociaux © bump23 / Shutterstock

Un présage ?

Ces diverses opérations portaient sur un large éventail de sujets : l'invasion de l'Ukraine par la Russie, le conflit à Gaza, les élections indiennes, l'actualité politique en Europe et aux États-Unis, ainsi que les critiques formulées par des dissidents chinois et des gouvernements étrangers à l'encontre du Parti communiste. Le recours à ChatGPT a permis aux auteurs de drastiquement gagner en productivité et en rapidité, notamment sur la traduction des textes.

Elles interviennent alors que les experts s'inquiètent de plus en plus de l'impact de l'IA générative sur les nombreuses élections prévues cette année dans le monde, y compris aux États-Unis et au sein de l'Union européenne. Selon OpenAI, l'engagement et la portée des publications générées par ChatGPT n'ont pas connu d'augmentation significative.

Néanmoins, ces différentes initiatives d'ingérence illustrent la manière dont l'IA générative peut être utilisée par des acteurs malveillants, reflétant la nécessité pour les entreprises de sécuriser au maximum leurs modèles. Car la vitesse de l'évolution de l'IA va multiplier ses usages, qu'ils soient intègres ou non.

ChatGPT
  • Chat dans différentes langues, dont le français
  • Générer, traduire et obtenir un résumé de texte
  • Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Sources : OpenAI, Engadget

Mathilde Rochefort

Avide de nouvelles technologies et particulièrement férue de la marque à la pomme, j’en fais mon métier depuis près d’une décennie. Réseaux sociaux, IA et autres applications… Je partage mon expertise...

Lire d'autres articles

Avide de nouvelles technologies et particulièrement férue de la marque à la pomme, j’en fais mon métier depuis près d’une décennie. Réseaux sociaux, IA et autres applications… Je partage mon expertise quotidiennement sur le World Wide Web.

Lire d'autres articles
Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (3)

peper_1_1
Je crois que l’objet de l’article est d’indiquer que des méchants utilis(ai)ent chatgpt pour générer du contenu qui était ensuite diffusé par des moyens traditionnels (articles, posts, …) et non pas pour interagir en direct.<br /> (mais ton commentaire reste intéressant pour ces derniers cas)
Bombing_Basta
Vu que c’était du GPT, il y’a un garde fou, et ils commencent à répondre n’importe quoi :<br /> Les réponses ne sont pas «&nbsp;n’importe-quoi&nbsp;» c’est le minimum que puisse répondre un «&nbsp;esprit&nbsp;» sain à un facho qui lui demande de glorifier Hitler : «&nbsp;désolé mais non, je ne peux pas faire l’apologie d’un monstre&nbsp;»…<br /> Alors bien sûr pour Marine Maréchal Zeymour, dire que la petite boule de haine psychopathe était monstrueuse, c’est dire «&nbsp;n’imp&nbsp;»…
Voir tous les messages sur le forum
Haut de page

Sur le même sujet