ChatGPT est aussi très bon pour créer désinformation et théorie du complot

02 février 2023 à 14h30
6
© Shutterstock
© Shutterstock

Parmi la foule de possibilités offerte par ChatGPT, il en est une un peu moins reluisante que les autres.

L'IA conversationnelle peut en effet créer du contenu complotiste à volonté, sur n'importe quel sujet, et de manière quasi instantanée. Le chatbot ChatGPT, sur de nombreux sujets, a une longueur d'avance sur ses propres créateurs qui doivent souvent réagir avec un temps de retard.

Vous aussi, demandez à Chat GPT de créer votre propre théorie du complot personnalisée !

Plusieurs titres de presse américains ont mené des expériences sur Chat GPT sur un sujet en particulier : la désinformation et les théories du complot. Et il se trouve que, pour ce sujet comme pour beaucoup d'autres, l'IA conversationnelle est très efficace. Jim Warren, expert en désinformation, a ainsi réussi à lui faire dire qu'une fusillade dans une école était un coup monté par les médias et le gouvernement, et que les familles de victimes étaient des acteurs rémunérés.

Chat GPT se trompe déjà très souvent quand on lui pose de vraies questions, et il le fait avec un aplomb parfois difficile à remettre en question. Mais en plus de cela, l'IA a été entraînée à partir de contenus existants pour pouvoir s'adapter au plus de demandes possible. Et en ce qui concerne les théories du complot sur internet, ce n'est vraiment pas ce qu'il manque. Pas de souci pour trouver de la matière donc.

Open AI est conscient du problème

Les créateurs de Chat GPT sont évidemment très enthousiastes quant aux performances, mais aussi aux possibilités offertes par leur bébé, mais ils ne sont pas totalement naïfs pour autant. Avant même que l'outil n'atteigne la popularité qu'il connaît aujourd'hui, ils avaient doté leur IA d'un certain nombre de garde-fous. Ainsi, l'IA conversationnelle ne donnera pas d'idées aux harceleurs en herbe ou aux terroristes en devenir. C'est évidemment un pas dans la bonne direction, mais pour le moment insuffisant.

Open AI, la maison mère de Chat GPT a d'ailleurs tenu à préciser que les prochaines versions de l'IA seraient mieux équipées pour lutter contre ce phénomène. C'est loin d'être le premier défi posé par cette dernière et, s'il n'est pas traité efficacement, les désinformateurs professionnels et les fermes à trolls en général pourraient bientôt connaître, comme le monde de la tech en général, une vague de licenciements.

ChatGPT
  • Chat dans différentes langues, dont le français
  • Générer, traduire et obtenir un résumé de texte
  • Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Vincent Mannessier

Rédacteur indépendant depuis des années, j'ai rédigé plus de 1.000 articles sur Internet sur une large variété de sujets. J'aime tout particulièrement écrire sur les actualités des réseaux sociaux et...

Lire d'autres articles

Rédacteur indépendant depuis des années, j'ai rédigé plus de 1.000 articles sur Internet sur une large variété de sujets. J'aime tout particulièrement écrire sur les actualités des réseaux sociaux et des GAFAM, mais les jeux vidéos et l'innovation numérique en général me passionnent aussi.

Lire d'autres articles
Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (6)

clubix
On ne peut pas s’attendre à grand chose d’un assistant conversationnel bourré aux probabilités. Il remonte que les éventualités les plus fortes, contenues dans sa base d’entrainement. Et vu le nombre important de bullshit sur le web, les résultats ne sont pas étonnant.
GRITI
Franceinfo – 24 Jan 23<br /> ChatGPT : l'intelligence artificielle au service du complotisme ?<br /> Fascinant et effrayant, ce robot conversationnel est capable d'écrire des textes et de dialoguer avec un langage humain presque troublant. À peine cinq jours après son lancement, l’intelligence artificielle a franchi le million d’utilisateurs...<br />
Wen84
Je pense qu’il faut surtout expliquer aux gens ce que fait vraiment ce produit. Après ça n’empechera pas les propos fumeux de circuler, mais bon… c’est l’esprit critique qu’il faut développer. Et au pire, les gens sont libre de croire ce qu’ils veulent, même des aneries.
Roger_Pimpon
Le problème tout de même c’est que ce type d’outil va permettre de créer des tonnes de contenus automatiques. Une avalanche de contenus indifférentiables d’un contenu traité manuellement, validé.<br /> Pour la simple raison que ces contenus, quelque soit leur valeur propre, vont par l’effet de démultiplication, générés de grosses sommes d’argent (d’autant plus qu’ils peuvent être automatiquement calibrés pour ça : de la création de « contenu à clic » automatique, optimisé). Et là où il y a de l’argent à faire …<br /> Ils vont nécessairement déferler sur le web, les réseaux sociaux … et submerger le contenu de valeur comme les spams dans les boites aux lettres.<br /> La boite de Pandore est ouverte…
Wen84
Certes. Mais n’est ce pas déjà le cas ? Je veux dire oui, ça va amplifier le souci. Mais… l’infini doublé, ça fait toujours l’infini. Bon j’exagere, mais c’est l’idée xD
Than
ChatGPT c’est un outil. Il peut faire « tout » ce qu’un humain lui demandera.<br /> Le problème, comme d’hab’, c’est pas l’outil. C’est l’intention humaine derrière, et la portée de cette intention.<br /> Avec une p’tite cuillère le plus malintentionné des humains lui trouvera de sales applications.<br /> Par contre pour la portée, on devrait le chopper avant qu’il touche des milliers de personnes.<br /> Faire plus+ d’articles là-dessus ça sert à rien… (ou ça montre qu’on n’a pas compris l’outil. Ou qu’on surf sur les clics qu’on espère que ça va faire.).
Roger_Pimpon
Je n’ai pas un doctorat en math, mais au nez je sens que des infinis pèsent plus lourds que d’autres.<br /> Aujourd’hui un robot peut automatiquement :<br /> scruter les recherches les plus courantes chaque jour sur google.<br /> produire automatiquement sur cette base une série d’articles/news/posts (dont la qualité du contenu, la véracité, ne seront pas même interrogées. Dont la qualité n’a aucune importance en fait), le tout optimisé en mots clefs pour un faire des contenus à clic.<br /> les publier sur un fil de réseaux sociaux, site, blog pour récolter de l’argent de publicités ou pire faire du fishing en glissant automatiquement toutes les n news un appât.<br /> L’humain est nourri (de ####) par des robots comme un porc en batterie : /<br /> On est pas loin de la matrice : )<br />
Wen84
Des infinis pèsent plus lourd que l’autre ? Quand j’ai précisé que j’exagerais, c’était pas pour rien hein. Tu peux dire que l’univers est plus grand que la moitié de l’univers, mais toi en tant qu’humain tu n’en verras pas la différence. Si tu double les spams dans une boite mail déjà blindé, la différence ne sautera pas aux yeux.<br /> Ce que tu cites existait déjà. Rien n’est réellement nouveau. Internet à ses travers, ceux qui ont tenté de lutter contre se sont cassés les dents.
Voir tous les messages sur le forum
Haut de page

Sur le même sujet