🔴 Soldes dernière démarque : jusqu'à - 80% ! 🔴 Soldes dernière démarque : jusqu'à - 80% sur le high-tech

Un comité de scientifiques dupé par... ChatGPT

17 janvier 2023 à 13h45
5
Intelligence artificielle
© geralt / Pixabay

Les compétences de ChatGPT ont été mises à l'épreuve pour voir si l'IA d'OpenAI pouvait fournir une étude scientifique convaincante.

En collaboration avec des scientifiques de l'université de Chicago, Dr. Catherine Gao, chercheuse à l'université de Northwestern, a en effet essayé de voir si un tel comité pouvait se faire duper par une étude réalisée majoritairement par une intelligence artificielle.

Une science pas tout à fait exacte

L'étude ainsi fabriquée par ChatGPT portait sur des questions médicales et s'inspirait de papiers issus de journaux éminents dans le domaine. Pour brouiller les pistes, cette étude comportait autant d'informations avérées que fausses.

Dr. Catherine Gao a ensuite soumis cette étude à l'examen d'un comité de scientifiques, au courant qu'une partie de celle-ci était fausse. Pour autant, il a été établi que les fausses informations véhiculées par ChatGPT ont été décelées 68 % du temps. 14 % des scientifiques ont également identifié de manière erronée que les vraies informations étaient générées par l'IA.

De même, l'étude réalisée à l'aide de ChatGPT a été passée au crible d'un détecteur de plagiat qui a fait chou blanc. Une partie du comité de scientifiques, pourtant sensibilisés sur ces questions, s'est aussi fourvoyée sans voir que l'étude était pour ainsi dire une version repompée de divers articles.

Si les outils traditionnels et l'œil humain ont été dupés quant au plagiat opéré par ChatGPT, tel n'a pas été le cas des détecteurs de plagiat propulsés par l'intelligence artificielle comme GPT-2. En substance, l'IA serait donc la meilleure arme contre elle-même.

Des résultats lourds de sens

« Le fait que 32 % du comité aient été dupés montre à quel point ChatGPT peut se montrer convaincant. Je pense que n'importe qui d'autre tombant sur cette étude fictive serait incapable de voir qu'elle a été écrite par une intelligence artificielle », indique Catherine Gao dans ses conclusions sur l'expérience.

Cela représente une proportion relativement petite de scientifiques s'étant fourvoyés sur l'origine de l'étude, mais ce résultat se montre tout de même lourd de sens. Catherine Gao estime en effet que cela pourrait entraîner la création d'autres études similaires, par définition erronées. « Et si d'autres personnes essaient de construire leur raisonnement scientifique à partir de ces études incorrectes, les conséquences pourraient être très graves », s'inquiète-t-elle.

À l'inverse, Yuan Lao, directeur de l'Institut pour l'intelligence augmentée en médecine à l'université de Feinberg, estime que l'intelligence artificielle pourrait être utilisée dans ce domaine comme une force pour le bien : « Ces outils ont le potentiel d'automatiser le processus de rédaction afin de fournir des études scientifiques plus rapidement. »

Dr. Alexander Pearson, directeur des données scientifiques en oncologie, estime quant à lui que des outils tels que ChatGPT pourraient contribuer à la démocratisation de la science : « Par exemple, ils permettraient aux scientifiques ne parlant pas anglais de partager leurs travaux avec une communauté plus large. »

Autant dire que les intelligences artificielles telles que ChatGPT ne font pour l'instant pas consensus… scientifique.

ChatGPT
  • Chat dans différentes langues, dont le français
  • Compréhension contextuelle

ChatGPT est un agent conversationnel qui s'appuie sur le modèle de langage GPT-3 pour interpréter le texte d'un humain et générer des réponses précises et intelligibles, en français comme en anglais. Toutefois, ses connaissances se limitent à tous les événements précédant l'année 2021.

ChatGPT est un agent conversationnel qui s'appuie sur le modèle de langage GPT-3 pour interpréter le texte d'un humain et générer des réponses précises et intelligibles, en français comme en anglais. Toutefois, ses connaissances se limitent à tous les événements précédant l'année 2021.

Source : bioRxiv

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
5
6
chinou51
Ca remet en cause la « communauté scientifique »…ça alors ils seraient donc capable de faire de la m€rde? ils seraient Humain et donc faillible voir même corruptibles !!!
tfpsly
L’erreur est permise, et c’est pourquoi seule une étude reproduite par plusieurs autres équipes n’est prise au sérieux. Et donc parenthèse : tous les articles de presse « une nouvelle étude révolutionne… » sont à ignorer.
SlashDot2k19
Et encore… Quand la nouvelle version sera dispo… Si elle tient ses promesses, on ne devrait plus pouvoir faire de différence…
max_971
Pfizer et les autres seront contents.
toast
C’est que tu n’as pas bien compris comment fonctionne le processus scientifique.
chinou51
Et toi le sens de mon message…
Voir tous les messages sur le forum

Derniers actualités

Scout, la fusée du
Connaissez-vous les salaires dans la cybercriminalité ? Vous allez être jaloux...
Impressionnée par le succès de ChatGPT, l'Europe veut encadrer l'IA
Soldes Amazon et Cdiscount : TOP 10 des offres folles à saisir ce week-end
Bon plan : profitez dès maintenant des offres avantageuses antivirus et VPN Norton !
Prix fou : CyberGhost vous offre son VPN avec 82% de réduction
Twitch : ces chiffres qui témoignent de l'incroyable succès de la plateforme
Réalisé en partie avec l'IA, cet anime Netflix fait déjà polémique
Nouveaux AirPods Max et AirPods d'entrée de gamme, c'est pour quand ?
Vous avez aimé ChatGPT ? Découvrez CatGPT
Haut de page