DetectGPT : tout savoir sur le traqueur de ChatGPT développé par l'université de Stanford

31 janvier 2023 à 11h55
20
© Ascannio / Shutterstock
© Ascannio / Shutterstock

Beaucoup n'apprécient pas vraiment ChatGPT, notamment dans le domaine académique où l'on demande aux étudiants de ne pas l'utiliser. Mais l'université de Stanford pousse le vice encore plus loin.

Alors que la popularité de l'outil développé par OpenAI enfle de manière presque alarmante, l'université a développé DetectGPT, dont le but est pour ainsi dire de traquer en vue de les éliminer les papiers générés par le chatbot.

La chasse à ChatGPT est ouverte

Nous l'avons vu dernièrement, l'agent conversationnel ChatGPT a la cote auprès des étudiants. L'IA s'est même montrée capable de réussir un examen d'entrée à la fac de droit américaine. À tel point que de nombreuses écoles comme Sciences Po ont décidé d'en bloquer l'utilisation par leurs élèves.

Et pour les établissements qui tolèrent encore l'outil d'OpenAI, l'université de Stanford a développé la première arme visant à combattre ses papiers, en tout cas pour l'instant dans les plus hautes sphères de l'éducation. Baptisé DetectGPT, celui-ci a pour objectif de juger si un texte a été généré de manière assistée par une machine ou une IA.

L'avantage de DetectGPT se trouve dans le fait qu'il n'a pas besoin d'être entraîné en analysant des textes et d'accumuler des connaissances autour des textes générés par l'IA ou des données pour accomplir son travail.

DetectGPT utilise Détection de fake news contre ChatGPT, c'est super efficace !

Pour tester son outil directement sur le terrain, l'université de Stanford a donc passé au crible diverses fake news avec DetectGPT. En la matière, CNET, qui a commencé à mettre en avant des articles rédigés par l'IA (en grande partie erronés), a été un terrain d'entraînement particulièrement propice à cet exercice.

Les résultats sont sans appel, et DetectGPT se montre nettement plus performant par rapport aux méthodes de détection d'articles écrits par une IA déjà existantes. Il s'agit en tout cas d'une première pierre à l'édifice visant à calmer les ardeurs d'un outil qui en inquiète plus d'un.

Rappelons en effet que, dans le cadre d'une expérience, un comité de scientifiques s'est fait berner par des études rédigées majoritairement par ChatGPT. Avec des outils tels que DetectGPT, la crainte de la prolifération de papiers universitaires ou autres écrits par l'IA s'estompe donc légèrement.

ChatGPT
  • Chat dans différentes langues, dont le français
  • Générer, traduire et obtenir un résumé de texte
  • Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Source : DetectGPT

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (20)

SPH
ChatGPT s’adaptera en révisant ses tournures de phrases. Et HOP, fini la détection…
max6
Et l’outil adaptera sa détection et hop la détection de retour…<br /> Le jeu de la cuirasse et de l’épée est infini l’histoire de l’humanité le montre sans ambage.<br /> Quoi que vous mettiez en place quelqu’un sera capable de trouver comment le contrer !
KlingonBrain
Si la fiabilité de cet outil n’est pas de 100%, ça ne servira à rien.<br /> Sans compter que pour un établissement d’enseignement, il pourrait s’avérer juridiquement risqué d’accuser un élève s’il n’a pas moyen de prouver ses affirmations.
Altdorf
Comme pour le piratage
Arthur_12
On est partis pour la même escalade entre les tricheurs qui utilisent des programmes tiers et des éditeurs de jeu qui chercher à les détecter. Depuis 18 ans que World of Warcraft existe, Blizzard n’a jamais réussi à éradiquer les BOT, idem pour les programmes de triche dans les FPS. Bientôt on entrainera des IA pour détecter d’autre IA, etc…
crush56
Y’aura juste à rajouter un paramètre « fais en sorte que ta réponse ne soit pas détectable pas le détecteur d’ia »
ccvman
Pour écrire un mémoire chatgpt est vraiment utile
yann214
Pardon excuse mon ignorance, mais ChatGPT n’est-elle pas assez intelligente pour reconnaitre ses propres textes ?
Popoulo
Arthur_12:<br /> Depuis 18 ans que World of Warcraft existe, Blizzard n’a jamais réussi à éradiquer les BOT, idem pour les programmes de triche dans les FPS.<br /> Les sites de triches, gold selling, bots, et j’en passe, existent pour certains depuis +10 ans pour Wow par exemple (dont un célèbre de vente de golds et de carry pour les titres glads, items, raids etc…) sans que Blizzard n’ait jamais rien fait. Que doit-on en conclure ?<br /> Idem pour certains revendeurs d’outils de triche matériel (comme la célèbre clef USB dont on ne citera pas le nom), vendu bien cher pour ce que c’est avec les scripts dédiés à chaque jeu. No soucis.
boby9999
Bien vu
Arthur_12
Blizzard ne peut pas faire de procès en Chine contre chaque revendeur ou autre fournisseur de solutions de triche, ils sont bien trop nombreux, cela couterait une blinde… De plus, la Chine n’est pas réputé pour être un état de droit. La seul solution pour Blizzard restait la détection in-game, chose qu’ils n’ont jamais réussit à faire correctement car les programmes de BOT s’amélioraient sans cesse. Cela sera pareil pour les IA et les détecteurs d’IA.
Space_Boy
Exact? Qui veut tuer ce chat appelé « GPT » ? C’est cruel.
Than
Aaah les abus sur les titres… ma parole…<br /> Bref.<br /> C’est pas un peu exagéré et mensonger ?<br /> Comment on repère quelque chose qui se serait inspiré mais qui aurait été ré-écrit ? On ne peut pas.<br /> Fin.<br /> Non, sérieusement, qui recopie bêtement ce qu’il demande à cette IA ?<br /> Il y a tellement d’applications à ce truc que j’ai du mal à me dire que ce genre d’outils (les « tueurs » de ChatGPT) aient un quelconque avenir de quelques jours. C’est ridicule.
ovancantfort
Chatgpt n’a pas du tout ce genre d’intelligence. Chatgpt est conçu pour générer des textes à partir d’autres textes et mener une conversation naturelle. De façon générale, il ne comprend pas ce qu’il dit même si il en donne très bien l’illusion. On peut voir qu’il est absolument nul en math car ce n’est pas en assemblant des bouts de théorèmes divers qu’on aboutit à un raisonnement correct. Il n’est absolument pas capable de reconnaître sa prose car pas conçu du tout pour cela…
Korgen
Je plains ceux qui seront victimes de faux positifs, va prouver que ton devoir vient bien de ton cerveau et pas d’une IA.
Tricasse
Quand on pense qu’il suffit de faire un devoir sur table pour contrer ChatGPT… Ou débrancher la prise.
TonTonFomoso
Il vont bientôt voir que leur outil sert a rien<br /> Il suffit de modifier le texte pour qu’il ne sois pas détecter<br /> Même avec une signature numérique fournie par ChatGpt il est assez simple de copier un texte a la main
xryl
ChatGPT c’est de l’intelligence artificielle. Pour le détecter, il suffit de lui demander de montrer une preuve d’intelligence, comme de la logique (math, physique, science, déductions, etc). Là, c’est garanti qu’il échouera, quelque soit le niveau ou la génération du bot.<br /> Lorsqu’il arrivera à ce niveau, alors ce ne sera plus de l’intelligence artificielle, mais bien une intelligence à part entière et on aura un autre problème: celui des droits à lui accorder.
Korgen
ChatGPT s’appuie sur divers documents. Il suffit que les démonstrations logique soient disponibles dans ses sources pour qu’il les copie dans ses réponses.<br /> Une IA capable de raisonner ou dotée de conscience, il n’y a pas de raison de leur accorder des droits particuliers. Ca resterait de l’artificiel, concentrons nous sur les droits des créatures organiques terrestres, il y a encore du boulot à faire ^^
xryl
Non, tu te trompes. Essaye de faire faire une multiplication aléatoire (genre 21342452234x9823) à ChatGPT, il ne pourra pas la faire.<br /> Pourquoi ? Parce que malgré ses 189 milliards de texte de référence qui ont été utilisés pour son apprentissage, cette multiplication là n’y est pas.<br /> Après tout, c’est mathématique, il y a un nombre infini de cas possibles pour les multiplications, aucun apprentissage ne peut les couvrir toutes.<br /> Pour cela, il faudrait que ChatGPT raisonne et c’est justement la limite de ces bots.<br /> De la même manière, si tu demandes à ChatGPT une information qu’il n’a pas (genre l’arrêt de la cours de cassation du 3 juillet 2005), il ne peut pas l’apprendre. Il ne peut pas aller la chercher. Il ne peut pas l’ingurgiter et la comparer avec la précédente jurisprudence.<br /> Bref, il ne pense pas. C’est un gros perroquet, pour l’instant.
Korgen
C’est exactement ce que je disais :<br /> Il suffit que les démonstrations logique soient disponibles dans ses sources pour qu’il les copie dans ses réponses.<br /> Si tu lui demandes de « déduire » la corrélation entre masse et énergie et qu’il a en source les travaux d’Einstein, il te ressortira cette déduction. Comme un perroquet oui, mais le concept de ChatGPT c’est d’avoir une base de connaissances suffisamment importante et concentrée en un point pouvant donner une illusion satisfaisante.<br /> Pour une multiplication il lui suffit un simple algorithme de calculatrice.<br /> De la même manière, si tu demandes à ChatGPT une information qu’il n’a pas (genre l’arrêt de la cours de cassation du 3 juillet 2005), il ne peut pas l’apprendre. Il ne peut pas aller la chercher.<br /> C’est pareil avec le cerveau humain. Tout ce que tu sais sont des choses que tu as appris, si on te demande une info que tu n’as pas tu ne peux pas la donner. De la même manière que si tu n’as pas appris tes tables de multiplication en primaire tu ne pourras pas faire une multiplication ^^<br /> De fait, si on s’en tient aux connaissances, nous aussi nous sommes des perroquets. Ce qui nous différencie de l’IA c’est le passage entre la succession de postulats et la conclusion, à savoir le raisonnement. C’est à ça que le deep learning veut tendre.<br /> Ce n’est pas pour le moment le but de ChatGPT.
Voir tous les messages sur le forum