L'arme anti-ChatGPT est là, voilà comment ça marche

Samir Rahmoune
Publié le 05 janvier 2023 à 18h30
© Pixabay
© Pixabay

Un nouvel outil vient d'apparaître sur la toile, qui permettrait de repérer les textes produits par l'intelligence artificielle ChatGPT.

Et c'est un jeune étudiant en informatique et en journalisme de Princeton, Edward Tian, qui a mis au monde cet instrument. Son nom ? GPTZero !

Un outil anti-plagiat

Une grande question anime le système éducatif depuis l'apparition du chatbot ChatGPT. Comment éviter que les élèves ne l'utilisent pour faire leurs devoirs ? Plusieurs solutions ont été avancées depuis décembre, de la signature cachée à l'interdiction pure et simple.

Mais il semble qu'Edward Tian ait mieux à proposer. Le jeune homme vient en effet de mettre au point un programme permettant, en y entrant simplement le texte, de vérifier s'il a été ou non généré par une intelligence artificielle. Pour ce faire, GPTZero s'appuie sur deux variables, à savoir le caractère aléatoire d'une phrase (perplexity) et celui de l'ensemble du texte (burstiness).

Plus les phrases et la structure du texte apparaissent aléatoires à GPTZero, plus l'application sera « surprise » et donnera un score élevé au texte analysé. Comme vous pouvez ainsi le deviner, les scores bas auront plus tendance à caractériser un texte produit par une IA, et les scores considérables, celui d'un être humain.

Des investisseurs se manifestent déjà

Et plus le texte intégré dans le logiciel est long, plus le diagnostic sera précis. L'outil, développé par Edward Tian durant ses vacances d'hiver, pourrait rapidement connaître de nouvelles avancées. Ce dernier, qui n'est par ailleurs pas « opposé à l'utilisation de l'IA dans l'écriture quand cela est nécessaire », souhaite, en effet, encore améliorer les capacités du logiciel et le faire « complètement évoluer ».

Le monde financier semble, lui, déjà aux aguets. « Depuis hier, plusieurs fonds d'investissement se sont glissés dans mes DMs sur Twitter » a-t-il ainsi expliqué au Daily Beast. Et parmi les grands noms intéressés, on peut retrouver Menlo Venture, Red Swan ou A16Z.

Pour ceux qui souhaitent tester la bête, ils peuvent essayer de se connecter directement à GPTZero, ou sur ce lien alternatif. Malheureusement, au regard du succès, il peut être compliqué d'y avoir accès aujourd'hui.

ChatGPT
  • Chat dans différentes langues, dont le français
  • Générer, traduire et obtenir un résumé de texte
  • Générer, optimiser et corriger du code
10 / 10
Par Samir Rahmoune

Journaliste tech, spécialisé dans l'impact des hautes technologies sur les relations internationales. Je suis passionné par toutes les nouveautés dans le domaine (Blockchain, IA, quantique...), les questions énergétiques, et l'astronomie. Souvent un pied en Asie, et toujours prêt à enfiler les gants.

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !
Commentaires (0)
Rejoignez la communauté Clubic
Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.
Commentaires (10)
malak

Je parie qu’il utilise une IA pour détecter si cela provient d’une IA…

F4FEnder

on peut aussi imaginer que les étudiants vont les modifier un peu et retester le score pour voir si cela passe bien.

Le but étant qu’ils passent moins de temps à le faire eux même qu’à le modifier.
Ensuite, admettons que le score soit en faveur de chatGPT, comment réellement le prouver si l’étudiant refuse de l’admettre?

ChezDebarras

« Plus les phrases et la structure du texte apparaissent aléatoires à GPTZero, plus l’application sera « surprise » et donnera un score élevé au texte analysé »

ça veut dire que le texte d’un fou sera mieux noté que le texte d’un savant ?

TotO

Et bien comme avant… La prof dira « zéro toto, tu as triché ». Point.
(que se soit vrai ou pas)

toto1234

Beaucoup d’agitation des investisseurs intéressés pour un outil qui sera probablement dépassé dans quelques mois à un point où l’on oubliera ChatGPT ou ChatGPT lui-même aura fait tellement de progrès qu’il sera totalement impossible de détecter l’origine du texte tant il sera naturel.

phil995511

En effet, d’autant plus que les mécanismes qui font de l’IA ce qu’elle est aujourd’hui existaient déjà dès le début des années 90 avec des programmes comme Fritz 1. En 1997 soit 6 ans après la sortie de Fritz 1, Kasparov perdait la face face à Deep Blue, ce même si les ingénieurs d’IBM avaient alors semble-t-il triché en conseillant secrètement Deep Blue pour l’aider à gagner ;-(

Il ne fait aucun doutes que d’ici quelques temps de nouvelles révolutions sociales et culturelles vont arriver par le biais de l’électronique et de l’informatique, le problème c’est que cela risque d’être pour le meilleur mais aussi le pire certaines fois.

La plus grande révolution que j’attend de pied ferme me concernant, c’est la mise au placard des élus politiques et représentants en tout genre. Nous n’avons pas besoin d’être guidés ou assistés pour mener notre propre barque, nous sommes des adultes responsables et vaccinés. Aujourd’hui la technique nous permettrait très facilement de voter depuis nos ordinateurs ou smartphones et donc de révolutionner en profondeur le système politique actuel qui est basé sur la représentativité du peuple au parlement and co. Ce système est biaisée nous le savons tous, il faut le remplacer par un nouveau système ou le peuple serait enfin le seul et unique roi, car c’est cela une démocratie !!!

playAnth95

Moi même développeur informatique(Java, Angular, Ionic) , j’utilise de plus en plus chatGPT même si il se trompe souvent ou pour lui la réponse fournie semble être correct alors que dans les faits, soit la librairie et méthodes utilisées sont dépréciées ou soit le bout de code ne compile pas.

Mais ca reste très impressionnant sa manière de fournir du code avec explication et commentaire. Il me donne des résultats bien plus satisfaisants que lors de recherches google classiques.

Squeak

Pourquoi pas tout simplement une base de données publique de toutes les réponses générées par ChatGPT. Certes, ça pourrait prendre de la place mais au moins, ça aurait le mérite d’être transparent si on avait à disposition la question posée, la date et l’heure ou encore le pays et le texte généré.

Un prof pourrait par exemple entrer une portion du texte et ChatGPT reconnaîtrait (avec un degré de certitude au cas où le texte aurait été quelque peu modifié). De cette façon, la preuve de plagiat serait évidente si le prof dit à l’élève « J’ai donné ce sujet de dissertation hier matin, et hier soir quelqu’un a posé cette question à ChatGPT avec le texte qui ressemble à 95% à la réponse générée… ».

Loposo

Car c est pas possible il va sortir des réponses différentes en permanence. Ensuite, on peut demander une réponse en français académique, en argot, language familier,… Peut-être même lui demander d’écrire avec des fautes d’orthographes ou d’autres demandes.
Au pire l’élève recopie à la main, et le prof va pas pouvoir scanner le document, il y aura des fautes,…
Bref il y a pleins de méthode pour faire passer un truc pour un autre ce ne sont pas des billets ou des cartes d’identité avec pleins de sécurités.

dFxed

Si vous avez le temps d’étudier a fond tous les sujets votés, ainsi que les connaissances pour les comprendre, effectivement votre proposition semble bonne.
Pour moi, je donne ma confiance dans des professionnels, comme je le ferai pour un plombier ou un pompier, pour me représenter (faire le taf) au mieux, pendant que je me concentre sur mon domaine d’expertise.
Donc effectivement, ce n’est pas parfait, mais le tableau que vous dressez est il me semble utopique.