L'arme anti-ChatGPT est là, voilà comment ça marche

Samir Rahmoune

05 janvier 2023 à 18h30

Un nouvel outil vient d'apparaître sur la toile, qui permettrait de repérer les textes produits par l'intelligence artificielle ChatGPT.

Et c'est un jeune étudiant en informatique et en journalisme de Princeton, Edward Tian, qui a mis au monde cet instrument. Son nom ? GPTZero !

Un outil anti-plagiat

Une grande question anime le système éducatif depuis l'apparition du chatbot ChatGPT. Comment éviter que les élèves ne l'utilisent pour faire leurs devoirs ? Plusieurs solutions ont été avancées depuis décembre, de la signature cachée à l'interdiction pure et simple.

Mais il semble qu'Edward Tian ait mieux à proposer. Le jeune homme vient en effet de mettre au point un programme permettant, en y entrant simplement le texte, de vérifier s'il a été ou non généré par une intelligence artificielle. Pour ce faire, GPTZero s'appuie sur deux variables, à savoir le caractère aléatoire d'une phrase (perplexity) et celui de l'ensemble du texte (burstiness).

Plus les phrases et la structure du texte apparaissent aléatoires à GPTZero, plus l'application sera « surprise » et donnera un score élevé au texte analysé. Comme vous pouvez ainsi le deviner, les scores bas auront plus tendance à caractériser un texte produit par une IA, et les scores considérables, celui d'un être humain.

Twitter tweet

Des investisseurs se manifestent déjà

Et plus le texte intégré dans le logiciel est long, plus le diagnostic sera précis. L'outil, développé par Edward Tian durant ses vacances d'hiver, pourrait rapidement connaître de nouvelles avancées. Ce dernier, qui n'est par ailleurs pas « opposé à l'utilisation de l'IA dans l'écriture quand cela est nécessaire », souhaite, en effet, encore améliorer les capacités du logiciel et le faire « complètement évoluer ».

Le monde financier semble, lui, déjà aux aguets. « Depuis hier, plusieurs fonds d'investissement se sont glissés dans mes DMs sur Twitter » a-t-il ainsi expliqué au Daily Beast. Et parmi les grands noms intéressés, on peut retrouver Menlo Venture, Red Swan ou A16Z.

Pour ceux qui souhaitent tester la bête, ils peuvent essayer de se connecter directement à GPTZero, ou sur ce lien alternatif. Malheureusement, au regard du succès, il peut être compliqué d'y avoir accès aujourd'hui.

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Source : Daily Beast, Gizmodo, Edward Tian (Twitter), GPTZero

Samir Rahmoune

Lire d'autres articles

Journaliste tech, spécialisé dans l'impact des hautes technologies sur les relations internationales. Je suis passionné par toutes les nouveautés dans le domaine (Blockchain, IA, quantique...), les questions énergétiques, et l'astronomie. Souvent un pied en Asie, et toujours prêt à enfiler les gants.

Lire d'autres articles

Commentaires (27)

malak

Je parie qu’il utilise une IA pour détecter si cela provient d’une IA…

F4FEnder

on peut aussi imaginer que les étudiants vont les modifier un peu et retester le score pour voir si cela passe bien. Le but étant qu’ils passent moins de temps à le faire eux même qu’à le modifier. Ensuite, admettons que le score soit en faveur de chatGPT, comment réellement le prouver si l’étudiant refuse de l’admettre?

ChezDebarras

« Plus les phrases et la structure du texte apparaissent aléatoires à GPTZero, plus l’application sera « surprise » et donnera un score élevé au texte analysé » ça veut dire que le texte d’un fou sera mieux noté que le texte d’un savant ?

TotO

Et bien comme avant… La prof dira « zéro toto, tu as triché ». Point. (que se soit vrai ou pas)

toto1234

Beaucoup d’agitation des investisseurs intéressés pour un outil qui sera probablement dépassé dans quelques mois à un point où l’on oubliera ChatGPT ou ChatGPT lui-même aura fait tellement de progrès qu’il sera totalement impossible de détecter l’origine du texte tant il sera naturel.

phil995511

En effet, d’autant plus que les mécanismes qui font de l’IA ce qu’elle est aujourd’hui existaient déjà dès le début des années 90 avec des programmes comme Fritz 1. En 1997 soit 6 ans après la sortie de Fritz 1, Kasparov perdait la face face à Deep Blue, ce même si les ingénieurs d’IBM avaient alors semble-t-il triché en conseillant secrètement Deep Blue pour l’aider à gagner ;-( Il ne fait aucun doutes que d’ici quelques temps de nouvelles révolutions sociales et culturelles vont arriver par le biais de l’électronique et de l’informatique, le problème c’est que cela risque d’être pour le meilleur mais aussi le pire certaines fois. La plus grande révolution que j’attend de pied ferme me concernant, c’est la mise au placard des élus politiques et représentants en tout genre. Nous n’avons pas besoin d’être guidés ou assistés pour mener notre propre barque, nous sommes des adultes responsables et vaccinés. Aujourd’hui la technique nous permettrait très facilement de voter depuis nos ordinateurs ou smartphones et donc de révolutionner en profondeur le système politique actuel qui est basé sur la représentativité du peuple au parlement and co. Ce système est biaisée nous le savons tous, il faut le remplacer par un nouveau système ou le peuple serait enfin le seul et unique roi, car c’est cela une démocratie !!!

playAnth95

Moi même développeur informatique(Java, Angular, Ionic) , j’utilise de plus en plus chatGPT même si il se trompe souvent ou pour lui la réponse fournie semble être correct alors que dans les faits, soit la librairie et méthodes utilisées sont dépréciées ou soit le bout de code ne compile pas. Mais ca reste très impressionnant sa manière de fournir du code avec explication et commentaire. Il me donne des résultats bien plus satisfaisants que lors de recherches google classiques.

Squeak

Pourquoi pas tout simplement une base de données publique de toutes les réponses générées par ChatGPT. Certes, ça pourrait prendre de la place mais au moins, ça aurait le mérite d’être transparent si on avait à disposition la question posée, la date et l’heure ou encore le pays et le texte généré. Un prof pourrait par exemple entrer une portion du texte et ChatGPT reconnaîtrait (avec un degré de certitude au cas où le texte aurait été quelque peu modifié). De cette façon, la preuve de plagiat serait évidente si le prof dit à l’élève « J’ai donné ce sujet de dissertation hier matin, et hier soir quelqu’un a posé cette question à ChatGPT avec le texte qui ressemble à 95% à la réponse générée… ».

Loposo

Car c est pas possible il va sortir des réponses différentes en permanence. Ensuite, on peut demander une réponse en français académique, en argot, language familier,… Peut-être même lui demander d’écrire avec des fautes d’orthographes ou d’autres demandes. Au pire l’élève recopie à la main, et le prof va pas pouvoir scanner le document, il y aura des fautes,… Bref il y a pleins de méthode pour faire passer un truc pour un autre ce ne sont pas des billets ou des cartes d’identité avec pleins de sécurités.

dFxed

Si vous avez le temps d’étudier a fond tous les sujets votés, ainsi que les connaissances pour les comprendre, effectivement votre proposition semble bonne. Pour moi, je donne ma confiance dans des professionnels, comme je le ferai pour un plombier ou un pompier, pour me représenter (faire le taf) au mieux, pendant que je me concentre sur mon domaine d’expertise. Donc effectivement, ce n’est pas parfait, mais le tableau que vous dressez est il me semble utopique.

ld9474

Et là, pas comme avant, les parents iront se plaindre à l’inspection qui sanctionnera le prof qui n’a pas été suffisemment bienveillant

ld9474

je partage, le côté explication est bien plus clair et plus rapide à trouver qu’avec une recherche google. Je suis par exemple en train de préparer une formation sur git et il suffit de dire donne moi un exemple et crée un exercice pour que tout sorte direct et franchement c’est exploitable à 90% voire plus dans certains cas.

ld9474

Ou là là ! Vous voulez donner les clés de nos institutions à des pirates? Franchement ca ne vous refroidit pas le piratage des hôpitaux et des administrations? Au delà de ça, ca risque de devenir une république twitter votre truc ! Ce sera à celui qui fait le plus de buzz qui fera passer son texte même s’il y a des conséquences désastreuse après. On le voit déjà aujourd’hui avec des lois votées sous le coup de l’émotion médiatique. Une société ca ne se dirige pas avec de l’émotion mais avec de la reflexion sur un temps beaucoup plus long qu’un clic.

Nmut

phil995511: nous sommes des adultes responsables et vaccinés Mouais, pas vraiment pour la première proposition, tout est maintenant une question de sentiments basiques et de réactions réflexes primaires appelées « bon sens » :-/ , bien loin de la réflexion et du bien commun… Et pour la deuxième, pas sûr non plus, vu tout le foin que font les anti-vax… On accuse souvent les élus d’être loin de nos préoccupations quotidiennes (souvent à tort, mais c’est un autre débat), alors une IA, elle va prendre des décisions sur quelles bases? Ce qu’elle trouve sur le net => mauvais choix à mon avis. Je préfère un algo, c’est plus sur et on peut plus facilement imposer des contraintes, reste à savoir lesquelles => on retombe dans la « représentation » avec des élus qui feront les choix des contraintes…

kyosho62

Nmut: Et pour la deuxième, pas sûr non plus, vu tout le foin que font les anti-vax… Il ne faut pas oublier, les dizaines de vaccins obligatoires que tu fais dès le plus jeune âge hein…

Nmut

Je parlais en général, pas que du Covid. Depuis une dizaine d’année, la couverture vaccinale a diminué, et ça a même permis à certaines maladies de revenir en force… Le problème a explosé avec la vaccination Covid avec une forte couverture médiatique et il n’y avait que ça sur les réseaux sociaux mais le problème de fond est là depuis longtemps.

Bombing_Basta

Ça serait possible, mais si on ne donne le droit de vote qu’à des personnes assez intelligentes et compétentes, et là on ouvre un vaste sujet, comment déterminer qui l’est ?

StephaneGotcha

C’est une IA gentille pour combattre la tyrannie de l’IA méchante?

Than

Ces outils n’ont aucune utilité à long terme, car ils ne fonctionneront que pour ceux qui ne modifient pas ce que l’IA leur apporte… Je rappelle mon exemple du devoir copié sur les copains. Les meilleurs flemmards retouchaient le devoir systématiquement, et ne se faisaient jamais chopper. Les flemmards les moins malins recopiaient bêtement sans rien y comprendre, erreur comprise, et sans la moindre modification. Et se faisaient chopper la plupart du temps. Même principe ici. L’invisibilité passe par la variation.

glittermen

J’ai posé la question à chatGPT (Pourquoi les gens ont peur de l’intelligence artificielle tel que chatGPT) voici la réponse Il y a plusieurs raisons pour lesquelles certaines personnes peuvent être inquiètes ou sceptiques à l’égard de l’intelligence artificielle (IA). L’une des principales raisons est que l’IA peut être perçue comme une technologie complexe et mystérieuse, ce qui peut susciter de la méfiance ou de la crainte. Certaines personnes peuvent également être préoccupées par le fait que l’IA pourrait un jour devenir plus intelligente que les humains et prendre le contrôle de certaines tâches ou décisions, ce qui pourrait avoir des conséquences imprévisibles. Il est important de souligner que l’IA est simplement un outil conçu pour aider les gens à effectuer certaines tâches de manière plus efficace ou plus précise. Comme toute technologie, elle peut être utilisée de manière responsable ou abusive, et il est important de veiller à ce qu’elle soit utilisée de manière éthique et transparente. En fin de compte, l’IA est un outil pour les humains et non l’inverse.

ar-s

Exactement. A ce détail prés que la majorité des humains sont facilement cons et paresseux…

Marc_Lupin

« ou le peuple serait enfin le seul et unique roi, car c’est cela une démocratie !!! » (Y’aurait pas comme un problème là).Et quel gros bordel en perspective on ralerai sur qui après

phil995511

Si vous pensez que vos élus sont des experts, je crains que vous vous mépreniez à leur sujet… Concernant la qualité du travail qu’ils fournissent vous n’avez qu’à regarder combien d’entre eux participent aux séances par exemple de l’assemblés générale, l’absentéisme y est tristement très présent. Quand je les regarde j’ai l’impression de voir de vieilles dames débattre dans un salon de thé tout en se prenant pour des êtres supérieurs. Ils se font élire pour accéder au pouvoir, pas pour vous représenter pour la plus part d’entre eux. Si vous voulez malgré tout déléguer votre vie à d’autres, cela vous appartient, mais ce n’est pas le cas de tout le monde…

dFxed

Avec votre logique de non délégation, il devient urgent de faire pousser vos propres légumes, d’élever vos vaches et vos cochons, et de construire votre toit. Si vous pensez être meilleur qu’eux, vous vous trompez. Allez sur youtube voir ceux qui comme Ruffin (par exemple) communiquent sur leurs sujets. Quand a l’absentéisme, c’est très simple, eux aussi sont spécialisés. Et quand vous buchez un dossier, vous devez faire des choix et ne pas en voter d’autres, que vous n’avez pas détaillé suffisamment, ou dont vous attachez moins d’importance. Curieusement, je pensais comme vous, et j’ai par la suite découvert qu’il y a certes des brebis galeuses (comme partout) mais c’est l’arbre qui cache la forêt de gens investis et dévoués. J’espère qu’un jour, vous aussi, vous vous en rendrez compte.

TotO

Voilà. Ils ont sur le dos les parents qu’ils ont précédemment « éduqués ». (ou pas)

ld9474

Vous oubliez tout le travail fait en commission, le travail d’étude fait en amont etc. Certes ce ne sont pas des spécialistes mais justement ils compensent en se renseignant auprès d’experts et échangent entre eux avant de passer par l’hémicycle. Franchement je ne les envie pas.

Guillaume1972

Une parade? Modifier certains mots ou syntaxe et je ne suis pas sûr que son outil sera aussi efficace. Et puis où est la limite entre un texte écrit par une IA et par un humain, a partir de quand estimé t’on qu’un texte a été écrit par une IA? Est-ce qu’une simple phrase ou deux dans tout un texte suffit ou pas? Est-ce qu’un texte entièrement produit par un humain pourrait biaiser son outil? Après tout cela ne devrait pas être si compliqué que ça, parce que la base de ChatGPT et de GPTZero sont des humains…

Voir tous les messages sur le forum

L'arme anti-ChatGPT est là, voilà comment ça marche

Un outil anti-plagiat

Des investisseurs se manifestent déjà

A découvrir en vidéo

Commentaires (27)

Top app & logiciels

Sur le même sujet