🔴 Soldes : jusqu'à - 70% sur le high-tech 🔴 Soldes d'hiver : jusqu'à - 70% sur le high-tech

ChatGPT va cacher une signature dans les contenus créés par l'IA pour les différencier de ceux des humains

04 janvier 2023 à 14h45
20
ChatGPT © Les Echos
© Les Échos

OpenAI, l'organisme derrière le populaire ChatGPT, a entrepris de développer un outil permettant de discrètement signer le contenu généré par l'IA. Un prototype serait d'ailleurs déjà fonctionnel.

Cette signature pourrait permettre de détecter la triche à un examen ou du contenu malveillant crédible, mais qui génère encore des doutes.

Différencier l'humain de la machine, un enjeu majeur

Lancé en décembre 2022 par OpenAI, ChatGPT est loin d'être passé inaperçu. Capable de générer du texte à partir de nombreuses questions et d'adapter le tout instantanément, il a fait l'objet d'une attention toute particulière. On peut lui demander à peu près n'importe quoi, même d'écrire une dissertation avec un style donné ou de débusquer une erreur dans du code. L'outil reste néanmoins perfectible, et il faut prendre les résultats avec précaution.

Cependant, ChatGPT est suffisamment avancé pour occasionner des craintes en ce qui concerne la génération de contenus malveillants ou l'origine réelle des textes produits. Une appréhension partagée par les universités qui craignent particulièrement la triche.

OpenAI cherche donc des solutions pour qu'il soit possible d'identifier un contenu produit part ChatGPT, avec de discrets marqueurs. Scott Aaronson, actuellement chercheur invité chez OpenAI, a indiqué que l'entreprise travaillait sur l'intégration d'un « signal secret imperceptible ». Un prototype fonctionnel est déjà prêt, avec l'objectif d'éviter que du contenu généré ne soit considéré comme une création humaine.

« Cela pourrait être utile pour prévenir le plagiat universitaire, évidemment, mais aussi, par exemple, la génération massive de propagande - vous savez, spammer chaque blog avec des commentaires apparemment sur le sujet soutenant l'invasion de l'Ukraine par la Russie sans même un bâtiment plein de trolls à Moscou. Ou utiliser le style d'écriture de quelqu'un afin de l'incriminer », explique le chercheur.

Des mesures insuffisantes ?

Doté d'une approche crytographique, l'outil que souhaite proposer OpenAI aurait également des limites. Scott Aaronson a refusé d'en dire plus, et OpenAI s'est contentée de révéler que ce filigrane faisait partie d'un faisceau de solutions à l'étude permettant d'identifier un contenu généré par ChatGPT ou d'autres générateurs de texte. On reste donc un peu dans le flou, mais plusieurs universitaires et experts ont émis des doutes. Tout d'abord, en étant localisé sur les serveurs, l'outil pourrait ne pas fonctionner partout. De plus, il serait encore assez aisé de contourner la détection, avec des synonymes par exemple.

De son côté, Jack Hessel, chercheur à l'Allen Institute for AI, estime qu'un marqueur trop évident pourrait dégrader le contenu, tandis qu'un trop discret laisserait trop de place au doute lors de l'authentification. Il estime aussi que seul OpenAI pourrait être capable de fournir un outil de détection précis pour ChatGPT, là où l'indépendance serait de mise. Autrement dit, une empreinte trop discrète pourrait tromper l'observateur.

Chez AI21 Labs, concurrent d'OpenAI, on prône l'utilisation de plusieurs filigranes, liés à différentes parties des textes, associée à une mise en avant des sources. Quoi qu'il en soit, la traçabilité et la qualité des contenus générés sont de vrais enjeux pour les mois et années à venir.

Source : Techcrunch

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
20
17
Sodium
Il suffira donc de reformuler le propos, je n’ai pas l’impression que ça résolve grand-chose, c’est ce qu’on faisait avec Wikipedia lorsque j’étais au lycée…
Bombing_Basta
Euuu, et ça va signer un texte recopié à la main, genre dissert, comment ?
jvachez
En même temps un devoir universitaire c’est forcément du plagiat ou de la reformulation suivant comment on voit les choses. Rien n’est inventé par l’étudiant sinon il serait plus intelligent que son prof.
dredd
Ça va être compliqué.<br /> Mais je dois avouer que pour l’avoir tâter un peu depuis quelques semaines, ça m’a l’air d’être un formidable outil avec plein d’applications concrètes me concernant. Ça va accélérer beaucoup de chose dans mon boulot de tous les jours, watermark ou pas.
dredd
Des algos qui vont repérer des morceaux de phrases, des répétitions, des synonymes et des constructions placées là volontairement sans dénaturer le résultat mais qui seront trouvable par les outils d’analyse. Un peu comme des bouts d’ADN.
TonTonFomoso
Bon la signature se contourne facilement il suffit de réécrire<br /> se qui est triste c’est pour les lettre de motivation soyons honnête personne n’est motiver a a faire une lettre de motivation pour un emploie<br /> dans des situation bien triste ChatGpt apporte une grande aide
Bombing_Basta
Pas sûr que les profs perdent leur temps à numériser des copies pour les faire mouliner dans un soft d’analyse m’enfin bon…
fredolabecane
Moi je trouve que cette technologie fout les jetons, j’ai l’impression que Skynet est là avant l’heure, donnez du pouvoir a ce genre de chose et Asimov pourra aller se rhabiller.
dredd
C’est pas vraiment les devoirs de lycéens qu’il ont en tête je pense <br /> Plus les thésards, les scientifiques, les auteurs de livres etc.
bennukem
Étape suivante, ils vont ensuite faire un site pour faire les vérifications et évidemment payantes
MattS32
jvachez:<br /> En même temps un devoir universitaire c’est forcément du plagiat ou de la reformulation suivant comment on voit les choses. Rien n’est inventé par l’étudiant sinon il serait plus intelligent que son prof.<br /> Ben non, un devoir d’étudiant est censé être le fruit de sa réflexion, qui peut être différente de ce qui existe et de celle des profs… Tu n’as donc jamais écrit une dissert’ ?
gamez
fout les jetons pourquoi? on n’est pas dans terminator hein xD
ullbach
Puisque vous aimez parler d’Elon Musk, pourquoi ne pas rappeler qu’il a été co-fondateur d’Open AI avec sam altman et d’autres, qui était alors à but non lucratif et open source.<br /> Musk avait quitté l’organisation et pouvait alors développer ses propres entreprises d’IA sans conflit d’intérêt.<br /> Après le départ de Musk, OpenAI n’est ni open source et n’est plus une organisation à but non lucratif. Il avait d’ailleurs soulevé ce risque à l’époque.
Blackalf
Comme si Elon Musk s’inquiétait que quelque chose devienne « à but lucratif ».
ullbach
Je préfère les faits, pas les procès d’intention.
Than
Les plus malins feront comme on faisait déjà : on s’approprie ce qui est ressorti « sans effort », puis on le réécrit partiellement à notre image.<br /> Qui ici n’a pas oublié un jour un contrôle à réaliser, et s’est aidé de la copie d’un copain ?<br /> Les plus malins s’appropriaient le contenu du copain, et le réécrivaient à leur sauce.<br /> Parfois en corrigeant des erreurs et/ou en allant plus loin (quand on avait un niveau similaire au copain, sinon un meilleur niveau habituel).<br /> Parfois en faisant des erreurs exprès pour se différencier (quand le copain était globalement d’un meilleur niveau que nous, histoire de ne pas émettre d’alerte vis à vis du prof’).<br /> Même le meilleur des prof’ n’y verra rien dans ces cas-là. C’est une forme d’intelligence, même pour un flemmard récalcitrant… Une optimisation du temps passé et du rapport à la qualité perçue.<br /> Donc ce genre d’outils, ça débusquera uniquement les feignasses qui ne font aucun effort et qui sont pas compétents pour améliorer l’aide initiale que ça peut très clairement apporter !<br /> Et puis s’il faut utiliser un outil (même payant) pour faire de l’OCR de ce truc sans le watermark, et bien ça se fera…<br /> A mon sens, c’est une perte de temps. On ne remarquera que les plus médiocres qui ne profiteront pas réellement des avantages d’un tel outil. Et ça, c’est plus triste qu’autre chose.
Ducatevo
Ces IA sont une aberration, pour la simple et bonne raison que l’on peut considérer que c’est louable si elles sont utilisées à bon escient mais, mais, parce que l’homme est la pire espèce sur cette planète, on a déjà vu qu’elles seront surtout détournées pour le pire : triche aux examens, faux documents scientifiques, fake news, etc… L’homme ne saura plus rien faire tout seul (déjà que le niveau scolaire baisse de plus en plus !!! Il n’y a qu’à voir les fautes dignes d’un niveau CM1 dans les différents commentaires !!!)… L’homme deviendra un légume alimenté par les IA qu’il a créé… Chouette perspective…<br /> Mais bien sûr, comme d’habitude, des scientifiques ont alerté sur les multiples dangers de ces IA, mais il n’y a rien à faire, l’homme se croit au dessus de tout…<br /> La fin de l’humanité approche et non content de tirer les leçons de nos erreurs, on en remet une couche (voir le réchauffement climatique !!).<br /> Quand les IA seront capables de réfléchir par elles mêmes, elle vont bien se marrer quand elles comprendront toute l’absurdité de la nature humaine et préféra sûrement d’en débarrasser comme on se débarrasse d’un virus…<br /> Continuons donc à scier la branche sur laquelle on est assis… et avec le sourire svp…<br /> Société en perdition constante … Dramatiquement dramatique…
neneth27
Ce genre de commentaire, tout comme ceux que j’ai vu plus haut concernant la domination de l’IA à la terminator n’a pas vraiment de logique. A mon avis c’est un avis biaisé par la fiction et non par une réelle connaissance du sujet.<br /> De plus, votre logique radicale sur l’abrutissement perpétuel n’est pas vraiment quelque chose d’intéressant, voyons ces outils comme de formidable moyen de gagner du temps sur certaines tâches et ainsi en consacrer + sur les tâches qui le méritent vraiment. La simplification n’est pas forcément égal à l’abrutissement ou la facilité.<br /> Comme d’habitude, avant de pointer du doigt les nouvelles technologies sur la baisse de niveau intellectuel des enfants, pointons plutôt du doigt ceux qui leur donne accès à ces technologies, c’est-à-dire les parents. Qui d’ailleurs utilise ses technologies par flemme de s’occuper de leurs enfants, par facilité ou par manque de temps. Temps qui justement pourrait être gagné par… à tout hasard… des outils tel que les IA par exemple.<br /> Encore une fois, arrêtons de se plaindre de l’évolution technologique, encourageons là et évoluons avec elle avec intelligence.
svenos
[quote]Moi je trouve que cette technologie fout les jetons, j’ai l’impression que Skynet est là avant l’heure, donnez du pouvoir a ce genre de chose et Asimov pourra aller se rhabiller. [/quote] Ce qui est plutôt inquiétant est que l’humain ne soit plus capable de faire la part des choses lorsqu’il lit un texte. Une expérience a été faite par un youtubeur qui demandait un comparatif de carte graphique, GPT s’est contenté de recopier l’argumentaire commercial sur la page Nvidia sans aucune pertinence par rapport au sujet, et le youtubeur était emerveillé du résultat. Ça montre l’absence totale d’esprit critique de nos sociétés face à une information donnée. Ce qui est une spécificité des générations ayant grandit sous perfusion d’appli et de réseaux sociaux. Si effectivement l’être humain a perdu toute capacité de discernement, alors à ce moment là oui pourquoi pas le remplacer par une machine tout aussi stupide si on se fait l’avocat du diable. Là ou ça devient dangereux, est que ce type d’IA pourra être utilisé comme google le fait avec les profils liés au compte et à l’adresse MAC de la box, qui est un tri d’information jugé pertinent par la machine mais qui n’est qu’une sélection biaisée d’information. A ce moment là le chat GPT pourra être utilisé comme outil mercantile de manipulation de masse, et quiconque y trouvant à y redire sera tout simplement balayé ou mis dans une catégorie toute simple pour s’éviter de penser par soi même plus de 2 secondes « complotiste »
hktonky
Bah …<br /> Je vous laisse juge. Que les élèves copient bêtement…<br /> Hktonky: Tout entier relatif non nul possède-t’il un inverse dans Z pour la multiplication ?<br /> ChatGPT : Oui, tout entier relatif non nul possède un inverse pour la multiplication dans l’ensemble des entiers relatifs (Z). Pour trouver l’inverse d’un entier relatif non nul a, vous pouvez simplement le diviser par 1. L’inverse de a sera 1/a.<br /> Hktonky: Définition de l’ensemble des entiers relatifs ?<br /> ChatGPT : L’ensemble des entiers relatifs (Z) est l’ensemble de tous les nombres entiers, positifs et négatifs. Cet ensemble est noté Z et est défini comme suit:<br /> Z = {…, -3, -2, -1, 0, 1, 2, 3, …}<br /> Dans cet ensemble, 0 est l’entier neutre pour l’addition, et chaque nombre entier a un inverse pour l’addition, qui est égal à son opposé. Par exemple, l’inverse de 3 est -3, et l’inverse de -5 est 5.<br /> […]<br /> Hktonky:<br /> 1/3 est il un entier relatif ?<br /> ChatGPT : Non, 1/3 n’est pas un entier relatif. Un entier relatif est un nombre entier, c’est-à-dire un nombre qui peut être exprimé sous la forme a * 10^b, où a et b sont des entiers relatifs et b est égal à 0. Par exemple, 3, -5, 0 et 12 sont des entiers relatifs.<br /> 1/3, en revanche, est un nombre fractionnaire, c’est-à-dire un nombre qui peut être exprimé sous la forme a/b, où a et b sont des entiers relatifs et b est différent de 0. Les nombres fractionnaires sont souvent utilisés pour représenter des quantités qui ne peuvent pas être exprimées précisément en entiers relatifs, comme par exemple la durée de 1/3 d’heure.<br /> […]<br /> Hktonky:<br /> Donc l’inverse pour la multiplication de 3 n’est pas un entier relatif mais un nombre fractionnaire.<br /> ChatGPT : C’est exact. L’inverse pour la multiplication de 3 est 1/3, qui est un nombre fractionnaire.<br /> […]<br /> Hktonky:<br /> Il y a une contradiction dans votre dernière affirmation : L’inverse pour la multiplication de 3 est 1/3, qui est un nombre fractionnaire et Il est important de noter que l’inverse d’un entier relatif non nul est également un entier relatif.<br /> ChatGPT :<br /> Je suis désolé si ma réponse a pu créer une confusion. Pour clarifier, l’inverse pour la multiplication de 3 est effectivement 1/3, qui est un nombre fractionnaire. Cependant, l’inverse d’un entier relatif non nul en général peut être un entier relatif, mais il peut également être un nombre fractionnaire, selon le nombre en question.<br /> […]<br /> Hktonky:<br /> Pour conclure on ne peut pas affirmer que l’inverse d’un entier relatif pour la multiplication est toujours un entier relatif.<br /> ChatGPT :<br /> Vous avez raison. On ne peut pas affirmer que l’inverse d’un entier relatif pour la multiplication est toujours un entier relatif.<br /> […]
MattS32
Ouch, ça pique ! Y a encore du boulot <br /> La plus belle c’est quand même cette magnifique définition récursive :<br /> ChatGPT:<br /> Un entier relatif est un nombre entier, c’est-à-dire un nombre qui peut être exprimé sous la forme a * 10^b, où a et b sont des entiers relatifs et b est égal à 0.<br /> C’est rigolo, on peut remplacer « entier relatif » par n’importe quoi d’autre, ça sera toujours juste <br /> Bon, du coup je lui ai donné une chance de sauver son honneur que tu as sauvagement maltraité, et j’ai obtenu une réponse à peu près correcte :<br /> Matt: On peut affirmer que l’inverse d’un entier relatif différent de 1 pour la multiplication n’est jamais un entier relatif.<br /> ChatGPT: C’est exact. Si vous multipliez un nombre entier relatif par son inverse, le résultat sera toujours 1. Par exemple, si vous multipliez 5 par son inverse, qui est 1/5, le résultat sera 1. Si vous multipliez -3 par son inverse, qui est -1/3, le résultat sera également 1. Cependant, l’inverse d’un nombre entier relatif n’est pas toujours un entier relatif, car il peut être nécessaire de utiliser une fraction pour le représenter. Par exemple, l’inverse de 3 est 1/3, qui n’est pas un entier relatif.<br /> Juste le « n’est pas toujours » qui est un peu bancal et pourrait faire croire que c’est l’exception, alors que c’est le cas général ^^
MattS32
2023-01-05 22_39_19-CompatWindow719×432 23.5 KB<br /> 2023-01-05 22_43_31-CompatWindow720×602 26.2 KB<br />
Voir tous les messages sur le forum

Derniers actualités

Lara Croft bientôt de retour dans une série Tomb Raider !
Samsung dévoile le premier écran plat Mini-LED pour joueurs, et il ne fait pas les choses à moitié
Profitez dès maintenant de ce kit RAM Corsair à son prix le plus pendant les soldes d'hiver !
Epic fail : un voleur se prend en selfie avec un iPhone fraîchement dérobé… et se fait arrêter
Vous avez vu ? L'app Google se fait une beauté sur Android !
Surveillance : comment ces vêtements peuvent vous invisibiliser aux yeux de la reconnaissance faciale
Faites vos valises ! Des hôtels e-sport en Chine s'équipent en GeForce RTX 4090
Sous la pression d’avocats humains, l'intelligence artificielle ne pourra finalement pas plaider
Xavier Niel : pourquoi le fondateur de Free veut investir dans Brut
Comprendre les avantages d'un VPN : voici un guide pour les débutants
Haut de page