Sous la pression des nombreux détracteurs de ChatGPT, OpenAI craque et propose un outil de détection pour déterminer l'origine d'un texte.
Cette initiative vient peu après le développement de DetectGPT du côté de l'université de Stanford. La start-up montante précise cependant, dans une métaphore bien trouvée, que son nouvel outil trouve un point commun avec le fameux et perfectible test Voight-Kampff de Blade Runner.
T-800 contre T-1000, version ChatGPT
Alors que l'extrêmement populaire chatbot d'OpenAI commence à être bloqué dans certaines institutions comme les écoles, des idées bourgeonnent pour aider à déceler si un texte a été généré ou non par une IA. L'efficacité du chatbot ChatGPT présente en effet de potentielles et dangereuses dérives, puisqu'il a notamment réussi un examen d'entrée à la fac de droit américaine sans trop se fatiguer.
Face à cette pression, le nouveau partenaire privilégié de Microsoft présente une première ébauche d'arme contre sa propre création. Ce nouvel outil prend la forme d'un conteneur de texte dans lequel il convient de copier-coller un texte, justement.
Après analyse, le détecteur rendra sa sentence ainsi s'il considère que le texte a été écrit par un humain : « Le classificateur considère le texte comme très peu probablement généré par une IA. » Dans la situation contraire, sa réponse sera la suivante : « Le classificateur considère le texte comme étant possiblement généré par une IA. »
ChatGPT rêve-t-il d'essais électriques ?
Cette réponse demeure pour l'instant lacunaire, mais son jugement s'avère généralement correct. L'analyse de plusieurs articles écrits par un rédacteur de chair et d'os a ainsi rendu le verdict « très peu probablement générés par une IA » (tant que l'on ne va pas les chercher du côté de CNET), tandis que des essais demandés à la hâte sur ChatGPT reçoivent le label « possiblement générés par une IA ».
OpenAI avertit cependant quant aux limites de ce relativement jeune détecteur. La start-up préconise notamment de ne pas l'utiliser seul ni de prendre son avis pour argent comptant. De même, le détecteur fonctionne pour l'instant principalement sur l'analyse de textes de plus de 1 000 caractères.
Doucement mais sûrement, des garde-fous se mettent donc en place autour de cet outil fort pratique, mais ouvrant plusieurs portes qu'il serait plus sage de garder fermées. Alors que l'intelligence artificielle est un sujet bouillant de l'actualité, gageons que d'autres initiatives du même acabit se développeront au fur et à mesure contre la prolifération des générateurs de contenu assistés par l'IA.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.
Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.
Source : OpenAI
Fan absolu de tech, de films/séries, d'heroic-fantasy/SF et de jeux vidéos type RPG, FPS et hack&slash qui se shoote à coups de lore sur Star Wars, The Witcher, Cyberpunk, Game of Thrones et Donjons & Dragons/Baldur's Gate 3.
Lire d'autres articles
