ChatGPT : 4 choses à éviter à tout prix quand vous utilisez l'IA d'OpenAI

Léa Berthelot
Publié le 28 août 2023 à 17h30
© Shutterstock
© Shutterstock

ChatGPT constitue un excellent outil d'assistance au quotidien, quelle que soit la tâche pour laquelle il est utilisé. Pour en faire bon usage, il convient de prendre connaissance des bonnes pratiques, mais surtout de celles à éviter. Découvrez 4 choses à ne pas faire pour garantir une utilisation sécurisée et efficace de ChatGPT.

Lancé en novembre 2022 par la société OpenAI, ChatGPT compte depuis quelques mois plus de 100 millions d'utilisateurs actifs. Cet agent conversationnel basé sur l'intelligence artificielle doit son succès au gain de temps que promet son exploitation. S'il a réponse à tout, cet assistant reste un outil dont il faut considérer les limites. Certaines pratiques sont à proscrire afin d'assurer une utilisation responsable et avantageuse de cette IA générative de texte.

ChatGPT : 4 choses à ne surtout pas faire quand vous utilisez l'IA d'OpenAI

1. Divulguer des informations personnelles ou données sensibles

L'intelligence artificielle de ChatGPT est basée sur le deep learning. Il s'agit d'un type de machine learning dans lequel les ordinateurs représentent des réseaux de neurones artificiels comparables à ceux du cerveau humain. ChatGPT absorbe alors une quantité considérable d'informations pour son apprentissage, tel un véritable aspirateur à données. Il semble donc essentiel de ne pas transmettre n'importe quelle information dans les conversations entretenues, notamment les données personnelles ou sensibles.

En effet, la confidentialité des données renseignées sur la plateforme n'est pas officiellement assurée, si l'on s'en tient au règlement général sur la protection des données (RGPD). Il faut noter l'absence de certaines mentions dans la politique de confidentialité affichée par OpenAI, décrivant ses pratiques en matière de données personnelles.

© OpenAI
© OpenAI

Les utilisateurs de l'outil de dialogue ne sont pas à l'abri d'une fuite de données. ChatGPT a d'ailleurs été victime de plusieurs fuites et violations des données de ses utilisateurs, qu'il s'agisse des données de compte ou de conversation.

Mis à part ce risque de fuite auquel est sujette la plateforme, il faut mentionner l'émergence de logiciels exploitant l'interface de programmation d'application (API) de ChatGPT. Parmi ces derniers, on retrouve évidemment des logiciels malveillants conçus pour voler les données des utilisateurs, entre autres objectifs. Pour éviter ce genre de désagrément, mieux vaut donc se rendre directement sur la version web de ChatGPT, qui est pour l'instant l'unique version officielle du service.

En tout cas, il est important de se méfier des informations communiquées à ChatGPT. Mieux vaut garder pour soi toute information personnelle (adresse, numéro de téléphone, informations bancaires, identifiant en ligne, etc.), plus généralement tout ce qui touche de près ou de loin aux données génétiques et biométriques, aux données de santé, aux données concernant la sexualité, l'origine raciale ou ethnique, la politique ou encore la religion.

2. Se reposer entièrement sur les réponses de ChatGPT

Le modèle de langage imaginé par OpenAI est capable de répondre à des requêtes en tout genre, écrites en langage naturel. Ses réponses sont formulées à partir de ses propres recherches et des informations accumulées au fur et à mesure des conversations.

S'il propose des réponses souvent pertinentes, l'outil n'en reste pas moins faillible. Il peut parfois produire des réponses incorrectes, obsolètes ou non vérifiées. Il faut savoir que sa base de données ne contient que des informations antérieures à septembre 2021, date jusqu'à laquelle il a été formé. Cette précision est d'ailleurs mentionnée dans de nombreuses réponses apportées par ChatGPT.

Selon l'utilisation des informations transmises par ChatGPT, il peut être important de vérifier ces dernières auprès de sources fiables, mais aussi de faire appel à son sens critique.

© OpenAI

La vérification de la qualité des informations fournies par l'IA d'OpenIA est notamment essentielle en ce qui concerne les conseils médicaux, juridiques ou encore financiers. Les réponses de ChatGPT peuvent apporter une première idée à propos d'un questionnement, mais ne remplacent en aucun cas les conseils d'un professionnel qualifié. Aucune décision importante ne doit être effectuée à partir des échanges avec l'IA.

Il en va de même pour les étudiants ayant recours au service de génération de texte d'OpenAI. Il est préférable de ne pas centrer toute sa recherche académique sur les réponses de l'outil de dialogue. Les élèves et étudiants ont tout intérêt à réaliser leurs travaux scolaires et universitaires en s'inspirant de sources fiables et vérifiées. Outre cet aspect, il ne faut pas oublier d'aborder le plagiat, un acte d'ailleurs fermement sanctionné. ChatGPT peut constituer une aide précieuse pour les étudiants, mais il ne doit pas être utilisé pour réaliser entièrement un travail, ni pour réécrire un texte protégé par des droits d'auteur.

En tout cas, même s'il est indéniable que l'exploitation des réponses proposées par ChatGPT permet un gain de temps et de productivité dans de nombreux cas d'usage, il convient de ne pas s'y fier à 100 %, mais plutôt de faire preuve de bon sens.

3. Faire abstraction des consignes éditoriales

Pour que l'utilisation de ChatGPT soit la plus bénéfique possible, il convient de ne pas se lancer tête baissée dans la rédaction d'une requête. Cette dernière doit être précise et complète : plus l'outil a d'informations, plus sa réponse est pertinente.

Pour cela, l'utilisateur doit mener une réflexion en amont sur sa requête, ainsi que s'assurer d'être le plus clair possible dans la formulation de sa demande. Il faut donc idéalement commencer par faire ses propres recherches sur le sujet de la requête, afin de disposer d'un minimum de maîtrise et de pouvoir faire preuve de discernement à la lecture des réponses de ChatGPT. Ensuite, dans le contenu de la requête, il est préférable de mentionner quelques précisions, à savoir :

  • Le contexte de la requête ;
  • Le niveau de complexité du texte et le niveau de langage attendu en fonction du public visé ;
  • Le format du texte (article de presse, dissertation, fiche produit, résumé, etc.) ;
  • La longueur à respecter (nombre de mots minimum ou maximum, nombre de paragraphes, etc.) ;
  • Le ton à employer (humoristique, dramatique, décontracté, etc.) ;
  • Les mots-clés à intégrer.
© OpenAI

Ces instructions de rédaction doivent être écrites en langage naturel. L'outil peut générer un texte ultra-complet à partir de ces instructions, mais il peut également fournir des suggestions pour que l'utilisateur puisse ensuite rédiger le texte lui-même. Il constitue alors une aide précieuse, à condition tout de même de bien formuler la requête.

En tout cas, il ne faut pas hésiter à demander des exemples, des explications supplémentaires ou encore une reformulation de la réponse. En réitérant la demande avec des ajustements, cela permet à l'IA d'OpenAI de proposer un contenu plus qualitatif à travers le perfectionnement de son apprentissage. Ce prolongement de la requête doit être effectué dans une seule et même conversation. Pour garantir la pertinence des réponses de ChatGPT, il est en effet essentiel de ne pas créer trop de conversations différentes sur un même sujet et de ne pas aborder de sujets différents dans une seule et même conversation. De plus, pour une expérience productive, mieux vaut ne pas entretenir de conversations excessivement longues et répétitives avec l'outil de dialogue.

Avec ChatGPT, le principe est simple : une communication claire et concise ainsi qu'une fréquence d'utilisation adéquate permettent d'augmenter ses chances d'obtenir une réponse intéressante à sa requête.

A découvrir
Comment utiliser ChatGPT pour vous aider dans votre travail de rédaction ?

21 février 2023 à 15h00

Tutoriels / Astuces

4. Utiliser l’outil à des fins malveillantes

L'IA au service de la génération de texte présente un grand potentiel pour améliorer plusieurs aspects du quotidien : résolution de problèmes, recherche d'informations utiles, simplification de la communication, augmentation de la productivité, etc. En revanche, cette technologie peut être utilisée à mauvais escient par des utilisateurs malveillants.

Il va de soi que ChatGPT et tous les modèles d'intelligence artificielle de manière générale ne sont pas des êtres humains dotés d'une conscience. Dépourvus de jugement moral, ces outils ne mesurent donc pas pleinement le fond de leur réponse à des requêtes inappropriées.

© OpenAI

Il revient donc aux utilisateurs d'adopter un comportement éthique et responsable au moment d'exploiter l'IA d'OpenAI. En ce sens, il convient de ne pas utiliser le générateur de texte pour produire du spam, des discours haineux ou offensants, du contenu automatisé abusif, ou encore des informations trompeuses, fausses ou illégales.

Les utilisateurs peuvent signaler une conversation avec le chatbot qu'ils considèrent comme inappropriée ou abusive, en cliquant sur "Signaler le contenu". Ils doivent renseigner la nature du rapport et décrire le problème rencontré. Si le rôle de chaque utilisateur est essentiel pour un usage raisonné de la plateforme, c'est aussi aux développeurs de ChatGPT de prendre les mesures de sécurité nécessaires pour éviter les abus.

OpenAI fournit des directives d'utilisation claires relatives aux bonnes pratiques de manipulation de l'outil conversationnel. Les requêtes des utilisateurs et les réponses générées par ChatGPT sont passées au crible pour garantir qu'elles respectent ces fameuses directives d'utilisation. De plus, il existe des filtres de contenu pour avertir, voire bloquer les utilisateurs lorsqu'ils se risquent à générer du contenu abusif, inapproprié ou malveillant.

Il est donc essentiel d'éviter ces mauvaises pratiques pour vous assurer d'utiliser ChatGPT de manière sécurisée, raisonnée, efficace et éthique. En ayant conscience des limites des modèles d'IA comme celui d'OpenAI, vous pourrez alors tirer le meilleur parti de votre interaction avec l'outil conversationnel dans l'accomplissement de diverses tâches au quotidien.

  • Chat dans différentes langues, dont le français
  • Générer, traduire et obtenir un résumé de texte
  • Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Par Léa Berthelot

Baignée dans les jeux vidéos depuis l’enfance. Captivée par les subtilités de la langue française. Obstinée quand il s’agit de trouver LA bonne information sur le web. Amatrice d’activités manuelles créatives, de récits initiatiques et de basket-ball.

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !
Commentaires (0)
Rejoignez la communauté Clubic
Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.
Commentaires (8)
gothax

Je n’utilise pas ces systèmes d’ia mais j’ai une question:
Suite à une réponse peut on demander les sources qu’a utilisé cette ia pour sa réponse ??? Merci d’avance soit au rédacteur soit au tchat

MattS32

ChatGPT n’est pas capable de donner ses sources. Parce qu’il ne les retient pas, c’est purement un modèle de langage qui construit le texte qu’il juge le plus probable suite à un prompt.

Donc du coup, si on lui demande ses sources, il répond qu’il ne peut pas. Voici par exemple ce qu’il a répondu après que je lui ai demandé un résumé du match France-Brésil de 1998 puis demandé ses sources :

Bard semble fonctionner différemment, et est capable de donner des sources approximatives. Je lui ai demandé un résumé de la saison 2020 de Formule 1 (résumé qui d’ailleurs est manifestement faux, sans même vérifier : il dit que la saison a fait 17 courses, que Verstappen en a gagné 8 (en précisant en plus que c’est un record pour un débutant… alors que c’était déjà la 6ème saison de Verstappen) et qu’il y a eu 13 vainqueurs différents, ce qui est mathématiquement impossible) puis ses sources :

Bien sûr, voici les sources que j’ai utilisées pour rédiger ce résumé :
Wikipedia
Motorsport
F1i - Auto Journal
Motors Inside
J’ai également utilisé les résultats des Grands Prix de Formule 1 2020, disponibles sur le site officiel de la Formule 1.

En lui demandant d’être plus précis, il m’a donné un peu plus de détails, notamment le titre exact d’un article de Wikipédia :

Bien sûr. Voici des détails supplémentaires sur les sources que j’ai utilisées :
Wikipedia : j’ai utilisé l’article « Championnat du monde de Formule 1 2020 » pour obtenir des informations générales sur la saison, telles que le calendrier, les résultats et le classement des pilotes et des constructeurs.
Motorsport : j’ai utilisé le site web de Motorsport pour obtenir des informations plus détaillées sur les courses, telles que les qualifications, les incidents et les interviews des pilotes.
F1i - Auto Journal : j’ai utilisé le site web de F1i - Auto Journal pour obtenir des informations sur les coulisses de la Formule 1, telles que les contrats des pilotes, les développements des voitures et les changements de réglementation.
Motors Inside : j’ai utilisé le site web de Motors Inside pour obtenir des informations sur les statistiques de la Formule 1, telles que le nombre de victoires par pilote et par constructeur.
J’ai également utilisé les résultats des Grands Prix de Formule 1 2020, disponibles sur le site officiel de la Formule 1, pour vérifier les informations que j’ai trouvées dans mes sources.

Mais ce qu’il dit sur l’utilisation des sources ne correspond pas forcément à ce qu’il a dit dans son résumé (il parle notamment d’infos sur les contrats et d’interview de pilote, alors qu’il n’y a rien de tout ça dans son résumé), donc je serai pas surpris qu’en fait cette liste de source soit elle aussi construite de manière probabiliste…

Wen84

@gothax : Ca va etre compliqué. Quand tu vois une réponse de Chat GPT, il faut juste considérer que sa réponse ne vient pas d’une source précise, car ce n’est juste pas comme ça que ça fonctionne

gothax

Merci @mattS32
Je pense par contre que chatgpt peut donner ses sources car c’est un algorythme, une ‹ machine › et même s’il y’a un million de sources il a les ‹ liens ›
Donc @Wen84 il fonctionne comment ?
Je pense et -c’est mon avis- que la ‹ source › est cruciale et son oublie est vitale pour ces sociétés (certaines) qui développent les ia pour ne pas écrire noir sur blanc que certaines data sont utilisées sans accord
@matts32 : penses tu que ces sociétés ont pour certaines obligé leur ia à oublier ? Vu la réponse de chatgpt dans ton exemple c’est bizarre la réponse je trouve

MattS32

Non, il ne mémorise pas les liens. Il construit son modèle de langage à partir des sources, mais il ne mémorise ni les liens vers les sources, ni leur contenu exact (il ne peut pas te ressortir mot pour mot un article qui lui a servi de source, même si tu sais qu’il est dans sa base d’apprentissage et que tu lui demandes précisément cet article).

En fait, c’est comme si tu demandais à quelqu’un dans la rue quel est le résultat de France-Brésil puis que tu lui demandes sa source. Beaucoup de gens sauront te donner le résultat. Mais en dehors de ceux qui ont regardé le match en direct, peu seront capable de te dire d’où ils ont tiré l’information… Et encore, là c’est des gens à qui tu poses une question qu’ils comprennent et y répondent parce qu’ils ont compris la question. ChatGPT ne « comprend » même pas réellement la question. Simplement, son modèle statistique lui dit que la suite la plus probable à « Quel est le résultat de France-Brésil 1998 » est « 3-0 ».

On voit bien cette absence de compréhension dans la réponse de Bard sur le championnat de F1 2020 : il dit qu’il y a eu 17 courses, que Verstappen en a gagné 8 et qu’il y a eu 13 vainqueurs. S’il comprenait un tant soit peu ce qu’il dit, il se rendrait compte que ces chiffres sont impossibles… (en fait, le 13, c’est le nombre de pilotes différents à être monté sur le podium, pas à avoir gagné une course)

Wen84

Bien sur que la source est crucial. Mais en gros Chat GPT, en vulgarisant le concept : Tu lui donne du contenu pour sa BDD, n’importe quoi. Tu tapes une phrase, il va chercher dans sa BDD ce qui match le plus avec cette phrase et générer une réponse probable, qui sera simplement un aggrégation de tout ce qui match le mieux.
En gros, la réponse peut très bien avoir utilisé du contenu qui disent des choses qui se contredisent, Chat GPT n’en a rien à foutre. S’ils te donnaient les source du contenu (En admettant que ce soit possible), tu aurais sans doute des centaines et des centaines de contenus, parfois qui se contredisent, parfois sans lien entre eux.
ChatGPT en gros, c’est comme l’outils du clavier tactile de ton smartphone. C’est principalement la génération d’une réponse probable, sans se soucier de comprendre ce que ça veut dire.
Alors évidemment, je n’ai pas codé chat GPT, j’ai un peu étudié l’aprentissage automatique à la fac, mais je suis pas expert en la matière. Il y a des subtilités et peut etre que demain, il pourra te sortir des sources fiables. Mais c’est pas le cas aujourd’hui.

MattS32

Non, elle n’a simplement jamais su. C’est comme si par exemple tu lisais tous les jours tous les articles d’une dizaine de sites comme Clubic, puis qu’on te posait des questions sur des trucs évoqués dans les articles. Tu serais capable de répondre à peu près aux questions. Mais tu ne serais incapable de donner le lien vers l’article d’où tu tires l’information. Ni de citer exactement le contenu d’un article. Parce que tu as mémorisé l’information, pas le texte ni les URL.

Et si je te demande aujourd’hui qui a été élu président des USA en 2012, tu sauras sans doute me répondre. Mais tu ne sauras pas me donner une source. Parce que tu as retenu l’information. Pas son origine.

ChatGPT, lui, ne retient que la probabilité que tel mot vienne après tels autres mots. Rien d’autre.

À la limite, il pourrait te donner la totalité de ses sources, si OpenAI avait codé spécifiquement un truc pour détecter la demande de sources et répondre avec la liste. Mais il est incapable de te dire précisément quelle est la source qu’il fait qu’il estime que « 3-0 » est le plus probable après « résultat de France-Brésil 1998 ».

Theorie-du-rien

Merci @MattS32
Très intéressant !
Quel bordel !!