Pourquoi la CNIL enquête-t-elle sur ChatGPT ?

Alexandre Boero

Chargé de l'actualité de Clubic

14 avril 2023 à 13h15

Face à la multiplication des plaintes à l'encontre de ChatGPT, la CNIL a décidé d'enquêter sur le robot conversationnel d'OpenAI.

Après avoir reçu pas moins de cinq plaintes en bonne et due forme, la Commission nationale de l'informatique et des libertés a décidé d'ouvrir une procédure de contrôle au sujet de l'intelligence artificielle ChatGPT. Cette dernière fait déjà l'objet de vives critiques au Canada et en Italie, et suscite une inquiétude grandissante en France. À quoi doit-on s'attendre ?

Traitement des données personnelles, politique de confidentialité, conditions générales d'utilisation : les dossiers ChaudsGPT ne manquent pas

Si vous avez déjà consulté Clubic cette semaine, vous êtes peut-être tombé sur notre article relayant la plainte déposée sur le bureau de la CNIL par le député Renaissance Éric Bothorel contre ChatGPT. Si cette dernière peut paraître futile (car fondée sur une requête biographique de l'élu), elle soulève un problème de taille : qu'en est-il du traitement des données opéré par ChatGPT et OpenAI ?

Au-delà de cette plainte, l'avocate Zoé Vilain en a déposé trois autres, comme le révèlent nos confrères de L'Informé. Elle a mis sur la table le dossier des conditions générales d'utilisation qui ne sont même pas soumises à acceptation à l'internaute, de même que l'absence d'une politique claire de confidentialité.

La cinquième plainte est l'œuvre du développeur David Libeau, membre de l'association Exodus Privacy & Open Knowledge France. Celui-ci fait peu ou prou les mêmes reproches que le député Bothorel en ce qui concerne les fausses informations produites par ChatGPT au moment de répondre à un prompt (une requête) sur son identité.

Un encadrement plutôt qu'une interdiction ?

Ces plaintes, motivées, ont incité la CNIL à réagir, elle qui étudie déjà la problématique de l'intelligence artificielle depuis plusieurs mois. Au vu de l'explosion de la popularité des robots conversationnels de type ChatGPT, nul doute que le gendarme des données est en train de travailler a minima sur la réponse à apporter. Plus qu'une interdiction pure et simple, on imagine l'autorité plancher sur un encadrement de la technologie.

Aujourd'hui, certaines des propriétés du robot conversationnel semblent coïncider avec une ou plusieurs dispositions du RPGD, le règlement européen. Comme nous l'expliquions plus tôt cette semaine, les résultats fournis par ChatGPT peuvent être rattachés au RGPD, dont l'article 5d précise que « les données à caractère personnel doivent être […] exactes et, si nécessaire, tenues à jour ». En outre, le texte ajoute que « toutes les mesures raisonnables doivent être prises pour que les données à caractère personnel qui sont inexactes […] soient effacées ou rectifiées sans tarder ».

Plusieurs questions se posent ainsi à la CNIL : quel est le vrai statut de ChatGPT ? Traite-t-il des données à caractère personnel ? OpenAI recueille-t-elle le consentement de ses utilisateurs comme il se doit ? L'autorité française pourra en tout cas compter sur le soutien de l'EDPB (Comité européen de la protection des données) qui vient d'annoncer la création d'un groupe de travail sur l'IA pour favoriser la collaboration entre les « CNIL » européennes.

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Sources : Les Échos, L'Informé, Clubic

Alexandre Boero

Chargé de l'actualité de Clubic

Lire d'autres articles

Journaliste, chargé de l'actualité de Clubic. Reporter, vidéaste, animateur et même imitateur-chanteur, j'ai écrit mon premier article en 6ème. J'ai fait de cette vocation mon métier (diplômé de l'EJCAM, école reconnue par la profession), pour écrire, interviewer, filmer, monter et produire du contenu écrit, audio ou vidéo au quotidien. Quelques atomes crochus avec la Tech, certes, mais aussi avec l'univers des médias, du sport et du voyage. Outre le journalisme, la production vidéo et l'animation, je possède une chaîne YouTube (à mon nom) qui devrait piquer votre curiosité si vous aimez les belles balades à travers le monde, les nouvelles technologies et la musique :)

Lire d'autres articles

Commentaires (11)

Mister_Georges

Vilain et Libeau c’est tout de même du lourd! Après le Chatbot il est tout jeune même pas majeur… Que va faire la CNIL à par essayer de pomper du fric pour obtenir cause auprès de certains grincheux?

Fodger

Il est regrettable que la CNIL s’intéresse à chatgpt uniquement parce qu’il y a des plaintes, ils ne réfléchissent pas là bas ?

gekola

Ils tentent avec leur peu de moyen (et de pouvoir) de faire appliquer les règles. Et d’un avis non éclairé je pense que OpenAI est probablement en dehors de clou avec leur produit, pour une raison assez simple, c’est que les règles au USA ne sont pas les même que les française ou européenne et qu’une entreprise américaine ne veut pas particulièrement coller aux règles d’autre états, (trop chère, trop compliqué, pas de connaissance …).

Mister_Georges

OpenAi est dans leur collimateur parce que c’est devenu un projet non libre financé par Microsoft$

Than

Il va falloir le répéter encore longtemps vu le niveau de compréhension : cet outil n’est pas une source d’informations véridiques, mais un agenceur de mots les uns après les autres, par « potentiel statistique pour faire sens ». La véracité telle qu’on l’entend, nous humains, n’est pas sa raison d’être. Peut-être que ça le deviendra (et ça nous aiderait bien, nous humains, pour pas mal de demandes). Punir un outil sur autre chose que ce pour quoi il est prévu, c’est quand même balaise.

ovancantfort

Bizarre, je pensais que ChatGPT avait justement été prévu pour donner des réponses factuelles à des questions posées en langage naturel. D’ailleurs, posons-lui la question…Es-tu prévu pour donner des réponses factuelles ? "Oui, en tant que modèle de langage, mon but est de fournir des réponses factuelles et précises aux questions posées, en utilisant les connaissances et les informations disponibles dans les données d’entraînement et les sources en ligne. Cependant, il est important de noter que ma précision et ma pertinence dépendent de la qualité de la question posée et des informations disponibles sur le sujet. " Pas de bol, même ChatGPT n’ est pas d’accord avec toi!

Blackalf

On voit poindre une nouvelle mode…il n’y aura plus de commentaires personnels ni d’opinions ou d’avis, rien que des « ChatGPT a dit que… ». On assiste peut-être là à la naissance d’une nouvelle religion.

KlingonBrain

Comme avec chaque innovation majeure, on peut s’attendre à une bonne grosse diarrhée de de loi réactionnaires. Surtout en France…

ovancantfort

Plus sérieusement, je ne comprends pas du tout cet argumentaire. « Il n’est pas prévu pour cela », « ce n’est pas sa raison d’être ». Il est prévu pour qu’on lui pose des questions, mais pas pour y répondre ? Quelle est sa raison d’être alors ? C’est à peu de chose près la même ligne de défense qu’avait utilisé Yann LeCun au sujet de Galactica. Il a accusé les utilisateurs de « frivolement » mal l’utiliser … en reproduisant exactement le type de requêtes qui était donné en exemple sur la page d’accueil.

Than

Cadeau ! Une source qui résume parfaitement ce qu’est cette IA, et toutes les autres du genre, et qui m’évitera de me répéter. Je me suis fait un fichier avec ce récap’ tellement c’est aberrant d’avoir des commentaires qui lui inventent des actions, de la volonté, de la compréhension de concept que ce truc n’a pas et n’est pas programmé pour. Source : Ce qui se cache derrière le fonctionnement de ChatGPT, Chaine YT – ScienceEtonnante : Ce qui se cache derrière le fonctionnement de ChatGPT - YouTube Tout est à voir pour bien comprendre, il y a d’autres éléments intéressants mais je n’allais pas recopier tout le script. J’ai donc résumé l’essentiel pour les flemmards. Mon résumé ci-dessous : ChatGPT est : Un modèle de manipulation du langage naturel, entrainé sur une tâche : chercher en permanence le prochain mot d’un texte. Un excellent modèle d’interpolation, ce qui lui permet de formuler des « réponses » inventives (c’est-à-dire qui ne sont pas un copier/coller de sa base de données d’entrainement). ChatGPT n’est pas : Conscient. Capable de citer des sources (il les invente, car il recherche la plausibilité du mot/token suivant. Un token est un bout de mot, c’est pour ça que parfois il cherche… par bouts de mots, et non par mot entier). Un répéteur de ce qu’il a trouvé sur Internet. Il se sert des éléments d’Internet (ce qu’on lui a donné à manger pour l’entrainer) pour formuler ses suites de mots. Capable de dire la vérité : il ne sait pas ce que c’est. Capable de lier des questions différentes entre elles (donc aucune mémoire de ce qu’on lui demande). Capable de répondre à une question. Parce qu’il n’a pas de concept de question. Capable de calculer des choses même simples pour un humain. Puisqu’il met juste côte à côte des mots/token qui semblent raisonnables dans la conversation. ChatGPT permet : Une continuité dans les échanges. De trouver des suites possibles à un mot (ou, en plus petit, un token). De la complétion automatique qui fonctionne à l’échelle d’un texte. De fabriquer des suites plausibles pour faire des phrases plausibles. Des choses qui ne dépareillent pas trop de ce qu’on pourrait trouver nous humains sur Internet. D’utiliser l’équivalent d’une centaine de pages en guise de contexte pour répondre. D’inventer littéralement du texte. ChatGPT n’a pas pour but : De dire la vérité. Il n’a pas de concept de vérité. Il ne sait pas ce que c’est. De répondre à des questions. Il n’a pas de concept de question/réponse. Il ne sait pas ce que c’est. Je vois pas comment expliquer mieux. Si on comprend pas ça, je peux rien faire de plus. Tout le reste, c’est du fantasme, et là, c’est pas mon domaine. Si les gens ont envie de voir des Terminators et des Skynets au moindre truc qui a l’air un peu magique, et qu’ils font aucun effort de compréhension parce que c’est « moins » excitant quand on comprend comment ça marche et les lacunes, j’y peux rien aussi. A part ne plus perdre mon temps à tenter d’apporter de l’info’. Bref, voilà pourquoi je m’évertue à répondre jusqu’à présent. ^^’

pinkfloyd

Bon courage @Than, a chaque fois que j’essaye de faire un peu ouvrir les yeux aux gens, on te traite de débile car tu n’as pas compris « la puissance de chatGPT »… Comme quoi les articles remplis de superlatif des medias n’ayant pas chercher a comprendre comment cela marche a bien plus de pouvoir sur la populasse que l’information concrete et analysé.

ovancantfort

Bonjour, Merci, je sais déjà tout cela. En fait, tu répètes sans cesse « ChatGPT n’a pour but ceci ou cela… » mais cela ne répond pas à la question fondamentale : pour quel but / usage ChatGPT a-t-il été développé ? En l’ associant à Bing, Microsoft a clairement positionné l’usage principal comme étant répondre à des recherches / questions. Tous les exemples d’ usage donnés sur l’accueil de l’app Bing sont des questions. Ceci dit, je pense personnellement que Microsoft met la charrue avant les bœufs en donnant en positionnant ChatGPt dans un usage qu’il n’est pas capable de remplir avec l’exactitude souhaitée. C’ est potentiellement dangereux car le grand public n’a qu’une idée très vague des limites d’un tel outil.

Than

Ah, ça c’est une bonne question ! Et j’ai pas cette réponse d’ailleurs, maintenant que tu la poses. Je vais devoir chercher. Peut-être qu’à la base, c’est « simplement » pour pousser les modèles plus loin. Il y a des tas de choses que ce type d’IA fait bien mieux que des humains (et c’est pour ça qu’on est déjà quelques uns à l’avoir incorporé dans notre quotidien, perso’ et pro’). Et en les poussant plus loin ces modèles, on s’aperçoit qu’on peut les « fine tuner » pour faire encore davantage et mieux (perso’ j’attends avec impatience quand on pourra lui faire chercher, veiller, automatiser des requêtes de recherche dans le temps, voire des pré-actions, si tout ça devient possible). En l’associant à Bing, Microsoft l’a positionné pour répondre à des requêtes. Ce n’est pas la même nuance. Et j’y tiens. Y’a une énorme diff’ entre répondre à des questions et répondre à des requêtes. Répondre à des questions ça sous-entend que ça y répond de façon juste. Or, on voit bien que c’est pas du tout la façon dont a été programmé ce genre d’IA, pour le moment. En tout cas ça demande de les « fine tuner » bien au-delà ce qu’on sait faire aujourd’hui. Ce n’est pas parce qu’on pose des questions sur notre navigateur qu’il faut considérer les « résultats de recherche » comme des réponses. On sait tous très bien que parfois ces réponses sont complètement foireuses, parfois complotistes, parfois totalement hors sujet, et même que pour certaines requêtes Google nous « ment » en nous affichant 3 milliards de résultats, alors que lorsqu’on fait défiler les pages (quand on est vraiment curieux d’un sujet) on s’aperçoit que le nombre de pages diminue vachement vite au final ! (genre tu passes à 30 pages au lieu de 30 000. Subitement y’a eu une vérification des résultats ? Non, bien sûr que non. Pas aujourd’hui en tout cas.), ou même parfois Google insiste sur le fait que s’il trouve rien avec notre orthographe précise c’est qu’on a surement mal écrit la requête. Alors que ce n’est pas toujours le cas… mais comme son objectif à lui c’est de donner des résultats à une requête, il donne des résultats à une requête. Qu’importe que ça soit cohérent avec la « question ». Relativement d’accord avec ta dernière phrase, mais relativement seulement car pour tester les limites de ce type d’outils, c’est justement en le confrontant à de réels utilisateurs avec des envies et des attentes différentes que tu peux le faire. Pas avec ton équipe d’ingénieurs qui ont le nez dans le guidon, une vision de l’utilisation du truc qu’ils ont pondu, et pas du tout les mêmes manières de penser et donc de penser à comment détourner leur propre outil. Enfin, perso’ c’est un truc qui m’énerve mais je te donne pas tort pour autant : à un moment faut arrêter de prendre le grand public que pour un con, et voir ce que ça donne aussi. Peut-être, aussi, en lui donnant les outils pour comprendre. Et ça passe notamment par toute la clique médiatique qui écrit des titres p*tassiers, des contenus au niveau critique zéro (sauf si ça peut sensation et buzz), etc. etc. Et ça, on le doit à notre cher modèle économique, mais je risque de m’égarer du sujet initial. Ce qui est dommage, c’est que pour un type qui fait une vidéo qui explique comment ça fonctionne, t’en as 100 qui racontent n’importe quoi pour faire des vues. Du coup, le grand public… il est pas aidé. PS : Je peux paraître pointilleux/relou sur le sujet, mais la recherche d’information c’est littéralement mon quasi quotidien depuis près de 20 ans. Donc ça me sidère ce niveau de nullité persistant à l’époque où on a la possibilité d’accéder à la quasi totalité de la connaissance humaine parce qu’on a la possibilité de la partager en grande partie. Voir qu’on passe plus de temps et d’énergie à la détourner de toutes les manières les plus sordides, c’est certainement fascinant mais c’est aussi très pénible.

juju251

Mister_Georges: OpenAi est dans leur collimateur parce que c’est devenu un projet non libre financé par Microsoft$ Etant donné le fait que Microsoft est adoubé au niveau de l’état (notamment le contrat avec l’Education Nationale), permet moi d’en douter fortement. Than: Il va falloir le répéter encore longtemps vu le niveau de compréhension : cet outil n’est pas une source d’informations véridiques, mais un agenceur de mots les uns après les autres, par « potentiel statistique pour faire sens ». La véracité telle qu’on l’entend, nous humains, n’est pas sa raison d’être. Il va falloir répéter encore longtemps que ce postulat c’est bien joli, mais un paquet de personnes prennent ce qu’il répond pour argent comptant, voir vont l’utiliser pour lancer de nouvelles théories complotistes … Et c’est sans douté déjà le cas. KlingonBrain: Comme avec chaque innovation majeure, on peut s’attendre à une bonne grosse diarrhée de de loi réactionnaires. Surtout en France… Il n’y a pas besoin d’innovations majeures pour que des lois réactionnaires / liberticides passent.

Than

Tout le monde peut faire n’importe quoi d’autre que ce pour quoi n’importe quel objet au monde est inventé/créé. Du coup on fait quoi avec cette logique ?

juju251

Eh, bien, peut-être faut-il encadrer la manière dont le machin fonctionne. Peut-être faut-il ajouter à chaque réponse de « l’IA » que la réponse n’est jamais qu’une réponse donnée par un système qui génère une syntaxe crédible et que cela ne garanti en rien la véracité des réponses en terme d’exactitude etc. Je ne suis pas pour interdire non plus, hein, mais juste encadrer / faire de la prévention …

Voir tous les messages sur le forum

Pourquoi la CNIL enquête-t-elle sur ChatGPT ?

Traitement des données personnelles, politique de confidentialité, conditions générales d'utilisation : les dossiers ChaudsGPT ne manquent pas

Un encadrement plutôt qu'une interdiction ?

A découvrir en vidéo

Commentaires (11)

Top app & logiciels

Sur le même sujet