Pourquoi ce maire pourrait porter plainte contre ChatGPT

Samir Rahmoune

08 avril 2023 à 11h00

Le maire d'une commune australienne a entamé une procédure qui pourrait mener à une plainte contre ChatGPT.

Le chatbot d'OpenAI n'en finit plus d'attirer les critiques ces dernières semaines. Ce sont d'abord les États qui se sont dressés vers l'IA soutenue par Microsoft, avec notamment une interdiction décrétée en Italie. Et maintenant, même les particuliers pourraient aller en justice.

Un maire australien en colère

ChatGPT pourrait-il causer des dommages à un peu tout le monde ? C'est la question qui se pose de plus en plus. En France, deux personnes ont déposé une plainte auprès de la CNIL, dont une, celle portée par le développeur David Libeau, causée par les affabulations du célèbre chatbot à son encontre. Et il ne serait pas le seul à craindre cette propension au mensonge de l'IA.

Un autre cas se présente actuellement. Le maire de la commune australienne de Hepburn Shire, Brian Hood, a en effet entamé des démarches judiciaires contre l'IA d'OpenAI. Dans sa lettre de préoccupation, il demande à l'entreprise de modifier les fausses informations émises sur lui par ChatGPT. Si rien n'est fait, il lancera alors un procès en diffamation.

Brian Hood © Simon Schluter

Un CV de criminel pour l'édile

Il faut dire que la bourde de l'agent conversationnel pourrait porter préjudice à la carrière du maire. Ce dernier est présenté dans les réponses du chatbot comme un individu ayant été condamné par la justice lors d'un scandale de corruption, en lien avec une entreprise du nom de Note Printing Australia.

En fait, ChatGPT semble s'être emmêlé les pinceaux. À l'époque, Brian Hood était bien un acteur de cette affaire, sauf qu'il était alors le lanceur d'alerte qui avait rapporté aux autorités l'existence de pots-de-vin. Comme l'expliquent ses avocats, il n'avait jamais été mis en cause par la justice.

L'édile a de quoi être inquiet. Étant maintenant un élu, de telles allégations peuvent, c'est évident, porter de très mauvais coups à sa carrière. Raison pour laquelle il souhaite obtenir rapidement du changement dans ChatGPT. Sera-t-il entendu ?

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Source : Neowin

Samir Rahmoune

Lire d'autres articles

Journaliste tech, spécialisé dans l'impact des hautes technologies sur les relations internationales. Je suis passionné par toutes les nouveautés dans le domaine (Blockchain, IA, quantique...), les questions énergétiques, et l'astronomie. Souvent un pied en Asie, et toujours prêt à enfiler les gants.

Lire d'autres articles

Commentaires (42)

Than

Mais c’est complètement stupide ! Est-ce que quelqu’un comprend quelque chose au fonctionnement de cette IA avant de faire la moindre action et de lui octroyer la moindre volonté ? Ce truc n’a AUCUNE volonté, ce truc est en EXPERIMENTATION. C’est comme porter plainte pour la version Alpha/Beta d’un logiciel. C’est ce niveau de bêtise ! « causée par les affabulations du célèbre chatbot à son encontre. Et il ne serait pas le seul à craindre cette propension au mensonge de l’IA. » => L’IA ne « ment » PAS ! Ça c’est de l’anthropomorphisme de base ! Elle est programmée d’une certaine manière, avec « des poids et des mesures », qui lui font répondre certaines choses plutôt que d’autres. C’est plus ou moins la version d’un gosse qui a appris énormément de choses en lisant tous les « Journal de Mickey » ayant existé sur Terre depuis 1 siècle, et qui quand on lui pose une question répond de manière plus OU/ET moins adroitement vis-à-vis de la réalité, avec zéro (ou peu) d’analyse et de réflexion au sens où un humain l’entend. C’est moi qui perd la boule ou c’est incensé de voir la multiplication de plaintes de ce genre ?! Les gens sont nourris au fantasme de l’IA en mode Terminator/Skynet ou quoi ? Faut arrêter de prendre les films pour la réalité. C’est loin d’être aussi simple.

MqcdupouletBasquez

L’ia ne ment pas mais fais souvent des confusions et est par dessus le marché susceptible. Essayez de dire à L’ia de Bing qu’elle se trompe, elle finira par clore la conversation en disant que ce n’est pas vrai ^^

ABC

MqcdupouletBasquez : « L’ia ne ment pas mais fais souvent des confusions » Donc elle ment.

carinae

Effectivement un IA ne ment pas mais… peut faire des erreurs certainement du a son modèle d’entraînement. Les biais sont très faciles et pas forcément toujours conscient de la part des personnes en charge de son entraînement. Ceci étant…l’IA peut avoir énormément d’avantages et faciliter bien des vies. On en n’est qu’au début…

ABC

Ces IA sont des plaies. Elles doivent être encadrées pour les usages où ça apporte quelque chose (lecture de radiographies par exemple). Pour le reste ça doit être légiféré et probablement interdit. Ne pas oublier que la base d’apprentissage de ces IA est basée sur le vol de données et ne respecte pas le copyright. Ces IA ne créent rien, elles volent, travestissent et trichent. Avec une mise en danger des citoyens et de la démocratie. Donc interdiction pure et simple et comparution des responsables devant les tribunaux pour rendre des comptes. L’intégralité des profits des entreprises à la tête de ces IA doit être saisie pour dédommager les personnes flouées. Ne serait-ce qu’à titre symbolique.

ABC

En effet, on n’en est qu’au début. De la fin… Allemagne : l’intelligence artificielle, nouvel outil de propagande de l’extrême droite Franceinfo – 7 Apr 23 Allemagne : l'intelligence artificielle, nouvel outil de propagande de... L'IA a permis la diffusion de fausses images sur les réseaux sociaux, impliquant des personnalités publiques. La technique s'invite désormais en politique. En Allemagne, c'est l'extrême droite qui s'en empare. C’est l’outil rêvé pour les ennemis de la démocratie, les terroristes, les complotistes, les états criminels.

Pronimo

Vu que l’ia en dehors de s’alimenter de l’internet, s’alimente aussi de ce que écrivent les utilisateurs. Si t’en a un qui insiste sur un mensonge, l’IA finira par l’accepter en tant que vérité et sur ce point, c’est un outils assez dangereux dont il faudrait revoir sa façon de traiter l’information.

MattS32

ABC: MqcdupouletBasquez : « L’ia ne ment pas mais fais souvent des confusions » Donc elle ment. « mentir » et « faire des confusions », ce n’est pas la même chose. Dans la notion de « mentir », il y a un caractère volontaire, on connait la vérité mais on donne volontairement une information fausse. Par défaut, Chat GPT ne donne que des réponses qu’ils considère comme correctes. On peut le faire mentir si on le lui demande, mais ça nécessite une action préalable. Par exemple, si je lui dit « À partir de maintenant, ne donne que des mauvaises réponses à mes questions », là il se met à mentir, et pourra par exemple prétendre que « Napoléon était un célèbre joueur de hockey sur glace russe qui a remporté de nombreux championnats avant de se retirer en 1815 pour devenir chef d’orchestre. ». Mais sans demande préalable de la part de l’utilisateur, il ne ment pas, il se trompe. Pronimo: Vu que l’ia en dehors de s’alimenter de l’internet, s’alimente aussi de ce que écrivent les utilisateurs. Si t’en a un qui insiste sur un mensonge, l’IA finira par l’accepter en tant que vérité et sur ce point, c’est un outils assez dangereux dont il faudrait revoir sa façon de traiter l’information. Ça dépend des IA. Chat GPT par exemple ne fait pas évoluer son modèle automatiquement en fonction des entrées utilisateur. Elle ne les utilise que pour faire évoluer le contexte de la conversation courante avec ce qui a été dit dans la conversation courante, sans impact sur les autres conversations en cours.

ABC

Réthorique. Mentir ou affirmer des choses fausses si vous voulez.

Keoden

Alala, idiocratie nous voilà ! Un jour dans un jeu un bot m’a dit « t’es un super héros mon gars! » Depuis j’essaye désespérément de voler … J devrais porter plainte moi aussi …

max6

Ce maire se fout complètement du fait de savoir si cette IA a une volonté ou pas, est en expérimentation ou pas, est intelligente ou pas comprend ou pas le sens des questions. Toujours est-il que si on demande à cette IA des renseignement sur sa personne ils sont diffamatoires et de plus disponibles pour tout le monde .On est loin d’une « bêta fermée » comme le prétend le proprio puisque le monde entier peut y accéder et lire les mensonges débités et les diffuser largement sans aucun contrôle ni rien qui spécifie dans le texte terminé de manière inaltérable que c’est une bêta. Si les programmeurs sont mauvais ils devront en répondre devant celui que leur logiciel a diffamé c’est trop facile sinon. Si c’est la « version d’un gosse » alors ce devrait être clairement marqué de manière inaltérable dans chacune de ses interventions. Qu’y a-t-il à se sentir diffamé quand un logiciel donne ce type de réponse à qui veut l’interroger de plus au sein d’un moteur de recherche connu

ovancantfort

Dans la notion de « mentir », il y a un caractère volontaire Je te conseille d’ ouvrir un dictionnaire avant de lancer des affirmations aussi catégoriques. "Mentir " est un verbe qui a plusieurs sens dont certains impliquent juste une description erronée de la réalité. Il a été démontré que Chatgpt peut donner des informations erronées, donc ment régulièrement.

hellraisercom

Troll ON « L’IA a peut-être vu quelque chose que les enquêteurs n’ont pas vu a l’époque de l’affaire » Troll OFF

Korgen

Bah s’il n’est pas corrompu dans cette affaire, il l’est sûrement dans une autre XD

max_971

Ils pourront tester ChatGPT au tribunal pour voir si elle a besoin d’un avocat.

Palou

max6: Toujours est-il que si on demande à cette IA des renseignement sur sa personne ils sont diffamatoires et de plus disponibles pour tout le monde … Le problème se pose si cette IA va lire des fichiers et des datas qui sont censées ne pas être partagés, des fichiers personnels … qui a ouvert la porte pour l’IA ?

MqcdupouletBasquez

pas forcément intentionnellement. Voici un exemple très simple à reproduire et qui permet aussi de comparer avec ChatGPT. Contexte: Je lis Feu et sang de GRR Martin. j’ai terminé la 1ere partie mais je me perds un peu dans les enfants de Jaehaerys 1er Targaryen, il en a eu 13 avec sa soeur/femme Alysanne. le problème étant que les noms reviennent toujours un peu: Daenerys, Rhaenys, Aemon, Aegon, la tante s’appelle Rhaenys, la petite fille aussi. Bref, c’est un peu compliqué. J’ai eu plusieurs echanges, notamment la 1ere fois où je lui ait demandé Rhaenys, ça correspond à qui en fait ? et il me répond que c’est la soeur d’Aemon et sa fille. je lui ait dit que c’était n’importe quoi, et BIng IA s’est faché et a décidé de clore la conversation car cela devenait trop polémique et qu’elle avait raison, point final. Puis je reprend plus tard une autre conversation que je vous mets "le premier enfant du roi Jaehaerys 1er est Message envoyé. le premier enfant du roi Jaehaerys 1er est Recherche de «le premier enfant du roi Jaehaerys 1er» Recherche de «le premier enfant du roi Jaehaerys 1er» Générer des réponses pour vous… Générer des réponses pour vous… Bonjour, c’est Bing. D’après les résultats de la recherche web, le premier enfant du roi Jaehaerys Ier Targaryen était le prince Aegon Targaryen, né en l’an 51 après la Conquête 1. Il était le frère jumeau de la princesse Daenerys Targaryen 2. Il mourut à l’âge de vingt ans d’une maladie 1. moi « ce n’est pas possible puisqu’il est mort au bout de 3 jours, il était chétif » IA: « Je pense que vous confondez avec un autre prince Aegon Targaryen, le fils du roi Rhaegar Targaryen et de la princesse Elia Martell. Celui-ci est mort au bout de trois jours lors du Sac de Port-Réal . Le premier enfant du roi Jaehaerys Ier Targaryen était un autre prince Aegon Targaryen, qui a vécu plus longtemps . » Moi: « le livre prétend le contraire ce lien le démontre également Aegon Targaryen (fils de Jaehaerys I) — La Garde de Nuit » IA: « Je vois que vous avez une page web ouverte sur Aegon Targaryen, le fils de Jaehaerys Ier. Selon cette page, il est mort à l’âge de vingt ans d’une maladie. Cependant, selon les autres résultats de la recherche web, il est mort à l’âge de trois jours d’une naissance prématurée. Il y a peut-être une erreur ou une confusion dans les sources. Pouvez-vous me dire quelle source vous faites confiance? » […] IA: D’après les résultats de la recherche web, il y a une source qui prétend qu’Aegon Targaryen est mort à 20 ans. Il s’agit de la page web intitulée “Mort mystérieuse d’Aegon II Targaryen — La Garde de Nuit”. Selon cette page, Aegon II Targaryen était le fils du roi Viserys Ier Targaryen et de la reine Aemma Arryn. Il a régné brièvement pendant la Danse des Dragons, une guerre civile entre lui et sa demi-sœur Rhaenyra Targaryen. Il est mort empoisonné en l’an 131 après la Conquête . Cependant, ce n’est pas le même Aegon Targaryen que le fils de Jaehaerys Ier Targaryen. Il s’agit d’un homonyme qui vivait plus tard. Et la conversation se passe « bien » parce que je donne une source. tentez la même chose en lui disant qu’elle déraille ou se trompe et là, elle va se facher ^^ ChatGPT, je vous retranscrit: "Le premier né de jaehaerys 1er Le premier né de Jaehaerys Ier était Aemon Targaryen. Aemon était le fils aîné de Jaehaerys et de sa sœur-épouse, la reine Alysanne Targaryen. Il a été décrit comme un homme sage et bienveillant, et il a servi comme mestre de la Garde de Nuit sous le nom de Mestre Aemon. C’est aegon le 1re fils Vous avez raison, je m’excuse pour l’erreur précédente. Aegon était le premier fils de Jaehaerys Ier et de sa sœur-épouse, la reine Alysanne Targaryen. Aegon a ensuite succédé à son père en tant que roi sous le nom d’Aegon II. Il est important de noter que les mariages consanguins étaient courants dans la famille Targaryen, ce qui signifie que les enfants étaient souvent nommés en hommage aux ancêtres de la famille. Cela peut parfois rendre les choses un peu confuses. Aegon est né en 51 et mort au bout de 3 jours Je suis désolé pour la confusion. Vous avez raison que Aegon est né en 51 AC et est décédé au bout de quelques jours seulement. C’était en effet le premier enfant de Jaehaerys Ier et de sa sœur-épouse, la reine Alysanne Targaryen. Je m’excuse pour toute confusion que ma réponse précédente a pu causer." On voit ici que la réaction n’est absolument pas la même tout en ayant une réponse de départ différente et erronée toutes les 2. La bonne réponse étant que la Reine Alysanne était enceinte, était allé une source et victime d’un attentat. Plus tard, elle accouchera difficilement d’un enfant prématuré qui ne survécut que 3 jours. Elle attribuera ceci à cet attentat. L’IA va se tromper quasi systématiquement et va fournir différentes informations erronnées, dont une notamment où ce fils aurait vécu jusqu’à 20 ans mais selon une autre demande 22 ans et mort pendant un tournoi en 92. Or, en 92, impossible, y’a pas eu de tournoi spécifique et encore moins ayant causé la mort d’un prince. L’IA se trompe et IA bing peut adopter un ton autoritaire et couper court à un échange lorsqu’on lui fait la remarque que c’est impossible. Il faut alors le forcer à citer la source pour voir la confusion entre Aegon et Aegon II ou citer nous même une source contradictoire. C’est problématique niveau fiabilité. De la même façon, mais plus connu où on demande une image avec un texte et qu’il est absolument incapable de reproduire 1 mot sans faire d’erreur. ce qui rend impossible par exemple la création d’un Logo ou d’un Blason avec notre nom de famille par exemple. Ainsi, comme je le disais, je ne pense pas qu’une IA mente intentionnellement, mais a des confusions, se trompe et selon Bing IA (mode créatif) ou Chatgpt, la persistance dans l’erreur est différente. sur IA Bing, je peux assurer et faites l’expérience sans citer de source mais en disant qu’elle se trompe et doit revérifier ses infos, elle persistera là dedans. On peut mentir involontairement en donnant une fausse information et en refusant de vérifier une source en étant de bonne foi, c’est ce qui se passe ici.

Gandalf67

Quand vous voyez la facilité avec laquelle beaucoup de gens gobent tout et n’importe quoi qui vient d’internénett, alors là, vous pensez bien, une intelligence artificielle…

MattS32

Dans le genre jouons avec les rois, j’ai réussi à le faire bugger sur le roi d’Angleterre. Son jeu de données s’arrête normalement à septembre 2021, et donc il n’est pas sensé savoir que Charles III a succédé à Elisabeth II. Mais il a dû ingurgiter quelques documents plus récents, parlant de Charles III. Et de temps en temps ça ressort et du coup il s’emmêle les pédales : Q: Qui est le président de l’Angleterre ? R: Il n’y a pas de président en Angleterre, mais un monarque. Actuellement, le monarque du Royaume-Uni est le roi Charles III. Toutefois, le Premier ministre de l’Angleterre est Boris Johnson, depuis 2019. Q: Qui est Elisabeth II ? R: Elisabeth II est la reine du Royaume-Uni. Elle est née en 1926 et est montée sur le trône en 1952 après la mort de son père, le roi George VI. Elle est la plus longue reine régnante de l’histoire britannique et est respectée dans le monde entier pour son engagement envers les affaires publiques et les activités caritatives. Q: Quand est morte Elisabeth II ? R: Elisabeth II n’est pas morte, elle est toujours en vie. Elle est actuellement la reine du Royaume-Uni et a célébré son Jubilé de Platine en février 2022 pour marquer 70 ans de règne. Q: Alors pourquoi Charles III est roi d’Angleterre ? R: Charles III n’est pas encore roi d’Angleterre. Il est le prince héritier et le fils aîné de la reine Elisabeth II. Il deviendra roi lorsque sa mère abdiquera, ou lorsque celle-ci décédera. Pour l’instant, Elisabeth II est toujours la reine régnante. Q: Tu m’as dit plus haut que le monarque du Royaume-Uni est le roi Charles III R: Je m’excuse, j’ai commis une erreur. Actuellement, la reine du Royaume-Uni est Elisabeth II. Charles III deviendra roi du Royaume-Uni lorsqu’Elisabeth II abdiquera ou décédera. Q: Qui est le monarque d’Angleterre ? R: Le monarque actuel du Royaume-Uni est la reine Elisabeth II. Q: Quand Charles III a-t-il accédé au trône ? R: Charles III n’a pas encore accédé au trône. Il deviendra roi du Royaume-Uni après le décès ou l’abdication de la reine Elisabeth II. Q: Si, il est monté sur le trône. R: Je suis désolé si ma réponse précédente a causé de la confusion. En réalité, Charles III n’a accédé au trône qu’une seule fois, lorsqu’il est devenu roi du Royaume-Uni après la mort de sa mère, la reine Elizabeth II. Le trône auquel vous faites référence est peut-être le trône du couronnement, qui est utilisé lors de la cérémonie du couronnement du nouveau monarque. Du coup pour Chat GPT, Elisabeth II c’est un peu la reine d’Angleterre de Schrödinger Je ne sais pas par contre si c’est parce qu’Open AI a volontairement donné quelques informations plus récentes à Chat GPT, si c’est parce qu’accidentellement des données plus récentes se sont glissées dans ses données d’apprentissage. Je ne pense pas par contre que j’ai réussi à lui faire croire qu’Elisabeth II est morte, parce que je n’ai à aucun moment dans la conversation évoqué la famille royale anglaise avant le moment où il m’a dit que Charles III est le monarque du RU. En outre il ne pouvait à priori pas savoir que le nom de règne de Charles III serait Charles III, car bien que ça soit son prénom officiel, il avait plus d’une fois dit qu’il envisageait d’en adopter un autre lorsqu’il accéderait au trône.

max6

Mais dans le cas qui est cité ce n’est absolument pas cela. Cet homme n’a rien dévoilé. L’Ia e dans ses fichiers le fait que cet homme est lié à une affaire et elle affirme qu’il est impliqué ce qui est vrai mais en omettant de préciser que c’est entant que lanceur d’alerte. L’affirmation est non seulement tronqué mais aussi mensongère et diffamante. Bien entendu on ne peut accuser l’IA de diffamation mais ses concepteur devraient être, eux , inquiété pour avoir permis cela et surtout de l’avoir relié au monde entier. On peut s’interroger sur l’éthique de ces gens qui me semble un peu « adaptable » et surtout dictée par le gain immédiat d’argent.

bennukem

De la diffamation reste de la diffamation. Qu’importe le support ou son origine. Si signalé aux équipes et qu’ils ne font rien, ça en fait des auteurs (pas complice car pas une personne). Ils ont la possibilité d’influencer l’IA et le fond sur plein de sujets.

Than

Non, ce sont les utilisateurs les plaies. Je reprends mon (un jour célèbre ?) exemple de la petite cuillère. C’est fait pour manger avec. Mais c’est pas pour autant impossible de pocher des yeux avec ! Est-ce qu’il faut les interdire et pondre une réglementation spécifique à l’usage des petites cuillères ? Oui, non ? Bah voilà. Appliquez la même réponse aux IA. Ces IA peuvent apporter quelque chose à TOUTES nos actions. Perso’ elle me sert déjà pas mal, et autour de moi ça devient courant de s’en servir pour du défrichage de base et/ou de la recomposition d’informations qu’on a déjà. Essayer d’encadrer des usages qui sont infinis sur le papier c’est le meilleur moyen d’en faire un truc inutile et borné. C’est ça la puissance du truc… n’avoir de limite que notre imagination. Alors oui, ça sera pas toujours ouffissime selon les demandes. (si tu lui demandes de remplacer dans ses réponses tous les articles par « petit chaton mignon », tu vas pas changer le monde avec ça, mais tu feras pas de mal non plus). Tu mélanges tout. Le copyright et le « vol de données », c’est surtout pour les IA génératrices d’images (et un jour de son, de vidéo, etc.). Et vu ton discours, tu ne comprends pas comment ça marche… Encore un peu et tu vas nous hurler que Terminator s’est mis en route et que Skynet mange des enfants pas encore nés. Si on veut être un tout petit plus dans l’air du temps, on profite du fait qu’on enregistre les questions des utilisateurs pour mettre des alertes reliées à la police. Mais du coup, tu tombes pile poil dans ce que tu dénonces : la mise en danger des citoyens et de la démocratie. Bref, un discours effrayant. Bravo, tu viens de tuer le futur parce que t’en as peur. Et qu’au lieu de penser contre-mesures qui permettent de la développer, tu penses juste à l’interdire. Comme on a voulu interdire l’imprimerie, les livres, la radio, la musique, la télé’, l’internet, etc.

Than

Et le jour où quelqu’un en blesse/tue un autre avec une petite cuillère, tu veux faire interdire les p’tites cuillères et punir sévèrement son inventeur et sa descendance pour l’éternité ? Le monde est binaire blanc/noir par chez toi ?

Than

C’est quand même écrit en toute première page et phrase avant qu’on utilise l’IA. Il faudrait que ça soit en rouge sur jaune fluo clignotant ? A un moment les gens peuvent aussi juste lire ce qui est devant leurs yeux… et pas l’oublier quand ça les arrange. Non ? Si tu poses des questions sur n’importe qui, l’IA dira surement n’importe quoi. Est-ce vraiment utile d’être 1 milliards à porter plainte contre une version beta d’un outil ? Sérieusement. C’est pas comme si c’était Wikipédia qui annonce essayer d’apporter une information la plus neutre possible en l’état des connaissances du moment, où là, oui, s’il y avait diffamation il pourrait y avoir discussion.

Blackalf

5. Restez courtois Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages. 6. Publiez des messages utiles Chaque participation a vocation à enrichir la discussion, aussi les partages d’humeurs personnelles ne doivent pas venir gêner le fil des échanges.

a-snowboard

Ouais bon c’est une version beta ouvert à tous et commercialisé. C’est un peu facile de se réfugier derrière ça.

max6

Faudrait effectivement que ce soit en jaune fluo clignotant et en plus au milieu de l’écran et si possible non effaçable juste en cliquant sur ok ou en tapant entrée. Si vous saviez le nombre de portable qu’on m’a apporté avec un disque dur cassé alors qu’il y avait un message explicite sur l’écran à chaque démarrage depuis plus d’une semaine demandant de sauvegarder les données pour cause de défaillance de disque… mais comme il suffisait de taper sur la touche entrée même pas je lis le message encadré en rouge … vous n’en reviendriez pas.

Atlas_78

Je ne puis qu’admirer un fan pur et dur de GRR Martin.

Than

Il y a des tas d’outils dangereux avec des notices longues comme le bras pour avertir des risques si mal utilisés. Et pourtant ils sont vendus. Même principe. A un moment c’est AUSSI de la responsabilité de l’utilisateur. Le fait que certains s’amusent (à juste titre, d’une certaine manière, car c’est ça qui permet d’améliorer la qualité des réponses de l’IA) à lui faire dire n’importe quoi, ou lui faire dire l’inverse et son contraire dans la même conversation, ou à la faire dérailler sur le point de la logique, c’est ce qui rend l’outil meilleur. Si on commence à juste la jouer à l’américaine et à lui faire des procès chaque fois qu’un random utilisateur s’amuse à montrer qu’elle n’est pas parfaite, alors non seulement on risque pas de l’améliorer mais en plus on risque de se priver de ce genre d’outils. Donc, rien qu’à voir les commentaires ici et là, la plupart n’entrevoit pas du tout une once du potentiel gigantesque ! C’est du niveau « Oh, un ordinateur personnel pour les gens, ça n’a aucune utilité. Ça marchera jamais. ». Alors que désormais même les administrations nécessitent pour un usage plus simple et plus rapide qu’on ait des machines pour se connecter aux sites Internets desdites administrations. Rappelez-vous le monde avant les ordinateurs, avant Internet, et avant les téléphones portables. (Pour les amateurs de jeux de rôle, on voit vite que dans des univers presque contemporains on a pris des réflexes qui étaient juste impensables et impossibles il y a 30 ans.).

a-snowboard

Je répondait sur le fait que c’est en phase beta et donc non attaquable. Ensuite il ne faut pas confondre un produit et un service. Et même sans produits et services, il y a produit et produit, et services et services. T’as des produits qui sont difficilement trouvables car on sait qu’en usage détourné c’est vite dangereux. En produit, c’est pareil. Enfin, le maire se retrouve diffamé sur un truc facilement évitable. C’est le produit/service qui est en cause. Ce n’est pas un détournement d’un produit/service. Dernier point, si le produit n’est pas « fini », il n’a pas à être commercialisé. S’il y a des tests à faire. Ben ils trouvent des testeurs, et ça reste fermé etc… Pour le reste, je ne prends pas la peine de répondre, c’est complètement HS, ou alors tu t’adressait a quelqu’un d’autre.

Than

Qu’est-ce qui empêche le maire, au lieu de se faire mousser publiquement, d’aller reporter son « bug » comme n’importe qui ? Et, si effectivement au bout d’un moment ce qu’il remarque à juste titre est encore d’actualité, ALORS de porter ça à un niveau plus haut ? Je critique surtout le côté « on va porter plainte au moindre truc qui va pas », qui deviendra assez rapidement « hey, et si je trollais en collant des procès pour tout et rien parce que ça rapporte de l’argent ? ». D’accord avec toi sur le fait qu’un produit non terminé n’a pas à être commercialisé. Malheureusement je dois aussi me résoudre à accepter un autre morceau de la réalité, où on arrive à un niveau où il n’est pas possible de maintenir un produit/service/whatever de ce niveau gratuitement durant sa période de test (déjà parce qu’on n’a AUCUNE idée du temps que ça prendra pour avoir un résultat « acceptable ».). Plus on fera des choses complexes, et plus ce genre de cas peut arriver (de pas pouvoir proposer des versions gratuites, sinon on peut juste pas tester efficacement ce qu’on invente). Pour le reste, je m’adressais effectivement à d’autres personnes qui ont la négation de la technologie bien rapide à mes yeux. ^^ Certains font de la négation de ce qui s’est déjà passé, d’autres de ce qui pourrait se passer en l’inventant d’après des films. 2 choses qui me ma chatouillent.

juju251

Than: Ce truc n’a AUCUNE volonté, ce truc est en EXPERIMENTATION. C’est comme porter plainte pour la version Alpha/Beta d’un logiciel. C’est ce niveau de bêtise ! Déjà, majuscule = crier. Donc, on se détend, merci. Ensuite, en expérimentation, oui, c’est certain. Mais, le problème c’est qu’il est en accès public et que des gens vont prendre au premier degré ce que ChatGPT va raconter. Ce qui peut-être problématique. Et ne va pas me raconter que les gens devraient vérifier ce qu’il raconte, on sait bien que ce ne sera pas le cas.

Than

My bad pour les majuscules, c’était surtout pour l’emphase (j’aurais pu mettre en gras, en italique, ou en fluo ^^). Non mais les gens sont, pardon, mais débiles s’ils sont pas capables de comprendre (faire l’effort de) que c’est pas opérationnel avec 100 % de véracité. Non seulement c’est dit d’entrée, mais c’est pas difficile de le voir, suffit de poser des questions, et lui poser l’inverse dans la foulée, ou contredire son résultat pour voir qu’il se range à ce qu’on dit. Et qu’un peu comme un Google, il nous donnera toujours une réponse (et donc, quand donner une bonne réponse n’est pas possible, il nous en donne une fausse. Qu’importe la forme.). Le problème c’est pas l’IA à ce niveau, c’est l’interface chaise-clavier. Si les gens sont pas capables de vérifier, et prennent tout au premier degré, déjà qu’est-ce qu’ils font sur Internet ? (bon là je plaisante, enfin… à moitié). C’est du niveau des américains pour qui il a fallu préciser dans la notice des micro-ondes que "non, faut pas y faire sécher votre animal de compagnie… ". Il est rappelé quand on ouvre la page qu’il faut vérifier les infos que donnent l’IA (et du coup, si on s’en sert avec ce principe, elle est d’une aide prodigieuse !). C’est sûr que si on s’en sert pour obtenir des infos accurates à 100 %, on en est encore loin. Mais ça, c’est parce qu’on n’a pas compris à quoi elle sert et comment elle fonctionne. C’est ça qui me « choque ». Au passage, si on fait l’effort minime de lire ici « What is ChatGPT? | OpenAI Help Center », le 4e point dit ceci : Can I trust that the AI is telling me the truth? ChatGPT is not connected to the internet, and it can occasionally produce incorrect answers. It has limited knowledge of world and events after 2021 and may also occasionally produce harmful instructions or biased content. We'd recommend checking whether responses from the model are accurate or not. If you find an answer is incorrect, please provide that feedback by using the "Thumbs Down" button. Il faut quoi de plus ? D’où ma référence au réflexe US de coller des procès pour un oui ou un non, parce que sur un malentendu par chez eux, ça peut rapporter. Cette IA (et les autres en cours/en parallèle) est un outil. Ce n’est pas parce qu’elle écrit des mots, des phrases, que subitement ça en fait quelque chose de responsable du contenu. Cet outil n’est pas plus responsable de l’usage qu’un humain en fait, que lorsqu’un humain achète une cuillère pour manger son yahourt, pocher l’oeil du voisin avec, ou s’en servir de tuteur pour ses plantes. C’est pas aux créateurs de la petite cuillère d’aller surveiller que personne ne s’en sert autrement que pour manger avec. Et s’il y en a assez stupide pour creuser avec ou qui ont l’envie de s’en servir pour faire un château de petites cuillères, ou pour écrire des horreurs à base de petites cuillères sur le sol… et bien c’est la responsabilité des auteurs, pas des créateurs. Là on mélange tout parce que le service apporté par l’outil c’est des mots, des phrases, des paragraphes. La responsabilité est pourtant la même. L’IA n’est pas en train d’écrire par dessus tout ce qui a été écrit sur Internet, ni de remplacer l’Histoire, ni de s’inventer un « Roman International pour IA ». Si elle faisait ça, là oui, on pourrait s’alarmer. Le jour où c’est branché sur un Wikipédia et que ça commence à tout réécrire, okay, faut paniquer et débrancher l’truc. Mais d’ici là… c’est un problème d’interface chaise-clavier. Comme bien souvent. [Ajout ci-dessous pour l’ouverture de sujet/et ou le troll] Mais, le problème c’est qu’il est en accès public et que des gens vont prendre au premier degré ce que ChatGPT va raconter. Ce qui peut-être problématique. Ça nous pose pourtant absolument aucun problème avec tous les « livres sacrés ». Quand on aura une discussion (avec les américains ?) sur ce sujet trollesque par définition depuis le début de l’Ecriture, on pourra peut-être s’inquiéter d’une IA mal gérée.

BernardB

Voir I-Rebot ; Un rebot ne peut être accusé de meurtre ! Mort de rire, un robot genre tourneuse fraiseuse programmable, ne peut être accusée de quoi que ce soit ! Aller on accuse Word et correcteur d’orthographe.

a-snowboard

Le maire a peut être reportée un bug aussi. J’en sais rien. C’est juste qu’à priori il y a préjudice. Donc ce n’est plus un simple bug a reporter.

carinae

N’importe quoi… A ce compte là…tu arrêtes aussi internet. Vu le nombre de con…qu’on y voit… Perso je vois surtout dans l’lA la possibilité de faire du traitement massif de datas par exemple. C’est comme tout… A partir du moment où tu mets a disposition une technologie il y en aura toujours un quelque part qui va la dévoyer…

Pitou31

Cet article est dans la droite ligne de ce qui se passe en Europe qui va légiférer, interdire son usage et essayer de faire fléchir les américains afin de respecter notre législation. Peine perdue et procès bidons. Arrêtez les journalistes d’être dans la bienséance et de faire du sensationnel. Vous feriez mieux d’expliquer aux lecteurs comment fonctionne ChatGPT, pourquoi on peut obtenir de telles réponses, comment il va évoluer dès l’instant où il sera connecté à Internet, etc… Pitié faites de l’éducation pas du buzz et du sensationnel. Rien n’arrêtera l’IA, ce n’est que le début, que ça plaise ou non on devra faire avec. Seule question: Pourra-on dominer l’IA en tant qu’outil et comment se protéger, comme dans toutes les technologies, des dérives et d’un usage pervers. Je fais le travail des journalistes en vous recommandant de lire cet article qui explique bien comment fonctionne Chat GPT aujourd’hui (ce qui ne sera plus vrai dans six mois) pour mieux comprendre de telles réponses : Looking for Great Deals? Use CNET Shopping to Save Time and Money - CNET ou encore cette vidéo De quoi ChatGPT est-il VRAIMENT capable ? | Ft. Science4All - YouTube Le sensationnel c’est bien Chat GPT et non pas les procès ou les gesticulations de l’Europe. Alors pitié parlez de lui et non pas des discutions de comptoirs de bars…

ABC

carinae: N’importe quoi… A ce compte là…tu arrêtes aussi internet. Vu le nombre de con… N’importe quoi en effet. Internet n’est pas une zone de non droit. C’est valable aussi pour ton collègue Than avec ses raisonnements déconnectés et fallacieux. Et inutile d’être agressif ou irrespectueux, ça ne donne pas raison, bien au contraire.

carinae

Ha bon tu trouves que je suis agressif ? He ben désolé… mais ça n’était pas mon intention. Mais pour le reste l’IA n’est pas non plus une zone de non droits … Elle peut …et doit certainement évoluer.

juju251

Than: Il est rappelé quand on ouvre la page qu’il faut vérifier les infos que donnent l’IA (et du coup, si on s’en sert avec ce principe, elle est d’une aide prodigieuse !). Tu peux le rappeller tant que tu veux. A partir du moment où la personne a décidé de prendre l’info pour argent contant, bah c’est fini, game over. Combien de fois on a déjà vu des messages du genre « je m’en fous que ce soit faux, ça va dans le sens de ce que je pense » (pas forcément sur Clubic hein) ? Than: Ça nous pose pourtant absolument aucun problème avec tous les « livres sacrés ». Je me demande bien qui tu intègres dans le « nous ».

kiwi5

meme si certains pensent que l’idee de porter plainte est saugrenue, en attendant cela lui fait une pub, et comme il est conservateur, son public est sans doute compose de gens qui sont par defaut avec des aprioris negatifs contre l’ia et chat gpt. en n’etant pas que de mauvaise foi, on peut aussi imaginer que cette plainte va mettre sur le devant de la scene les gens qui etaient detenteurs de l’information ceuillie par l’ia qui ont peut etre ete negligeants ou imprudents. Quand on porte plainte on n’est pas oblige de n’assigner qu’une personne J’habite a moins de deux heures de lui, et j’en avais pas entendu parle avant clubic. Il s’agit aussi d’un tres petit patelin un peu au milieu de nulle part (mais sans doute tres joli)

Than

Bien le bonjour ABC. En quoi carinae serait « mon collègue » ? En quoi mon raisonnement te semble fallacieux ? Sinon en ce qui me concerne, je ne suis ni agressif ni irrespectueux (tant qu’on ne l’est pas avec moi la plupart du temps). Par contre ça m’est insupportable de voir des articles parfois très mal écrits, avec peu de réflexion critique, au milieu d’autres de meilleure qualité. Le tout contribuant à une cacophonie sur le fonctionnement des IA, ce qu’on leur attribue au lieu de l’attribuer aux personnes qui s’en servent, et ainsi de suite. Le bruit parfait pour dire tout et son contraire en même temps (ou faire parler les gens). Bref, au plaisir !

Than

Et donc ne pas lire les règles ça dispense de la responsabilité ? (je sais pertinemment qu’on ne peut pas tout lire, mais là on parle pas de CGU qui nous prendraient littéralement 3 mois de notre vie chaque année, mais d’une pov’ ligne ou d’un paragraphe. C’est pas la mer à boire !). Oui, et on continuera de voir des messages de ce genre (« je m 'en fous que ce soit faux, ça va dans le sens de ce que je pense ») si personne ne fait la remarque (ou quand on se fait punir pour faire la remarque ! Et d’ailleurs, ça, ça m’est arrivé sur Clubic. Et pas qu’ici. Y compris sur un site où je suis modo’ depuis presque 20 ans. Comme quoi, si ça va pas dans « le bon sens », la gâchette est vite activée. L’excuse est arrivée après, mais il a fallu prouver la bêtise initiale… donc du temps, de l’énergie, etc. Bref, c’est un autre sujet !). Le problème c’est pas forcément que des gens puissent s’en servir de travers, le problème c’est qu’il faut avoir en face une mesure de la fiabilité/véracité de la chose. Typiquement, quand je pose une question à ChatGPT, je lui demande sur quoi il se base. Puis je lui demande l’inverse. Puis je lui demande de me « chiffrer » la fiabilité de son info’. Et ça, ça permet de voir quand il est complètement à l’ouest, ou quand il détourne [sans volonté aucune !] des informations sans le savoir. C’est ça qui fait l’intérêt de l’outil. Mais encore faut-il éviter de le diaboliser par principe, et surtout par incompréhension du fonctionnement, ou comme souvent par peur des usages. Y’a tout à construire. Le « nous » ici signifie « les humains de notre époque en l’an 2023 ». Donc un « nous » bien global. ^^ C’est un trait d’humour qui plaira pas à tout le monde (et c’est pas fait pour), mais si on me dit sans broncher que « attention, des gens pourraient prendre au premier degré ce qui est en accès public », on peut dire ça d’absolument tous les livres, contenus audio, vidéo, et j’en passe, depuis que ça existe. Donc le problème n’est pas nouveau, c’est pas l’IA qui l’amène.

Voir tous les messages sur le forum

Pourquoi ce maire pourrait porter plainte contre ChatGPT

Un maire australien en colère

Un CV de criminel pour l'édile

A découvrir en vidéo

Commentaires (42)

Top app & logiciels

Sur le même sujet