OpenAI et Microsoft auraient-elles volé nos données personnelles pour entraîner leurs IA ?

Alexandre Boero

Chargé de l'actualité de Clubic

11 septembre 2023 à 09h45

Le créateur de ChatGPT, OpenAI, et le géant Microsoft sont accusés d'avoir violé la vie privée des utilisateurs, faisant désormais face à un recours collectif outre-Atlantique.

OpenAI et Microsoft, leaders mondiaux de l'intelligence artificielle, sont une fois de plus poursuivies aux États-Unis. Deux ingénieurs logiciels accusent les sociétés d'avoir utilisé des informations personnelles volées à des centaines de millions d'internautes. Selon les plaignants, qui ont souhaité conserver leur anonymat, le but était simple : se servir de ces données pour former ChatGPT, DALL-E et d'autres systèmes d'IA générative.

OpenAI et Microsoft pilleraient des données un peu partout

La plainte, déposée mardi 5 septembre sur le bureau du tribunal fédéral de San Francisco par le cabinet Morgan & Morgan, accuse OpenAI et Microsoft d'avoir collecté des données personnelles à partir de sources diverses. Citons ici les réseaux sociaux, les cookies, les infos analytiques, les frappes de touches, et d'autres sites ou applications.

Cette pratique enfreindrait d'emblée plusieurs lois sur le respect de la confidentialité. Ryan Clarkson, associé directeur du cabinet du même nom, s'est en tout cas félicité du travail mené par ses homologues de Morgan & Morgan. Il fait aussi la chasse à ce qu'il appelle les « BigAI », accusées de vol massif d'informations privées, à la manière de Google.

Les plaintes se suivent… et se ressemblent

Les deux ingénieurs réclament auprès du tribunal des dommages et intérêts dont le montant n'a pas été précisé. Ils souhaitent que les entreprises concernées fassent état de garanties qui permettront de mettre fin à cette utilisation abusive des données personnelles.

Cette plainte ressemble étrangement à celle justement déposée en juin dernier par le cabinet d'avocats Clarkson, cette fois orientée sur l'intérêt public. Selon nos confrères de Reuters, des dizaines de pages seraient textuellement répétées d'une affaire à l'autre.

Ce n'est donc pas la première fois que les mastodontes technologiques se font épingler pour leurs IA génératives. OpenAI, Microsoft, Google et Stability AI, on ne compte plus les firmes elles aussi poursuivies pour avoir ponctionné des données sur le Web et des informations issues de documents frappés du sceau du droit d'auteur.

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Sources : Reuters, Plainte déposée

Alexandre Boero

Chargé de l'actualité de Clubic

Lire d'autres articles

Journaliste, chargé de l'actualité de Clubic. Reporter, vidéaste, animateur et même imitateur-chanteur, j'ai écrit mon premier article en 6ème. J'ai fait de cette vocation mon métier (diplômé de l'EJCAM, école reconnue par la profession), pour écrire, interviewer, filmer, monter et produire du contenu écrit, audio ou vidéo au quotidien. Quelques atomes crochus avec la Tech, certes, mais aussi avec l'univers des médias, du sport et du voyage. Outre le journalisme, la production vidéo et l'animation, je possède une chaîne YouTube (à mon nom) qui devrait piquer votre curiosité si vous aimez les belles balades à travers le monde, les nouvelles technologies et la musique :)

Lire d'autres articles

Commentaires (10)

Proutie66

Comment ? Mais qu’est-ce que j’ entends ? Des voleurs de données personnelles américains ? Non, je me refuse d’y croire

themancool87_1_1

non, j’y crois pas :'D

Caramel34

En tout cas on ne peut pas dire que les IA détruisent des emplois, elles en créent dans le domaine de la justice

ilyon

Pareil, je tombe des nues… Nos « amis » américains ? Je n’y crois pas une seconde. Microsoft Russie ou Microsoft Chine peut-être, ces sales communistes, mais pas eux, pas nos bienfaiteurs…

Nmut

On ne peut pas parler de pillage alors que les données sont accessibles pour tout un chacun! Par contre, il faut que les copyrights soient respectés et que les rémunérations associées soient négociées AVANT utilisation. Cependant, comment régler ce problème puisque les données ne sont utilisées que pour « inspiration » et qu’il n’y a pas techniquement de plagiat…

Prot

Malheureusement peu de journalistes a le courage d’enquêter sur ces vols et le dénoncer, ilq risquent de perdre leurs cartes et leurs avantages fiscaux.

Aegis

Pour le moment beaucoup de suppositions et d’accusations mais pas la moindre preuve.

ABC

Qu’on interdises les IA basées sur le vol. Il restera pas grand chose. Quand on voit qu’on peut demander à ces IA un résultat dans « le style de » et qu’on se retrouve avec des plagiats assez identifiables de travaux existants ou dans le style marqué d’auteurs et d’artistes très singuliers, c’est carrément attaquable. Pour le reste, le mystère de ces IA sont aussi impénétrables que ceux de la camora. Les IA peuvent être utile dans la recherche scientifique et médicale. Pour ce qui est du contenu rédactionnel ou pseudo artistique, c’est une machine à voler, à salir des styles en les singeant, à produire de la merde pour les fainéants et les gens sans talent. Les utiliser pour produire du « contenu » est un aveu de médiocrité.

ABC

Nmut : « il n’y a pas techniquement de plagiat… » Inexact. C’est pas parce qu’on vole un peu à plusieurs que ce n’est pas du plagiat. Surtout que les IA savent cibler une info, un style « attribué à », donc une source identifiable si on lui en fait la demande. Sans jamais vouloir citer les auteurs plagiés. Souvent des mixes, mais n’importe quel spécialiste dans son domaine pourra dire chez qui ils ont été se servir dans pas mal de résultats. Parfois les preuves sont irréfutables quand une info ou une patte n’a qu’une seule provenance. C’est en partie pour cette raison que certaines banques d’images ont banni les IA. Ça va apporter des tas de procès avec au final de la casse. Après, il y a des contenus plus mainstream, mais si le résultat est plus quelconque, il n’en reste pas moins issu du vol dans la majorité des cas. Que les producteurs de ces IA révèlent l’intégralité de leurs sources depuis le début s’ils n’ont rien à se reprocher… Aucun ne le fait (ou juste sur un petit fragment), car pour certains, ça signifierait la case prison.

Nmut

ABC: Qu’on interdises les IA basées sur le vol. Ce sont les bases de données d’entrainement utilisées et les copyrights associés qu’il faut revoir. Voir même la notion de protection intellectuelle. ABC: le mystère de ces IA sont aussi impénétrables que ceux de la camora. C’est le principe même de la plupart des IAs: l’entrainement génère un réseau de neurone (ou équivalent) et les données ne sont pas « mémorisées ». D’ailleurs justement, c’est pourquoi dans ce cas on ne peut faire AUCUN lien entre les oeuvres utilisées pour l’entrainement et le résultat, donc les références ne sont pas identifiables. C’est vraiment de l’inspiration, et pas de la copie, la limite avec le plagiat est très complexe a déterminer. ABC: des styles en les singeant Tout à fait, mais l’imitation est différent du vol, ou alors il revoir la notion de vol/plagiat… ABC: à produire de la merde pour les fainéants et les gens sans talent Comme beaucoup d’outils! Ces outils permettent de combler un manque de technique, un manque de temps ou une complexité qui est alors automatisée / robotisée. Va donc faire un programme complexe sans IDE ni librairie, construire une voiture sans robot, concevoir un avion sans CAO, monter un film en analogique, ou même apprendre la photo en argentique, … Tout ça est tout à fait possible, mais des outils adaptés permettent un gain de temps énorme et de se passer de certaines compétences! En poussant ton raisonnement, il faudrait interdire les outils numériques pour la plupart des arts. ABC: nexact. C’est pas parce qu’on vole un peu à plusieurs que ce n’est pas du plagiat. Comme je l’ai déjà expliqué, c’est de l’inspiration dans le fonctionnement, reste à mieux définir la notion de plagiat et surveiller l’utilisation des ouvres pour l’entrainement. Mais je suis d’accord sur le fait qu’il faut protéger le travail original, tout comme il faudra protéger les prompts des utilisateurs d’IA à terme. Et un artiste ne se résume pas à une technique ou un style. Un tableau « à la façon de » ne sera probablement pas un bon tableau si la composition est mauvaise, si il n’y a pas d’idée derrière ou encore si le sujet est inintéressant (ou le détournement du sujet religieux comme souvent pour les peintres « classiques »), ce que ne fera pas une IA, ça sera l’« artiste » qui va créer un prompt qui créera vraiment l’âme de l’oeuvre. ABC: Aucun ne le fait (ou juste sur un petit fragment), L’info des bases d’entrainement est souvent disponible, et d’ailleurs c’est pour ça que les données utilisées sont en général pas à la page. Le problème est / sera plutôt sur les bases basées sur un entrainement constant en piochant sur internet, il faudra forcément un mécanisme (un tag? un copyright particulier) pour la gestion de l’autorisation de l’utilisation comme donnée d’entrainement.

ABC

Nmut: Tout à fait, mais l’imitation est différent du vol, ou alors il revoir la notion de vol/plagiat… C’est ce que disent les faussaires devant un juge quand ils se sont fait chopper. C’est juste une inspiration, ou une coïncidence… Sauf que si la similitude, même de style est trop évidente, le plagiat est bel et bien démontré. Même pas besoin de trouver des « copié/collé ». Rien de nouveau. Les tribunaux voient défiler ce genre d’affaires à la pelle. Notamment dans l’édition et l’industrie. Certaines marques « très inspirantes » sont en procès permanents avec des cabinets d’avocats qui tournent non-stop. Les IA génératives grand public sont des outils à se faire « passer pour »; à « se prendre pour », mais au final, c’est due du toc qui repose sur rien. Le top de ces machines à vide, c’est quand ces IA produisent des contenus qui seront lu essentiellement par des IA. Ce n’est même plus de la pollution intellectuelle, mais de la pollution tout court. Nmut: des outils adaptés permettent un gain de temps énorme et de se passer de certaines compétences! Gagner en productivité a de l’intérêt. Par exemple en développement, en retouche, en technique. Mais ça doit rester cadré. Construire une voiture avec des IA, je te la laisse… Nmut: En poussant ton raisonnement, il faudrait interdire les outils numériques pour la plupart des arts. Se former n’est pas voler. Des thèses truffées de contenus générées par de l’IA n’ont aucune valeur. Sinon en effet, excellente idée que d’interdire les IA dans un contexte informatif, mainstream, etc. C’est complexe à légiférer, mais ça devra se faire. Sinon nos écrans seront remplis de contenus fake issu de rien du tout sauf de ces robots aussi con qu’une banane. Avec en prime des attaques contre les institutions, nos valeurs, nos talents scientifiques ou artistiques, notre démocratie. Les trolls russes et chinois sont déjà à l’œuvre. et malheureusement pour le grand public, ça risque d’être la principale utilisation de ces IA génératives quand elles sont utilisées dans des domaines où elles n’ont pas lieu d’être. Nmut: L’info des bases d’entrainement est souvent disponible Si seulement c’était vrai. Ils ne donnent comme info que ce qui les arrange. Rien sur les millions de contenus utilisés où intervient le copyright, ou à défaut une simple demande d’autorisation. Quand les choses se font de cette façon, quand c’est pourri dès la base, ça ne peut rien apporter de bon. Nmut: Comme je l’ai déjà expliqué, c’est de l’inspiration dans le fonctionnement Ce n’est ni à vous, ni à moi d’expliquer quand c’est du plagiat, mais aux juges et aux ayant droit. Aussi concernant le droit à l’image. Quand ces machines sont utilisées à mauvais escient ou pour faire illusion, ça doit être démasqué si on ne veut pas qu’internet devienne une poubelle auto-générée. Pour le reste, la justice ne se fait pas sur le web. À moins qu’une IA s’en charge… comprenez-vous ?

Nmut

ABC: Construire une voiture avec des IA, je te la laisse… Cela va peut-être t’étonner, mais les IAs sont un atout indéniable pour la R&D, en effet l’esprit humain est très limité pour gérer de grande quantité d’information, il est limité par ses capacités et ces biais (même si les IAs ont aussi des biais, résultat soit des biais de sélection des bases d’entrainement, soit de leur fonctionnement proche de l’humain avec des à peu près pas toujours fiable, appelé « le bon sens »…). Mais je te rassure, les sorties des IAs passent par le même cheminement de revue, simulation et validation que n’importe quelle idée humaine! ABC: Sinon nos écrans seront remplis de contenus fake issu de rien du tout sauf de ces robots aussi con qu’une banane. La dessus je te rejoins. Des utilisateurs d’IA les utilisent pour générer du contenu bullshit sans aucune valeur ajoutée et aucune vérification, là c’est de l’arnaque pure, sauf que l’incompétence (volontaire?) ne vient pas de l’IA mais des utilisateurs de ces IA. Les IAs génératives n’ont effectivement que la compétence d’imitation, pas de création. Après, il n’y a pas que des IAs génératives… ABC: Rien sur les millions de contenus utilisés où intervient le copyright, ou à défaut une simple demande d’autorisation. Quand les choses se font de cette façon, quand c’est pourri dès la base, ça ne peut rien apporter de bon. C’est pour ça qu’il faut cadrer les entrainements, les ressources disponibles sur le net sont quelques fois libres d’accès, mais pas toujours. ABC: Ce n’est ni à vous, ni à moi d’expliquer quand c’est du plagiat, mais aux juges et aux ayant droit. C’est aussi ce que je pense. Mais il faut redéfinir légalement le cadre du plagiat en tenant compte de ce nouvel usage, les juges ne font qu’estimer la légalité que les lois définissent!

Voir tous les messages sur le forum

OpenAI et Microsoft auraient-elles volé nos données personnelles pour entraîner leurs IA ?

OpenAI et Microsoft pilleraient des données un peu partout

Les plaintes se suivent… et se ressemblent

A découvrir en vidéo

Commentaires (10)

Top app & logiciels

Sur le même sujet