Méfiez-vous de ChatGPT... Samsung en a fait les frais !

Alexandre Schmid

07 avril 2023 à 20h30

ChatGPT est un outil formidable, mais qu'il faut savoir utiliser avec prudence. Il est, par exemple, fortement déconseillé de lui soumettre des informations confidentielles. Et ce n'est pas Samsung qui vous dira le contraire.

Des employés de Samsung Electronics ont fait fuiter des données confidentielles de la société en ayant recours à ChatGPT, rapporte le média coréen Economist.

Au moins trois fuites de données liées à ChatGPT

D'après la publication, le groupe avait autorisé des ingénieurs de la branche Samsung Semiconductor, en charge de la conception de composants électroniques comme la mémoire vive, le stockage, les processeurs ou les capteurs photo, d'utiliser ChatGPT pour corriger des problèmes de code source.

Pour accomplir sa tâche, ChatGPT avait bien entendu besoin de connaître ce code source, sans quoi il ne pouvait pas l'améliorer. Samsung a donc sciemment révélé le code source d'un nouveau programme à l'agent conversationnel, un contenu critique qui est désormais conservé sur les serveurs d'OpenAI, l'entreprise qui a développé ChatGPT et son modèle de langage GPT-4.

Et ce n'est pas tout : plusieurs autres incidents relatifs à ChatGPT ont été constatés chez Samsung. Des modèles de test servant à identifier des puces défectueuses puis à les optimiser, ont également été soumis à l'intelligence artificielle. Dans un autre cas, l'application Naver Clova, basée elle aussi sur l'IA, a été utilisée pour produire automatiquement un document à partir de l'enregistrement d'une réunion. Ce document a ensuite été soumis à ChatGPT pour qu'il génère une présentation de ladite réunion.

ChatGPT, c'est fini chez Samsung

Samsung a décidé de restreindre ChatGPT au sein de ses locaux afin de limiter les risques de nouvelles fuites d'informations confidentielles. La firme n'exclut pas de bloquer totalement le service si d'autres accidents se produisent. La multinationale ne serait alors pas la première à prendre de telles mesures, déjà en vigueur chez JP Morgan et Verizon.

Selon la même source, Samsung envisage de développer sa propre plateforme d'intelligence artificielle semblable à ChatGPT, mais pour un usage uniquement interne.

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Source : Economist

Alexandre Schmid

Gamer et tech enthusiast, j’ai fait de mes passions mon métier. Diplômé d’un Master en RNG sur Hearthstone. Rigole aux blagues d’Alexa.

Lire d'autres articles

Gamer et tech enthusiast, j’ai fait de mes passions mon métier. Diplômé d’un Master en RNG sur Hearthstone. Rigole aux blagues d’Alexa.

Lire d'autres articles

Commentaires (35)

phoenix2

Chatgpt ou l’outil parfait de récolte d’informations, fuyez ce mouchard et parler au gens dans la réalité et faite vos recherche vous meme, c’est plus bénéfique !!!

GRITI

MqcdupouletBasquez

Il apparaît assez évident que l’avenir va vers des ia propriétaire avec leurs propre sécurité. C’est le début début.

Proutie66

Vous vous rendez compte, enfin ceux qui lisent qu’il n’y a aucun problème avéré là? En gros, Samsung sait que leurs utilisateurs ont utilisé Chatgpt. Pour des failles. Ils disent pas que ChatGpt a divigulé ces infos !

EdwinF

Comme toujours, on apprend de ses propres erreurs.

Mister_Georges

ChatGPT à susurrer à l’oreille de Bixbi le pauvre raté de l’assistant Coréen qu’il était supérieur à lui et qu’il n’avait que les rêves d’un caméléon assis en contre jour sous une mystérieuse fenêtre que l’on à tous sous nos claviers en bas à gauche.

carinae

He ben c’est mal barré…parce que le cloud…il y en a partout et de plus en plus. Même sur des technologies sensibles comme la téléphonie ou la visio… Reste a déterminer si le choix se portera sur du cloud privé, public ou hybride . Ceci étant je pense tout de même qu’après avoir fait du cloud a outrance beaucoup d’entreprises reviendront vers du datacenter. Mais ça sera des datacenters beaucoup plus petits qu’avant mais plus nombreux… A voir si l’avenir le confirmera

Than

Merci d’avoir utilisé 2 neurones interconnectés pour ce message de bon sens. Ouf ! Il reste des gens qui réfléchissent et critiquent le contenu de certains articles « sensationnalisés ».

phoenix2

Des fois, il y’a des erreurs fatales !!!

Than

" Au moins trois fuites de données liées à ChatGPT " Non. C’est 3 fuites de données liées à des employés qui ont écrit sur les murs de leur boîte, donnant vue sur le trottoir, des données internes qui ne sont pas faites pour être visibles par les passants. Ce n’est pas DU TOUT la même chose. L’IA n’y est pour rien. Au mieux, on peut critiquer la politique des dev’ de l’IA parce qu’ils anonymisent pas le contenu. S’il vous plait, arrêtez les raccourcis… Les gens vont encore moins comprendre comment ça fonctionne… L’IA vole pas les secrets qu’on lui donne pas.

louchi

Hehe ça me fait rire, c’est comme un pote qui m’a dit: " je n’utilise pas whatsapp, car ils ont toutes tes infos…" et il est sur Android

Valmont69

clockover: il faut fuir, le cloud Bon courage, donc vous hébergez tout vous-même en interne sur vos serveurs ? Pas d’OVH, d’Azure, de Google Cloud ou d’AWS, etc. ? Et vos partenaires en affaires non plus ? Donc vos locaux sont sécurisés, vous avez embauché des experts en sécurité, tout est redondé, sauvegardé (dans plusieurs lieux géographiques différents) vous avez vos groupes électrogènes, etc. ? Elle doit vous couter cher votre indépendance.

phoenix2

Comparer whatsapp a chatgpt, fallait oser, n’importe quoi !!

Valmont69

J’en vois tous les jours qui collent des scripts PowerShell entier dans ChatGPT pour les faire corriger, forcément ça pause de problème de confidentialité. Mais le problème, comme vous le précisez, ce n’est pas l’IA mais bien l’interface chaise - clavier qui fait le copier/coller.

Valmont69

phoenix2: Comparer whatsapp a chatgpt Je crois que le 1er est pire que le second mais dans tous les cas un service ne peut divulguer que les données qu’on lui confie.

big_yuul

C’est quand même ballot parce qu’il y a un gros message quand on se connecte à ChatGPT pour dire qu’ils gardent les infos qu’on leur donne et que par conséquent il ne faut pas écrire de données confidentielles. Savent pas lire chez Samsung ?

louchi

T’es plus bourré que moi ou quoi ? ici on parle de fuites de données, de confidentialités, tu saisies, ou pas ? si tu veux pas, ressers toi.

luck61

En avertissement sur le site de chatGPT il est écrit qu’il ne faut pas y mettre des données sensibles et que chatGPT peut dire des conneries , après si les personnes enfreignent ces règles on ne peut plus rien faire pour eux

Korgen

C’est bien ce que j’allais dire : c’est quoi le problème, des employés d’OpenAI ont révélé les données que Samsung a confié à ChatGPT ? Non ? Alors c’est quoi le problème ???

wackyseb

Pas plus de récolte d’information qu’une simple recherche Google, de l’utilisation d’un smartphone et de ses nombreuses applications qui savent beaucoup de choses sur nous. La seule différence c’est le respect du RGPD et la non divulgation. Là où ChatGPT réutilise tout ce qu’il voit et apprend.

wackyseb

On peut faire çà. Trop bien pour moi qui ne fait pas de code. Je vais tester çà de suite… Euh comment çà marche, on me demande de me loguer à un compte OpenAI ou de m’enregistrer. Mais non je veux pas faire çà moi. Testé sur un site gratuit mais limité à 5 réponses. Après il faut un « accès prioritaire » mais çà fonctionne.

RobinPrieur

Ce n’est pas l’IA qui a vendu ces données. Cependant, étant donné que les conversations peuvent être examinées par des formateurs en intelligence artificielle pour améliorer les systèmes, il est important de lire attentivement les termes et conditions avant de créer un compte. En effet, les termes et conditions mentionnent que « Veuillez ne pas partager d’informations sensibles dans vos conversations. » Néanmoins, cela ne garantit pas que les personnes ayant accès à ces données ne les vendront pas. Après qui ayant accès à ces données ne les vendraient pas ? 730×583 22.7 KB

Keoden

Oula je ne pensais lire autant de commentaires du siècle dernier sur un tel Forum. L’independant en informatique qui fuit le cloud parce qu’il a peur qu’on lui vole ses donnees… A moins d’avoir inventé un système totalement original et innovant il y a fort à parier que la silicone Valley s’en moque royalement du bout de code Mr Michu… Bref il faut juste un peu de jugeote et comme dit plus haut savoir lire les lignes du contrat…

DrGeekill

Comme le disait bien ce célèbre trio des années 90 : « Il ne faut pas prendre les gens pour des c… Mais il ne faut pas oublier qu’ils le sont. » Bon weekend à vous

max6

Sans blague ! On ne serait pas loin du sommet de l’Himalaya de l’incongruité (j’aurais bien utilisé un autre mot mais c’est pas poli) ce coup-ci quand même. Confier des secrets industriels à une IA dans le cloud situé chez un concurrent et programmé par lui, laquelle en plus utilise toutes les donnés qu’on y entre pour formuler une réponse aux questions que d’autres vont poser et « s’étonner » ensuite des fuites… Il doivent fumer une sacrée moquette chez Samsung. Au moins celui qui a donné l’autorisation… et tout ceux qui ont validé… et tous les ingénieurs que cela n’a pas fait tiquer, ça commence à faire du monde .

MattS32

wackyseb: Là où ChatGPT réutilise tout ce qu’il voit et apprend. Non, même pas. Chat GPT ne réutilise ce qui lui a été donné dans une conversation que dans le contexte de cette conversation. Pas en dehors. Sinon ça serait assez facile pour des petits malins de lui apprendre n’importe quoi pour qu’il aille le recracher ailleurs. Ce système de contexte permet aux utilisateurs d’affiner un peu le comportement de Chat GPT, mais sans risque de dérives comme celles qu’on a pu voir avec le chat bot que Microsoft avait branché à Twitter il y a quelques années et à qui les gens avaient appris à être raciste. On s’en rend d’ailleurs facilement compte : il suffit d’apprendre un nouveau mot à Chat GPT dans une conversation, par exemple un « phonepad c’est un téléphone en forme de gamepad » puis de lui demander dans une autre conversation (y compris avec le même compte OpenAI) ce qu’est un « phonepad », il sera incapable de répondre. L’apprentissage de Chat GPT est basé sur des données publiques collectées sur Internet avec un robot, exactement comme le fait un moteur de recherche. D’ailleurs, comme les moteurs de recherche sérieux, Chat GPT respecte la norme robots.txt pour permettre à l’éditeur d’un site web de lui donner des instructions sur ce qu’il peut ou ne peut pas indexer.

wackyseb

Hhhhaaaaaaaaaaaaaaaa ! Ok. Bah comment les données de Samsung ont fuités alors ??

hellraisercom

Ah la vache ! ils seraient pas un peu c*n chez Samsung ? Ils valident l’utilisation d’un outils clouding externe et balance un code sensible dessus et trouve drôle qu’il y a des fuites après… ? Perso je n’est jamais pu testé l’outil parce qu’il veux que je rentre mon numéro de téléphone… eux rentre un code sensible XDDDDDDDD

e_garfield

Replacez dans cet article ChatGPT par n’importe quoi (Gmail, le Cloud de Bidule, votre voisin) et vous avez exactement le même contenu. Mais ça fait plus cliquer que de dire, "les employés de Samsung ont balancé volontairement des infos n’importe où, et se disent maintenant que c’était ptetre un peu c*n)

phoenix2

Bon weekend a vous aussi, et bonne fête de pâques !!

MattS32

wackyseb: Ok. Bah comment les données de Samsung ont fuités alors ?? Bah à priori, elle n’ont pas véritablement fuité en fait. Samsung a juste communiqué sur le fait qu’elle sait que ces données ont été envoyées à Chat GPT et sont donc vraisemblablement aujourd’hui stockées sur les serveurs d’Open AI (qui garde les historiques pour éventuellement pouvoir les analyser). Elles ont dont juste fuité de Samsung vers Open AI, rien de plus à ce jour.

wackyseb

Pas de quoi en faire un fromage alors. Toutes les actions sur internet sont aussi tracés de la même façon. Ils ont découvert comment fonctionne internet. Hihi

nelectron

L’IA c’est d’abord un grand savoir, un big data qui accumule tout ce qui lui est dit, pour l’instant… Le but final est de TOUT savoir alors un jour le bidule viendra se servir directement dans nos ordis, si vous avez des secrets, débranchez !

Valmont69

clockover: on loue des emplacements en rack dans des datacenters Donc vous avez externalisé vos données, elles ne sont pas plus (ni moins) sécurisées que dans n’importe quel Cloud finalement.

Valmont69

clockover: Ca n’a rien à voir avec un AWS, Azure ou autre sur lesquels on a aucune maitrise de toute la couche infra hard et logiciel. Effectivement, ce que vous décrivez est un Cloud privé mais ça reste du Cloud avec des données externalisées. Donc vous n’avez pas fui les clouds mais juste opté pour une option différente de ce que proposent par défaut les gros clouds providers. Vos données restent accessibles via un réseau (et physiquement, même si c’est compliqué) donc potentiellement vulnérables (un VPN ne vaut pas une isolation complète du réseau). Et dans tous les cas si un employé décidait de faire un copier/coller dans ChatGPT, vos données deviendraient exploitables par ce dernier. Enfin sachez que même chez Azure il est possible de racker son propre matériel, tout est question de moyens financier mais ça existe.

Valmont69

clockover: Il y a la certitude qu’aucune donnée n’a été lue sans consentement, conservée, exploitée par un intermédiaire. En matière de sécurité, avoir des certitudes c’est ouvrir une première faille de sécurité. clockover: Ces deux risques sont donc hors propos puisqu’ils existent en « cloud » et en on-premise. Donc être « On-premise » n’est en rien une garantie de confidentialité comme semblait l’affirmer votre premier poste. Le problème n’est donc pas d’avoir ses données en externe ou en interne mais l’utilisation qu’on en fait et une fuite de données est à l’origine plus souvent humaine que technique.

VoLt

J’ai montré tout ces échanges à chat GPT et m’a répondu…y a que la vérité qui blesse…O⁠_⁠o

Keoden

Alors si, ils s’en moquent puisque mon propos n’était pas de mettre un bout de code sur Chatgpt mais sur les serveurs d’un cloud de type azure ou amazon. Là, à moins d’avoir réinventé la roue ou d’y stocker des données ultra confidentielle, vous ne risquez pas grand chose… Après a chacun son degréde paranoïa. Quand a youtube ou autre, confère la bourse même combat, gestion du risque et non de naïveté.

Voir tous les messages sur le forum

Méfiez-vous de ChatGPT... Samsung en a fait les frais !

Au moins trois fuites de données liées à ChatGPT

ChatGPT, c'est fini chez Samsung

A découvrir en vidéo

Commentaires (35)

Top app & logiciels

Sur le même sujet