ChatGPT sait même écrire le code informatique d’un… malware

Alexandre Boero
Par Alexandre Boero, Journaliste-reporter, chargé de l'actu.
Publié le 12 janvier 2023 à 18h30
© Shutterstock
© Shutterstock

Les chercheurs en cybersécurité s'inquiètent de l'utilisation détournée de ChatGPT par certains individus dotés de mauvaises intentions, qui utilisent l'outil pour écrire des malwares.

Ces dernières semaines, OpenAI a remis l'intelligence artificielle sur le devant de la scène en propulsant auprès du grand public son agent conversationnel ChatGPT (aujourd'hui librement accessible en sa version 3.5). Aussi formidable et prometteur soit-elle, l'interface, capable de générer du code, pourrait se révéler être un allié capital pour les cybercriminels peu qualifiés. Des chercheurs de l'entreprise cyber Check Point Research ont d'ailleurs repéré plusieurs outils de piratage créés depuis la plateforme d'OpenAI.

Des logiciels voleurs d'informations créés grâce à ChatGPT

Les spécialistes cyber ont d'abord identifié un cas d'infostealer, un voleur d'informations baptisé « ChatGPT - Benefits of Malware », apparu sur un forum de piratage populaire. L'auteur du post explique avoir recréé des souches de logiciels malveillants, sur du code basé sur Python.

Le malware mis au point par l'individu grâce au concours de ChatGPT possède la capacité de rechercher des fichiers, de les copier, de les compresser et même de les exfiltrer, en les téléchargeant sur un serveur FTP codé en dur.

Ici, l'individu montre comment il a un créé un infostealer grâce à ChatGPT © Check Point Research
Ici, l'individu montre comment il a un créé un infostealer grâce à ChatGPT © Check Point Research

Check Point Research a procédé à l'analyse du script et confirmé les informations livrées par le cybercriminel. « Il s'agit bien d'un infostealer qui recherche 12 types de fichiers courants, comme des documents Office, des PDF et des images, et ce, sur l'ensemble du système », nous expliquent les chercheurs. Le même acteur a d'ailleurs utilisé l'agent conversationnel pour écrire du code Java et créer un logiciel malveillant qui, grâce à PowerShell, permet le téléchargement et l'exécution d'autres malwares.

Une utilisation de l'agent conversationnel qui vient aider les individus malintentionnés aux compétences cyber limitées

À la fin du mois de décembre, les chercheurs ont découvert un script Python, encore généré via ChatGPT. Son auteur explique que son créateur n'avait encore jamais créé de script. Pourtant, celui-ci peut tout à fait chiffrer et déchiffrer des fichiers. S'il semble bénin, le script peut en réalité être modifié à des fins malveillantes pour chiffrer une machine tierce, sans interaction avec l'utilisateur. Autrement dit, il peut se transformer en ransomware.

Si l'individu en question n'est pas un développeur et que ses compétences techniques restent limitées, il est aujourd'hui engagé dans différentes opérations illicites, comme la vente d'accès à des entreprises compromises et à des bases de données dérobées, ce qui donne une idée du danger potentiel.

Le troisième cas remonte, lui, au 31 décembre. Nous avons ici affaire à un autre membre issu du forum clandestin, qui cette fois ne se tourne pas vers les logiciels malveillants, mais s'intéresse plutôt à la partie business du dark web. Il a en effet utilisé ChatGPT pour mettre au point des scripts capables de faire fonctionner une place de marché automatisée sur le dark web, pour procéder à l'achat et à la vente de comptes et informations bancaires volés, de malwares, d'armes et même de drogues. Le hacker a même publié une partie du code qui embarque l'API tierce l'aidant à obtenir les cours en temps réel des différentes cryptomonnaies, pour s'en servir comme système de paiement pour la marketplace du dark web.

  • Chat dans différentes langues, dont le français
  • Générer, traduire et obtenir un résumé de texte
  • Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Par Alexandre Boero
Journaliste-reporter, chargé de l'actu

Journaliste, chargé de l'actualité de Clubic. En soutien direct du rédacteur en chef, je suis aussi le reporter et le vidéaste de la bande. Journaliste de formation, j'ai fait mes gammes à l'EJCAM, école reconnue par la profession, où j'ai bouclé mon Master avec une mention « Bien » et un mémoire sur les médias en poche.

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !

A découvrir en vidéo

Commentaires (0)
Rejoignez la communauté Clubic
Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.
Commentaires (5)
arthur6703

Spoilers alertes : tous les moteurs de recherche permettent d’accéder aux mêmes genre d infos depuis 20 ans. Mais comme à présent il faut 1 clics de moins pour accéder à l’info, la sécurité mondiale est menacée

dimebag

Le sujet c’est la création d’un malware directement par chatGPT, pas de faire des recherches sur le sujet

Freya

Non, c’est faux. Les moteurs de recherche ne référencent pas ce genre de site, on ne trouve ces infos que sur le dark web dans des forums précis et spécialisés.

Là il s’agit d’un code fonctionnel en bonne et due forme, pas juste des pistes que l’on pourrait trouver à l’aide de Google et autre.

gemini7

Le titre de l’article : « ChatGPT sait même écrire le code informatique d’un… malware »

Je sens qu’on va en prendre plein la machine. Oh, « SkyNet », oups… ChatGPT est là, enfin, plus très loin, ⁣:sweat:. Sarah Connor ?, Oui…?, Bang, bang. —> parti dans le passé.—>[_] :sweat_smile:

gekola

ChatGPT ne créé rien il fait de la prédiction, il est fort pour cela, mais si dans les données qui lui ont été donné pour « s’entraîner » il n’y a rien niveau malware, il y a peu de chance qu’il te sorte quelque chose.