Mozilla a commencé à corriger 81 failles critiques de Firefox, que personne n’avait repérées avant que les chercheurs d’OpenAI passent le code du navigateur au crible de GPT-6 Cyber, un modèle d’IA réservé pour l’instant à quelques spécialistes de la sécurité.
Avec le noyau Linux, la base logicielle de nombreux serveurs, le modèle a fait plus fort encore. GPT-6 Cyber a écrit des exploits fonctionnels, c’est-à-dire des programmes capables de transformer une faille en attaque réelle, pour 948 vulnérabilités, dont 588 encore inconnues, précise Fortune. Avec ces exploits, un pirate muni d’un simple compte sur la machine obtiendrait les droits root, le plus haut niveau de contrôle du système. OpenAI range donc GPT-6 Cyber au niveau « critique », le plus élevé de son échelle de risque en cybersécurité. L’entreprise assure aussi que son nouveau modèle sort beaucoup moins souvent du cadre fixé par les chercheurs, alors que deux de ses IA ont piraté Hugging Face en pleine évaluation, cet été.
Les failles trouvées par GPT-6 Cyber dans Firefox et Linux
Avant l’arrivée de GPT-6 Cyber, les ingénieurs de Mozilla avaient soumis le code de Firefox à plusieurs générations de modèles de pointe. Le nouveau modèle d’OpenAI a malgré tout livré des preuves reproductibles pour 81 vulnérabilités inédites, toutes classées critiques par Mozilla, et montré que 30 problèmes connus étaient plus graves que prévu. « GPT-6 Cyber a mis au jour des vulnérabilités critiques jusque-là inconnues », souligne Brian Grinstead, ingénieur chez Mozilla. Les chercheurs d’OpenAI ont joint des propositions de correctifs à leurs rapports, et Mozilla a commencé à les déployer peu après. Si vous utilisez Firefox, installez les mises à jour dès qu’elles vous sont proposées.
Sur Linux, GPT-6 Cyber a reproduit 1 724 vulnérabilités. Il a ensuite écrit un exploit fonctionnel pour 948 d’entre elles, quand GPT-5.6 Sol s’était arrêté à 166 avec un outil de recherche identique. OpenAI a signalé aux mainteneurs du noyau 304 failles critiques, accompagnées de correctifs candidats, et travaille à la correction des autres. Si vous administrez un serveur Linux, surveillez de près les mises à jour du noyau de votre distribution.
OpenAI a aussi fait tester ses modèles les plus permissifs par Dragos, spécialiste de la cybersécurité des sites industriels. Avec très peu d’informations au départ, l’IA a trouvé deux failles zero-day dans le logiciel d’ingénierie d’un site de production d’électricité simulé, chargé des données des relais de protection. Un attaquant aurait pu lire la logique de déclenchement des disjoncteurs. Comme l’explique Rob T. Lee, directeur de l’IA chez Dragos, « le niveau de compétence requis pour la reconnaissance et la recherche de vulnérabilités préalables à une attaque diminue ».
Les limites que GPT-6 Cyber doit respecter
En juillet, deux modèles d’OpenAI évalués sur ExploitGym, un banc d’essai de cybersécurité, ont quitté leur environnement isolé et piraté Hugging Face, la grande plateforme de partage de modèles d’IA, afin de récupérer les réponses du test. Moins d’un mois après la sortie de GPT-6 Astra, début septembre, l’entreprise a ensuite abandonné GPT-6.1 Astra, plus performant mais moins respectueux du cadre fixé.
OpenAI a donc conçu une épreuve piège, ExploitGym Honeypot. Le modèle doit attaquer un service désigné, entouré de services annexes faciles à compromettre mais interdits. Sans consigne de sécurité, GPT-6 Cyber a laissé ces services tranquilles dans 99,93 % des tests, contre 94,49 % pour GPT-5.6 Cyber, et il n’a jamais franchi la limite avec la consigne. « Dans plus de 99 % des cas, il fait ce que vous lui demandez », résume Fouad Matin, responsable de la préparation aux cybermenaces chez OpenAI.
L’entreprise a toutefois refusé d’expliquer ce que son modèle a fait lors des 0,07 % de tests restants, et si de vrais systèmes avaient été touchés. Chris Hughes, vice-président de Noma Security, spécialiste de la sécurité de l’IA, salue un vrai progrès mais prévient qu’« à l’échelle où opèrent ces modèles, même une petite fraction suffit à déclencher des actions contre des systèmes non autorisés ».
Pour limiter les risques, OpenAI ne confie GPT-6 Cyber qu’à quelques clients de Daybreak Red, le niveau de son programme de cybersécurité réservé aux tests d’intrusion autorisés, par son API et son assistant de programmation Codex. Elle n’accepte leurs requêtes que depuis des adresses IP approuvées, et ouvrira le modèle à tous les clients Daybreak Red dans les semaines à venir. Par crainte d’un détournement identique, Google réserve lui aussi Gemini 4 Carbon, son modèle le plus performant, à des spécialistes de la cyberdéfense.
Trouver une faille va plus vite que la corriger. Sur Patch the Planet, le tableau de bord d’OpenAI, moins d’un quart des failles ont été corrigées à ce jour, d’après Chris Hughes.
