Une version expérimentale de Claude a réussi à découvrir et à combiner plusieurs vulnérabilités pour construire des attaques fonctionnelles contre Chrome, Safari, Android, Windows et Linux. Une avancée qui pourrait transformer la recherche en cybersécurité, et pas uniquement au profit de ceux qui protègent les systèmes.
Pour mener une cyberattaque jusqu'au bout, il faut parfois identifier plusieurs vulnérabilités complémentaires, comprendre comment elles interagissent et déterminer dans quel ordre les exploiter. Un travail ardu, longtemps réservé à des équipes de recherche particulièrement expérimentées, qu'Anthropic affirme désormais pouvoir confier à l'intelligence artificielle. Dans un rapport publié le 27 octobre, l'entreprise a détaillé les résultats obtenus par un modèle expérimental de Claude, capable de découvrir des failles et de les combiner lui-même pour compromettre des navigateurs et des systèmes d'exploitation parmi les plus utilisés au monde.
De la faille isolée à l'attaque complète, Claude franchit une nouvelle étape
Pour mettre Claude à l'épreuve, Anthropic a mobilisé sa Frontier Red Team, l'équipe chargée d'évaluer les capacités et les risques de ses modèles les plus avancés. Pendant plusieurs mois, les chercheurs ont fait travailler l'IA sur des logiciels complexes, à l'aide d'une plateforme qui lançait de nombreux agents en parallèle. Certains inspectaient le code, d'autres cherchaient comment accéder à des données protégées ou contourner les restrictions d'un programme. Le modèle disposait aussi d'outils de rétro-ingénierie pour analyser les logiciels dont le code source n'était pas disponible.
Sur Chrome, ce travail a débouché sur une chaîne de quatre vulnérabilités. Les deux premières permettaient de corrompre la mémoire du moteur JavaScript et de prendre le contrôle du processus d'affichage, les deux autres de franchir l'isolation du navigateur pour exécuter du code sur l'ordinateur. Lors des tests, l'exploit conçu par Claude a ainsi réussi à lancer la Calculatrice sur un Mac quelques secondes après l'ouverture d'une page web piégée, sans autre action de l'utilisateur.
Les attaques contre Safari et Android ont, elles, donné accès à des données normalement protégées, qu'il s'agisse d'informations appartenant à d'autres sites web ou de photos stockées sur un téléphone verrouillé. Sur Windows, une faille a permis de provoquer le plantage d'un serveur à distance. Sur Linux, enfin, l'exploitation d'une même vulnérabilité du noyau pour découvrir l'organisation de sa mémoire puis détourner son exécution a permis de lancer des commandes avec les privilèges root sur un serveur distant vulnérable, sans authentification ni intervention de la victime.
Une nouvelle course entre chercheurs et attaquants
Au total, Anthropic a signalé à Google 62 vulnérabilités dans Chrome, toutes classées critiques ou de gravité élevée, dont 13 permettant de s'échapper d'une sandbox. Google les a corrigées dans Chrome 156 et crédite les chercheurs de l'entreprise, assistés de Claude, pour plusieurs de ces découvertes. La possibilité de produire des exploits fonctionnels donne aux éditeurs un moyen de mesurer les conséquences des failles identifiées et de déterminer lesquelles corriger en priorité.
Anthropic préconise désormais d'étendre cette recherche à chaque modification du code, afin de détecter les vulnérabilités avant qu'elles n'atteignent les utilisateurs. L'entreprise a également élargi l'accès à ses modèles les plus puissants pour les professionnels de la cybersécurité sélectionnés, dans l'espoir d'accélérer la découverte et la correction des failles.
Mais les compétences acquises par ces modèles ne sont pas réservées à la défense. Si des capacités comparables deviennent accessibles à des acteurs malveillants, elles pourraient leur permettre d'explorer davantage de logiciels, de multiplier les tentatives et de raccourcir le délai entre la découverte d'une vulnérabilité et la mise au point d'une attaque. Des opérations qui mobilisent aujourd'hui des équipes très spécialisées pourraient ainsi être menées par des groupes disposant de moyens plus modestes.
Le modèle utilisé par Anthropic n'est toutefois pas accessible au public. L'entreprise affirme avoir obtenu ces résultats après quelques instructions initiales, moyennant peu d'interventions humaines, mais ne détaille pas la contribution exacte des chercheurs aux différentes étapes. Les exploits ont été réalisés en laboratoire, les vulnérabilités présentées ont toutes été corrigées et aucune exploitation malveillante de ces attaques n'a été signalée.
