Claude Mythos fait encore parler de lui. Cette fois, l'IA a été utilisée pour trouver des failles dans les systèmes du gouvernement américain, et la pêche fût fructueuse.
Le modèle d'intelligence artificielle le plus puissant d'Anthropic a détecté des failles de sécurité dans des systèmes informatiques classifiés du gouvernement américain. L'information a été donnée par l'Associated Press, qui cite un responsable américain non identifié. Claude Mythos a identifié ces vulnérabilités en quelques heures dans le cadre d'un exercice de sécurité interne, et non lors d'une intrusion extérieure.
La solution tout-en-un pour protéger votre entreprise
Votre petite entreprise a de grandes ambitions. Protégez-là contre les pirates. Et développez sereinement votre activité !
Un exercice fortement encadré
L'exercice s'inscrit dans le cadre du programme Project Glasswing, un dispositif à accès contrôlé par lequel Anthropic a mis Mythos à disposition d'un nombre limité d'organisations vérifiées, sans diffusion publique. Le modèle a été conçu, entre autres, pour repérer et tester des vulnérabilités logicielles. Lors de préédents tests, il avait identifié des milliers de failles dites zero-day, c'est-à-dire inconnues jusqu'alors, dans des systèmes d'exploitation et navigateurs majeurs, dont un bug vieux de 27 ans dans le système OpenBSD.
C'est lors d'une audition au Sénat américain, le 11 juin, que l'affaire a pris une dimension publique. Le sénateur Mark Warner, vice-président de la commission du renseignement, a indiqué que le général Joshua Rudd, à la tête de la NSA et du Cyber Command, lui aurait rapporté que Mythos avait "pénétré la quasi-totalité de nos systèmes classifiés, non pas en semaines, mais en heures". Cette formulation plus tranchée, diffusée hors contexte, est en partie à l'origine de la confusion qui a suivi.
Des contradictions à Washington
L'épisode met en lumière une tension que le gouvernement américain n'a pas résolue. La NSA a été autorisée à continuer d'utiliser Mythos sur des réseaux classifiés. Des parties de la communauté du renseignement et l'Agence de cybersécurité et de sécurité des infrastructures (CISA) l'ont également testé. Dans le même temps, l'administration a ordonné à Anthropic, le 12 juin, de désactiver Mythos et son modèle public Fable 5 à l'échelle mondiale. Ce, à la suite d'un différend distinct portant sur un jailbreak signalé, c'est à dire une méthode permettant de contourner les garde-fous du modèle. Cette décision est actuellement contestée devant les tribunaux.
Le même gouvernement qui s'appuie sur le modèle l'a donc aussi restreint, s'est opposé à son déploiement mondial, et a par ailleurs qualifié Anthropic de risque pour la chaîne d'approvisionnement en matière de sécurité nationale.
Cette contradiction résume assez bien les trois derniers mois. Mythos circule entre gouvernements plus vite que ceux-ci ne parviennent à définir ce qu'ils veulent en faire. La NSA l'utilise, le Trésor le courtise, des parties de la Maison Blanche s'y opposent, et le Pentagone en dispute l'usage.
Le sénateur Warner, pour sa part, a cité les résultats de ce test, afin de plaider en faveur d'une évaluation obligatoire des modèles d'IA les plus puissants avant leur mise sur le marché.
Source : TheNextWeb
