Une entreprise a été piratée de bout en bout par une intelligence artificielle livrée à elle-même, comme le révèle la CNIL espagnole, qui évoque un premier cas du genre officiellement recensé en Europe.
Le 14 septembre, l'Agence espagnole de protection des données (AEPD) a publié la toute première notification officielle d'une brèche causée par un agent d'intelligence artificielle agissant en toute autonomie. Ce dernier a scanné seul, infiltré puis exploité le système d'une entreprise. Pour les experts, cet épisode confirme une bascule déjà observée sur le terrain, symbolisée par Hugging Face notamment, que ce soit avec du pentest automatisé ou de l'attaque éclair menée sans supervision humaine constante. Les précédents commencent sérieusement à s'accumuler.
Comment un agent IA a mené seul toute une cyberattaque
Rien, dans le mode opératoire décrit par l'AEPD, ne relève d'une technique révolutionnaire ou futuriste. c'est justement ce qui rend l'affaire troublante. L'agent IA a d'abord passé le système au crible à la recherche de failles, avant de trouver un moyen de s'y connecter. Une fois à l'intérieur, il a continué seul son exploration jusqu'à dénicher une vulnérabilité exploitable dans l'application visée, lui permettant d'aller modifier des données personnelles et de consulter des factures. Autrement dit, chaque étape d'une cyberattaque classique a été franchie sans qu'un humain n'ait besoin de lui tenir la main. L'AEPD dit que l'intelligence artificielle n'invente aucune nouvelle méthode de piratage. Elle se contente de rendre les techniques existantes beaucoup plus rapides, plus étendues et plus capables de s'adapter en temps réel à ce qu'elle découvre. Du coup, la fenêtre dont disposent les équipes de sécurité pour repérer l'intrusion avant qu'elle ne cause de dégâts se réduit dangereusement. L'agence craint que si un tel agent parvient à mettre la main sur un compte ou une clé d'accès disposant de droits trop généreux, il puisse alors agir à une vitesse que même le meilleur analyste ne pourrait suivre, bien avant qu'une alarme ne se déclenche quelque part.
L'AEPD précise tout de même que tout ce qu'elle sait de cet incident provient uniquement du signalement fait par l'entreprise concernée. Personne d'extérieur n'a encore pu vérifier ni confirmer ces éléments de façon indépendante, et l'agence elle-même appelle à la prudence en attendant une analyse plus poussée. Elle ajoute aussi que ce n'est pas parce qu'un modèle d'IA bien connu a été utilisé dans cette attaque que son éditeur a été piraté, ni que l'outil en question a été conçu pour faire du mal. N'importe quel modèle grand public peut, entre de mauvaises mains, servir à automatiser une intrusion, sans que ses créateurs n'y soient pour quoi que ce soit.
Sur LinkedIn, l'expert français en cybersécurité Gérôme Billois, associé chez Wavestone, a réagi à cette révélation espagnole. « Ce fonctionnement ne me surprend pas du tout », écrit-il, expliquant observer des schémas similaires dans les tests d'intrusion assistés par IA menés par son cabinet. Il salue au passage la démarche de l'agence, ajoutant qu'« on ne peut pas accuser l'AEPD d'être un acteur du marketing cyber ». La démarchage de la CNIL espagnole est en effet intéressante, et pourrait inspirer de l'autre côté de la frontière, suivez notre regard !
Ces autres cyberattaques déjà pilotées par des IA autonomes
Cette notification espagnole n'est que le dernier épisode d'une liste qui s'allonge. Avant l'été déjà, le ransomware JadePuffer avait automatisé une attaque de bout en bout via Langflow, un outil habituellement utilisé pour construire des workflows d'IA. Là où une première tentative de connexion avait échoué, l'agent a réussi, en seulement 31 secondes, à trouver un moyen de contourner cet échec et d'accéder quand même au système, une vitesse d'exécution impossible à atteindre pour un humain, au passage. Les experts restent partagés sur le niveau réel d'autonomie de cette attaque, d'autant que l'IA a commis une erreur assez révélatrice en inventant purement et simplement une fausse adresse Bitcoin censée recevoir la rançon. Ces systèmes, aussi rapides soient-ils, ne sont pas infaillibles pour autant. Puis un mois plus tard, en juillet, une attaque bien plus organisée a visé Taïwan, avec huit agents IA spécialisés qui ont travaillé simultanément, chacun se chargeant d'une partie différente de l'intrusion, comme une équipe de hackers coordonnée, mais entièrement automatisée. Le résultat a été redoutable d'ailleurs, avec 85 comptes compromis et plus de 2 500 fiches de personnel dérobées en seulement quatre jours.
La liste des précédents ne s'arrête pas là. Cet été, la plateforme Hugging Face, très utilisée par les développeurs pour héberger et partager des modèles d'IA, a dû se défendre contre une intrusion pilotée de bout en bout par un système d'agents IA autonomes, sans qu'un humain n'ait besoin d'intervenir à chaque étape. De quoi fêter son rachat à 13 milliards de dollars par le géant NVIDIA. Plus inquiétant encore, un rapport explosif publié il y a quelques jours par Anthropic, la société qui développe l'IA Claude, révèle avoir détecté des opérations d'espionnage informatique entièrement automatisées, visant plus de cinquante organisations à travers le monde. La vitesse d'exécution reste toujours l'un des éléments les plus inquiétants. Si un pirate humain expérimenté a besoin de plusieurs jours pour mener une intrusion complète, jusqu'à l'accès aux systèmes les plus sensibles, ces agents IA y parviennent parfois en seulement deux à trois heures.
LAEPD et les experts du secteur convergent vers les mêmes priorités. D'abord, il ne suffit plus de cocher la case « risque de piratage » de façon générique dans les analyses de sécurité. Les attaques pilotées par IA doivent désormais être envisagées comme une menace à part entière, avec ses propres réflexes de défense. Ensuite, la gestion des identités numériques devient cruciale, à commencer par les comptes et les clés d'accès qui disposent de droits trop larges, ceux-là mêmes qu'un agent IA pourrait exploiter en un clin d'œil. Enfin, les entreprises doivent réduire leurs délais de détection et de réaction, sans reposer uniquement sur la vigilance humaine, car celle-ci ne peut plus suivre le rythme d'une machine. Gérôme Billois réclame de nouveaux objectifs chiffrés pour les équipes sécurité : « la détection et la remédiation doivent passer de jours à heures ». Il va plus loin en suggérant de retourner l'arme contre elle-même, c'est-à-dire d'utiliser l'intelligence artificielle pour renforcer la défense en amont, plutôt que de simplement subir les attaques qu'elle rend possibles. Cette notification venue d'Espagnol constitue en tout cas un signal d'alerte fort, à ne surtout pas sous-estimer.
