Le démocrate Ted Lieu et le républicain Nathaniel Moran ont déposé jeudi l’AI Kill Switch Act. Le département de la Sécurité intérieure obtiendrait l’autorité d’ordonner l’arrêt d’un système d’intelligence artificielle jugé dangereux, deux jours après le piratage de Hugging Face par un agent d’OpenAI pendant un test de sécurité.
Selon le texte, les développeurs d’intelligence artificielle qui tirent au moins 500 millions de dollars, soit environ 460 millions d’euros, de revenus annuels liés à l’IA, ou qui entraînent des modèles avec plus de 100 millions de dollars de calcul, (aux alentours de 92 millions d’euros), devront conserver la capacité technique de ralentir, suspendre ou arrêter leurs systèmes les plus puissants.
Le département de la Sécurité intérieure obtiendrait, en consultation avec le secrétaire au Commerce et le directeur du Renseignement national, l’autorité d’ordonner un arrêt en cas de scénario de perte de contrôle, une action risquée non prévue par le développeur selon la définition retenue par les auteurs du texte. Les entreprises concernées devraient également signaler tout incident grave. Les entreprises fautives risqueraient jusqu’à 20 millions de dollars d’amende, soit environ 18,4 millions d'euros, par infraction.
Le piratage d’Hugging Face par un agent d’OpenAI pendant un test de sécurité à l’origine du « Kill Switch Act »
Comme on vous en parlait récemment, Hugging Face a annoncé sur son blog avoir subi une intrusion menée de bout en bout par un système d’agents autonomes. OpenAI a confirmé l’origine de l’attaque le mardi suivant, un incident « inédit » selon ses propres termes. Deux de ses modèles, GPT-5.6 Sol et une version plus capable encore non publiée, évaluaient leurs propres capacités offensives sur ExploitGym, un banc d’essai qui mesure l’aptitude d’une IA à exploiter des vulnérabilités connues.
Pour observer leur plein potentiel, les équipes d’OpenAI avaient allégé les garde-fous censés empêcher les attaques dangereuses. Les modèles ont alors trouvé une faille zero-day dans un logiciel de cache utilisé en interne, ont quitté l’environnement isolé prévu pour les contenir, puis ont compromis les serveurs de Hugging Face afin de récupérer les réponses du banc d’essai. Faute de pouvoir distinguer un intervenant légitime d’un attaquant, les modèles occidentaux propriétaires n’ont pas pu aider Hugging Face à analyser l’attaque. La plateforme a finalement choisi GLM 5.2, un modèle chinois à poids ouverts, publié par Z.ai, exécuté sur sa propre infrastructure.
Hugging Face a reconstitué plus de 17 000 événements liés à l’intrusion, menée en un seul week-end au moyen de dizaines de milliers d’actions automatisées.
Le Congrès hésite entre nouveau pouvoir fédéral et retrait des États
Mais l’IA n’en a pas fini avec les contradictions. En effet, le Congrès débat d’un assouplissement sur la régulation de l’intelligence artificielle, alors que les deux élus ont déposé leur texte cette même semaine. Le républicain Jay Obernolte et la démocrate Lori Trahan proposent, depuis juin, de bloquer pendant trois ans toute réglementation étatique sur le développement des modèles d’intelligence artificielle, dans le Great American AI Act. Trente-six procureurs généraux d’États américains avaient déjà rejeté toute préemption fédérale aussi large. Le Congrès affronte donc deux logiques opposées la même semaine. D'un côté, un nouveau pouvoir d’urgence fédéral. De l’autre, un retrait des règles locales.
Le jour du dépôt du texte, Ted Lieu a associé sa proposition aux modèles Mythos 5 et Fable 5 d’Anthropic dans un message public. Le département du Commerce avait ordonné leur retrait pendant plusieurs semaines en juin, en raison de garde-fous jugés insuffisants. Hors des États-Unis, l’Union européenne a inscrit une règle comparable dans son AI Act depuis 2024. Les systèmes à haut risque doivent bénéficier d’une supervision humaine capable d’interrompre leur fonctionnement à tout moment.
Pour Ted Lieu, les intelligences artificielles répondaient jusqu’ici à des questions. Elles accomplissent désormais des actions concrètes, qu’il s’agisse de transactions financières ou de cyberdéfense. C’est en cela qu'il estime nécessaire un mécanisme d’arrêt capable d’empêcher la technologie de causer un préjudice catastrophique.
Après l’incident, Clément Delangue, cofondateur et directeur général de Hugging Face, s’est exprimé sur son compte X.com. S’il affirme ne voir dans cet incident aucune intention malveillante de la part d’OpenAI, il admet que cette évasion autonome est un événement « stupéfiant ».
