Décidément, la menace de l’intelligence artificielle (IA) semble de plus en plus se matérialiser. Anthropic vient de révéler avoir bloqué des tentatives d’utilisation de Claude afin de fabriquer des armes biologiques. Tout va bien…
Il y a deux jours à peine, Jacob Coxon, ingénieur chez Anthropic a démissionné en accusant les géants de l’IA de « jouer avec nos vies ». En cause : le développement de modèles capables de s’améliorer eux-mêmes, ce qui risque de les rendre hors de contrôle.
Son collègue, Evan Hubinger, responsable de la sécurité chez la start-up, a pour sa part évalué à plus de 10 % la probabilité que l’IA « tue tous les humains » d’ici à dix ans. Le nouveau rapport d’Anthropic n’est franchement pas rassurant…
Une demande très douteuse pour rendre le chikungunya plus dangereux
Car la société y documente en détail les usages détournés de Claude ces derniers mois, parmi lesquels figurent la mise au point d’armes biologiques. Par exemple, un chercheur a sollicité l’aide du modèle pour rédiger une demande de subvention scientifique portant sur le chikungunya, un virus transmis par les moustiques qui provoque de longues douleurs articulaires et musculaires.
Concrètement, le projet visait à rendre ce virus plus dangereux, en le modifiant génétiquement puis en l’inoculant de façon répétée à des animaux vivants. Si ce type de recherche peut légitimement déboucher sur des vaccins, Anthropic s’est méfiée de cette demande. Bien que présentée comme relevant de la recherche civile, la recherche allait en réalité être menée dans un institut militaire.
Anthropic n’a dévoilé ni le nom des chercheurs, ni celui des institutions concernées, ni leur pays d’origine. Elle a, en revanche, banni tous les comptes liés à cette activité, démantelé les réseaux utilisés pour contourner ses blocages géographiques, et transmis ses conclusions à d’autres laboratoires d’IA ainsi qu’au gouvernement fédéral américain.
C’est un risque auquel la firme s’est préparée. Il y a quelques mois, elle recrutait un spécialiste des armes chimiques pour rejoindre son équipe de politique de sécurité, chargé de tester les limites de ses modèles face à ce type de requêtes hautement sensibles.
- Upload de fichiers pouvant aller jusqu'à 100 000 tokens (75 000 mots environ)
- Personnalisation avancée
- Conception éthique
De nombreux autres usages non conformes
Mais ce n’est pas tout. Le rapport fait froid dans le dos pour d’autres raisons. Des acteurs liés à la Chine et à l’Iran ont, par exemple, utilisé Claude pour surveiller des communautés dissidentes et de la diaspora, tandis que des médias d’État russes s’en sont servi pour de la propagande en ligne déguisée en reportage indépendant.
De même, l’IA est exploitée afin de concevoir des logiciels pour des armes conventionnelles (armes à feu, missiles, drones armés, bombes), avec des cas recensés en Chine, en Russie et au Yémen.
Dans ce contexte, de plus en plus de voix s’élèvent pour freiner le développement de l’IA. Outre-Atlantique, deux élus, dont le démocrate Bernie Sanders, vont présenter un texte visant à interdire la superintelligence et à suspendre le développement de l’IA. Mais l’administration Trump, elle, maintient le cap inverse. Son objectif : gagner la course technologique face à la Chine.
