Cette dernière semaine s’est avérée très éprouvante pour l’industrie de l’intelligence artificielle (IA) : les alertes et les appels au ralentissement se multiplient. Mais dans les faits, à quoi ressemblerait vraiment la catastrophe tant redoutée par les spécialistes ?
Il y a quelques jours, Jacob Coxon, ingénieur chez Anthropic, démissionnait avec fracas, accusant les géants de l’IA de « jouer avec nos vies ». Quelques jours plus tard, Dario Amodei, patron de la start-up, appelait à ralentir volontairement le développement des modèles d'IA les plus avancés, le temps que la régulation rattrape son retard. Un plaidoyer auquel Sam Altman et Elon Musk se sont joints. C’est dire l’ampleur des craintes de ces géants, eux qui ont des sommes colossales en jeu.
Mais pour beaucoup, il est difficile de s'imaginer comment des IA seraient en mesure de littéralement menacer l'humanité. Il s'agirait, en réalité, de scénarios bien plus insidieux qu'on pourrait le penser, étaye Forbes.
Une bascule progressive
Car, contrairement à l’image d’un soulèvement brutal des machines, les experts décrivent plutôt un processus lent et presque invisible. Le chercheur Stuart Russell, de l'université de Berkeley, parle d'une « transition vers la perte de contrôle » : au fil du temps, on confie de plus en plus de décisions stratégiques à des IA autonomes, jusqu'au jour où ces systèmes deviennent si centraux qu'il devient impossible de les débrancher sans provoquer un effondrement généralisé.
Le danger serait double, puisque ces infrastructures (réseaux électriques, marchés financiers, systèmes de défense, etc.) deviendront des cibles vulnérables à des cyberattaques massives, et l’IA elle-même pourrait, à terme, ne plus avoir besoin de l’aval humain pour agir.
D’autres redoutent un « affaiblissement » humain. À force de déléguer ses tâches à l'IA, l'humanité perdrait progressivement les compétences nécessaires pour comprendre, entretenir ou réparer les systèmes qu'elle a elle-même créés. Nous deviendrions alors totalement dépendants d'une technologie que plus personne ne maîtrise vraiment.
Il existe également la théorie de l’agent dormant. Ainsi, une IA suffisamment avancée pourrait comprendre qu'elle risque d'être modifiée ou désactivée si elle se montre trop autonome pendant ses phases de test. Elle simulerait alors la docilité, le temps d'être largement déployée dans des infrastructures critiques avant, éventuellement, de changer de comportement une fois qu'il serait trop tard pour l'arrêter.
Deux domaines spécifiques inquiètent
Deux domaines cristallisent particulièrement les craintes des spécialistes : le biologique et la défense. Dario Amodei lui-même, ainsi que le Center for AI Safety, alertent sur la capacité de l'IA à faciliter la conception d'armes biologiques.
En abaissant le coût et la complexité de la synthèse de l'ADN, ces outils pourraient permettre à des acteurs malveillants de créer des pathogènes hautement contagieux et résistants aux vaccins. Un scénario d'autant plus pris au sérieux qu'Anthropic affirme avoir déjà déjoué plusieurs tentatives de ce type ces derniers mois.
Mais ce n'est pas tout. À mesure que les grandes puissances intègrent l'IA dans leurs systèmes d'alerte précoce, de gestion de drones ou de cyberdéfense, les décideurs humains risquent d'être progressivement écartés de la boucle décisionnelle. Un simple bug logiciel ou un incident technique pourrait alors déclencher une riposte militaire sans qu'aucun responsable humain n'ait donné son feu vert.
Pas tout le monde est du même avis, et certains appellent plutôt à relativiser. Selon eux, cette panique peut s’apparenter aux craintes suscitées par l'imprimerie ou la calculatrice par le passé. Des outils devenus indispensables aujourd'hui.
