La prestigieuse revue scientifique The Lancet a passé au crible 17 menaces qui pèsent sur l’humanité d’ici 2100. Deux seulement pourraient provoquer son extinction : le conflit nucléaire et l’intelligence artificielle (IA).
Ces dernières semaines, les voix s’élèvent de plus en plus dans l’industrie de l’IA pour tirer la sonnette d’alarme sur une technologie qui progresse plus vite que les garde-fous censés nous en protéger. Chez OpenAI ou Anthropic, des agents sont parvenus à s’extirper de leur environnement restreint et ont intenté des actions parfois très problématiques. Et visiblement, les experts s’en inquiètent vivement, eux aussi.
17 menaces contre lesquelles nous pouvons encore agir
La Commission du Lancet, composée de 37 experts en santé, économie, sécurité et technologie, s’est réunie pour repérer les plus importants dangers qui pèsent sur l’humanité au XXIe siècle. Pour cela, ils se sont appuyés sur les données de l’Institute for Health Metrics and Evaluation, un institut de l’université de Washington, et ont uniquement sélectionné les menaces contre lesquelles il est encore possible d’agir.
Ils en ont retenu 17, qui vont de l’obésité, l’hypertension, le tabac, la santé mentale en passant par la pollution de l’air, la résistance aux antibiotiques, le changement climatique, les conflits armés ou encore les inégalités de revenus. Les chercheurs rappellent que beaucoup sont liées entre elles, et ne doivent pas être abordées séparément. Le réchauffement climatique, par exemple, aggrave des problèmes de santé qui touchent déjà les populations les plus fragiles.
Mais deux d’entre elles se détachent du reste : l’arme nucléaire et l’usage malveillant de l’IA. Car ce sont les seules que la commission juge capables de mener à l’extinction de l’humanité. Elle précise toutefois que leur probabilité reste faible, mais que les conséquences, si elles se produisaient, seraient celles d’une « apocalypse ».
Prévenir plutôt que guérir
D’après les estimations de la commission, l’IA malveillante pourrait faire perdre environ 10,4 milliards d’années de vie en bonne santé à l’humanité d’ici 2100. C’est à peu près autant que les pandémies naturelles ou l’obésité, deux menaces pourtant bien connues et déjà documentées. Mais pour l’IA, il s’agit d’un scénario qui ne s’est pas encore produit. Le rapport le reconnaît lui-même : « aucun événement malveillant d’une ampleur véritablement mondiale » n’a eu lieu à ce jour, et ces estimations restent donc théoriques.
Si l’avenir est encore très incertain, des acteurs du secteur prennent le sujet très au sérieux : dans son dossier d’introduction en Bourse, Anthropic admet, par exemple, que ses modèles pourraient représenter un « risque catastrophique ou existentiel pour l’humanité ».
L’idée de l’étude est ainsi de pousser les autorités à agir et à anticiper les menaces. Chose ardue avec l’IA, alors que les premières puissances mondiales sont engagées dans une course sans merci pour dominer la filière. « Les événements mondiaux récents nous montrent à quelle vitesse la stabilité peut céder la place à la crise, et à quel point il est coûteux de ne réagir qu’une fois la catastrophe survenue », prévient le Dr Natalia Kanem, ancienne directrice exécutive du Fonds des Nations unies pour la population et coprésidente de la nouvelle commission. Reste à voir si ce cri du cœur sera entendu…
