Un an après son élection, le pape Léon XIV a publié lundi Magnifica Humanitas, une encyclique consacrée à l'intelligence artificielle. En 50 pages, le Vatican prend une position forte sur l'IA, les monopoles numériques et les armes autonomes.
C'est un texte rare, à la fois théologique et technique, que le pape Léon XIV a adressé au monde un an après son élection, et qui ne va pas forcément ravir les plus fervents supporters de l'intelligence artificielle. Pour le 135e anniversaire de Rerum novarum, l'encyclique fondatrice de la doctrine sociale catholique, Magnifica Humanitas ausculte sans détour les dérives de l'IA, de la concentration des données entre quelques mains jusqu'aux systèmes d'armes autonomes. Une encyclique qui, bien au-delà des cercles catholiques, pose des questions que l'industrie tech préfère souvent esquiver, surtout après une année qui a montré toutes les dérives de l'intelligence artificielle.
Le pape Léon XIV refuse que l'IA soit moralement hors sol
Dans son encyclique en grande partie dédiée à l'intelligence artificielle, Léon XIV refuse l'idée d'une technologie sans couleur morale. « Nous ne pouvons pas considérer l'IA comme moralement neutre », écrit le pape. Car selon lui, derrière chaque algorithme se cachent des choix humains sur ce qu'on lui demande de mesurer, de favoriser, d'écarter. Autrement dit, les valeurs de ses concepteurs sont déjà inscrites dans le code, bien avant que l'on s'en serve. Se demander seulement si on l'utilise bien ou mal arrive donc trop tard dans le raisonnement.
Le texte est assez intéressant, d'un point de vue technique. Le pape y souligne une réalité que l'industrie reconnaît peu volontiers, à savoir qu'une IA moderne n'est pas vraiment « programmée » comme un logiciel classique. Elle est entraînée sur des milliards de données, et ses créateurs eux-mêmes ne savent pas toujours expliquer pourquoi elle prend telle ou telle décision. C'est ce que Léon XIV dit, c'est que les IA sont davantage « cultivées que construites ». Et c'est précisément ce flou, précise l'Américain, qui pose un problème éthique majeur. Si personne ne comprend vraiment le fonctionnement interne de la machine, qui peut être tenu responsable de ses erreurs ?
Pour illustrer sa pensée, le Saint-Père puise dans deux récits bibliques connus des fidèles. La tour de Babel d'abord, construction titanesque érigée par des hommes convaincus de pouvoir tout dominer, et qui finit par s'effondrer dans la confusion. Puis la reconstruction de Jérusalem par Néhémie, un chantier lent, humble, mené collectivement, pierre après pierre, au service de tous. Deux façons de bâtir, deux états d'esprit radicalement opposés. « Le premier choix ne se situe pas entre un "oui" ou un "non" à la technologie, mais entre bâtir Babel ou reconstruire Jérusalem. » C'est dans ce cadre-là que le pape invite à réfléchir à l'IA.
Les monopoles numériques et armes autonomes dans le viseur du Saint-Père
Sur la concentration du pouvoir numérique, le ton est un peu incisif. Le pape s'attaque au fait qu'aujourd'hui, les brevets, algorithmes, plateformes et données sont entre les mains d'un tout petit nombre d'entreprises privées. Or, pour Léon XIV, ces ressources ne devraient pas appartenir à quelques-uns, puisqu'elles constituent de « nouvelles formes de propriété » qui doivent profiter à tous. On sent bien la pique à destination du bloc sino-américain. « Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. » Autrement dit, laisser Google, Meta ou OpenAI définir seuls les règles éthiques de l'IA reviendrait à confier les clés de la maison à ceux qui ont intérêt à en contrôler l'accès.
Sur les systèmes d'armes autonomes, le chef de l'Église catholique est sans équivoque. « Il n'existe aucun algorithme capable de rendre la guerre moralement acceptable », tranche l'encyclique. Cela traduit l'inquiétude, assez concrète, que lorsque c'est une machine qui décide de tirer, et non un être humain, personne n'assume vraiment la responsabilité de l'acte. La guerre devient plus facile à déclencher, les victimes se réduisent à des points sur un écran, et en cas d'erreur, il est impossible de désigner un coupable. Pour Léon XIV, la décision de recourir à la force létale doit rester entre des mains humaines identifiables, et capables de rendre des comptes.
Le texte s'attarde aussi sur ce que l'industrie préfère taire. Derrière chaque réponse d'une IA se cache une longue chaîne humaine, avec des millions de travailleurs, souvent dans des pays pauvres, payés une misère pour trier et étiqueter les données qui nourrissent les modèles. Sans eux, il n'y aurait peut-être pas de ChatGPT ni de Gemini. Et avant ça, des enfants qui extraient dans des mines dangereuses le cobalt ou le lithium indispensables aux puces électroniques. « Rien, dans le monde de l'IA, n'est immatériel ou magique », ajoute Léon XIV. Ce que le pape dit là, rarement quelqu'un d'aussi visible n'a encore osé le dire aussi clairement.
Pour le pape, il faudrait « désarmer l'IA »
Au sujet du transhumanisme, ce courant qui rêve d'améliorer l'être humain par la technologie, voire de le fusionner avec la machine, le pape est encore catégorique. Une IA, rappelle-t-il, n'a pas de corps, ne ressent rien, n'a jamais souffert ni aimé. « Les prétendues intelligences artificielles ne vivent pas d'expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur. » Au-delà de la technique, c'est la philosophie sous-jacente qui l'inquiète. Dès lors qu'on commence à voir l'humain comme un « matériau à perfectionner », on crée inévitablement des catégories avec les optimisés et les autres, les performants et les inutiles. Une logique qui, poussée à l'extrême, peut justifier que certaines vies comptent moins que d'autres.
Léon XIV constate, adopte une posture de sagesse, mais il formule aussi des propositions, dont certaines ont déjà fait un bout de chemin, comme interdire l'accès aux réseaux sociaux en dessous d'un certain âge, mieux former les enseignants aux outils numériques, protéger les données personnelles des mineurs. Mais le pape va plus loin encore, en pointant un mal plus diffus : la violence du langage en ligne, amplifiée chaque jour par des algorithmes qui favorisent l'indignation et la confrontation parce qu'elles génèrent plus de clics. « Désarmons les mots et nous contribuerons à désarmer la Terre (…), l'IA, il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible. »
Reste une question que le texte n'évoque évidemment pas. Que vaut l'avis du Vatican face à des entreprises dont le budget dépasse celui de nombreux États ? L'encyclique pose les bons diagnostics, nomme les bonnes dérives, mais elle dit peu comment vraiment les corriger, et par qui. Ce n'est pas rien, bien sûr, d'entendre une voix aussi forte parler de monopoles algorithmiques et d'esclavage numérique à une époque où peu de dirigeants osent le faire pas peur de froisser les investissements. Mais un beau discours moral, aussi juste soit-il, ne suffit pas à réguler OpenAI ni à faire plier ses concurrents. Entre dire les choses et avoir les moyens de les changer, le fossé reste grand.
