Armes autonomes, emploi, désinformation, surveillance… Léon XIV appelle à reprendre le contrôle sur les usages de l’intelligence artificielle, sans nier ses bénéfices. En visite en France, le pape prolonge une réflexion engagée depuis plusieurs années par le Vatican, notamment avec Microsoft et IBM.
L’intelligence artificielle peut devenir toujours plus puissante sans nécessairement améliorer nos vies. À l’Élysée, ce 25 septembre, Léon XIV a rappelé la nécessité de replacer l’être humain au centre du progrès technologique. Pour le pape, « il est urgent de former les esprits à un discernement éthique ».
Quelques heures plus tard, à l’Unesco, il a également pointé le rôle de l’IA dans la circulation de fausses informations et appelé à préserver chez les jeunes la liberté de penser et de discerner. Deux interventions qui prolongent les mises en garde développées dans sa première encyclique.
« Désarmer » l’IA ne signifie pas renoncer à l’innovation
La formule avait marqué les esprits lors de la présentation officielle de sa lettre Magnifica humanitas, le 25 mai dernier : « l’intelligence artificielle doit être désarmée ». Et Léon XIV ne cible pas uniquement les armes autonomes, même si leur développement constitue l’une de ses principales inquiétudes du moment.
Son propos vise plus largement les technologies capables d’exclure une personne de l’emploi, de l’accès aux soins ou d’autres services sur la base de données biaisées. Pour le pape, désarmer l’IA consiste aussi à la soustraire à une course à la puissance économique et cognitive qui concentre les données, les infrastructures et le pouvoir de décision entre les mains de quelques grands acteurs technologiques, au risque d’échapper au contrôle public.
Pas question pour autant de rejeter le progrès technique. La veille de son arrivée en France, devant l’Académie pontificale des sciences, Léon XIV a salué les perspectives offertes par l’IA et la robotique dans la médecine, l’énergie ou la recherche scientifique. Il a toutefois rappelé les risques de surveillance, de manipulation et de discrimination, sans oublier la consommation d’eau et d'énergie des infrastructures.
Le pape réclame donc des garanties concrètes : des responsabilités clairement établies, des décisions automatisées que l’on puisse contester et des contrôles indépendants. Il estime également que certains déploiements devraient pouvoir être ralentis lorsque les protections ne suivent pas.
Cette vigilance concerne aussi notre quotidien. Léon XIV s’inquiète notamment des conséquences de l’automatisation sur l’emploi et d’une tendance à déléguer notre réflexion aux machines. Au point d’appeler à apprendre à « jeûner de l’IA », notamment à l’école, pour préserver l’effort d’apprendre et la créativité.
Une réflexion déjà engagée avec Microsoft et IBM
L’Église catholique n’a pas vraiment attendu Léon XIV pour s’intéresser à ces questions. Dès février 2020, l’Académie pontificale pour la vie signait avec Microsoft, IBM et d’autres partenaires l’Appel de Rome pour une éthique de l’IA. Transparence, protection de la vie privée, fiabilité et lutte contre les discriminations figuraient déjà parmi les engagements défendus.
François avait ensuite porté le sujet devant les dirigeants du G7, en juin 2024, avec un avertissement particulièrement clair sur les armes autonomes : « Aucune machine ne devrait jamais choisir d’ôter la vie à un être humain. » Son successeur poursuit donc cette réflexion, en insistant sur la responsabilité humaine et les conséquences sociales des décisions prises avec l’aide de l’IA.
Le Vatican ne prétend pas apporter les réponses techniques aux défis de l’IA. Il entend surtout rappeler que leur développement engage la responsabilité de ceux qui les conçoivent, les commercialisent et les utilisent. Avec, derrière les grands principes, une question très concrète : lorsqu’un algorithme vous refuse un emploi, un crédit ou des soins, à qui pouvez-vous encore demander des comptes ?
