Une entreprise australienne a validé l’origine humaine d’une partie des écrits du pape Léon XIV, deux mois après la publication de son encyclique sur les dangers de l’intelligence artificielle. Plusieurs outils de détection avaient auparavant signalé des passages jugés suspects dans ce texte.
Ironie du sort. Nous vous rapportions le 25 mai dernier que le Vatican avait publié « Magnifica Humanitas », première encyclique du pape Léon XIV et texte de 43 000 mots consacré aux risques de l’intelligence artificielle. Le pontife y appelait les dirigeants à empêcher l’IA de dominer l’humanité, à la rendre accessible à tous et ouverte au débat. Plusieurs internautes ont accusé le pape d’avoir utilisé l'IA pour écrire le texte, une ironie pour une encyclique consacrée à ses dangers. Des outils de détection, dont Pangram, ont repéré des passages selon eux suspects. Devant ces soupçons, le Vatican a réagi. L’entreprise australienne Proudly Human a délivré une certification d’authenticité humaine pour un recueil de discours et d’écrits du pape, utilisé ensuite comme référence pour vérifier l’authenticité de l’encyclique.
Un contrôle d’identité précède chaque certification
L’Université catholique australienne a publié, avec des cardinaux du Vatican, Maps of Hope, un recueil de discours et d'écrits du pape Léon XIV, la même semaine que l'encyclique. Alan Finkel, ancien scientifique en chef d'Australie et fondateur de Proudly Human, a supervisé la vérification du recueil. Avant même de le lancer, il affichait une grande confiance dans un résultat favorable. Le processus prévoit un contrôle d’identité pour les auteurs ou leurs représentants, puis une déclaration écrite qui garantit qu’aucune intelligence artificielle n’a rédigé le premier jet, les phrases ou les paragraphes du texte final.
Selon Alan Finkel, l’entreprise utilise quatre à cinq outils de détection en même temps avec son propre algorithme de moyenne, testé chaque nuit afin de garantir sa fiabilité. Il a reçu le verdict en une journée, un texte jugé presque entièrement humain. Le recueil a servi de point de comparaison stylistique pour vérifier l’authenticité de l'encyclique. Les conditions d’utilisation de Proudly Human accordent la certification sur la base des informations fournies par les auteurs, et l'entreprise peut la retirer en cas de fausse déclaration. Alan Finkel espère la multiplication de ce type de certification, faute d’obligation légale de signaler l’usage de l’IA, notamment pour les figures religieuses dont les fidèles attendent une sagesse authentique. Selon le président de l’Université catholique australienne, Zlato Skrbis, il était utile de pouvoir affirmer avec certitude qu’une œuvre relevait de la réflexion humaine.
Des soupçons alimentés par plusieurs analyses depuis la publication de l’encyclique
Le chercheur en intelligence artificielle Linch Zhang avait créé la polémique fin mai, dans un article publié sur le blog LessWrong et sur son propre Substack. Il y avançait que des responsables du Vatican, et non le pape en personne, avaient pu recourir à l’intelligence artificielle, dont Claude, pour certains passages. D’après lui, la convergence de plusieurs indices laissait peu de place aux doutes, sans y voir toutefois une preuve définitive. Pangram Labs avait évalué le texte à 94 % d’écriture humaine. Sur les 43 000 mots de l’encyclique, huit segments, soit 6 % du total, contenaient du texte composé ou retouché par l'’IA.
Pangram Labs avait auparavant analysé les encycliques de plusieurs papes précédents, dont celles de Jean-Paul II, et leur avait attribué un score de 100 % d'écriture humaine, faute d’accès à l'intelligence artificielle à l’époque de leur rédaction. Snopes avait reproduit ce test en juin et obtenu des résultats identiques. Pangram avait par ailleurs signalé, selon Wired, plusieurs publications du compte X officiel du pape jugées probablement écrites par IA. En juin, Snopes n’avait trouvé aucune preuve concluante d’utilisation de l'intelligence artificielle dans l'encyclique, faute de confirmation explicite du Vatican.
