L'intelligence artificielle selon le Vatican : quand le pape veut empêcher l'IApocalypse

Alors que plusieurs patrons du secteur annoncent le potentiel apocalyptique de l'IA, le pape François a choisi de ne pas l'attendre les bras en croix.

Est-ce le deepfake de lui en doudoune stylée qui a poussé le pape à prendre au sérieux les conséquences de l'intelligence artificielle ? En tout cas, le Vatican a décidé de publier une liste d'avertissements et de lignes de conduite qu'il estime devoir être appliqués à l'IA pour éviter des débordements. Reste à voir si ces dernières seront suivies d'un quelconque effet.

Les recommandations du Vatican

Si ce qu'il reste des États pontificaux ne fait plus la pluie et le beau temps dans les pays chrétiens depuis un moment déjà, le Vatican tente de ne pas être complètement dépassé par la marche du monde et d'y faire entendre sa voix. C'est ainsi que la théocratie a publié, en partenariat avec une équipe de l'université de Santa Clara, un manuel de bonnes pratiques à destination des laboratoires de développement d'IA et de l'industrie de la tech en général, appelé Ethics in the Age of Disruptive Technologies: An Operational Roadmap. D'ailleurs, si les valeurs défendues dans le livre sont évidemment compatibles avec le catholicisme, on est loin du prosélytisme. L'idée est de limiter les risques parfois existentiels du développement de ces technologies.

À première vue, les bonnes pratiques défendues dans le manuel sont centrées sur de grands principes et valeurs, telles que la responsabilité, la transparence, ou la nécessité de respecter l'environnement. Tout en rappelant que ces ambitions étaient à peu près consensuelles, les auteurs soulignent que leurs définitions et les leviers pour s'assurer de leur efficacité diffèrent entre les entités, quand ils ne sont pas inexistants. C'est pour cela que, derrière chacune de ces grandes idées, se trouvent des dizaines, voire des centaines de parties et sous-parties donnant des idées claires, des outils et des propositions de solutions. D'ailleurs, si l'Église catholique n'est pas forcément considérée comme l'institution la plus moderne qui soit, ce manuel de bonnes pratiques démontre tout de même qu'elle n'est pas complètement larguée sur des questions relatives à la sécurité des données ou à l'IA générative.

Mais surtout, ce manuel souligne l'importance de s'interroger dès le développement d'une nouvelle technologie plutôt que d'en traiter les problèmes à mesure qu'ils émergent.

Est-ce que ça va changer quelque chose ?

Même si le Vatican a clairement perdu de son influence, il continue épisodiquement de se mêler des affaires du monde, comme lorsque le pape a proposé d'être médiateur dans le conflit entre la Russie et l'Ukraine. Il semble probable que son manuel soit autant suivi que cette dernière proposition.

Si le pape reste une figure connue dans le monde, les principaux concernés sont tout à fait conscients des risques que pourrait engendrer leur création, appelant eux-mêmes à la réguler. Des institutions ayant un peu plus de pouvoir sur leurs activités, comme le Congrès américain, sont déjà sur le dossier. Mais cela ne ralentit nullement le progrès de la technologie. Pas question que des considérations éthiques laissent un laboratoire d'IA se faire trop distancer par la concurrence.

Enfin, si jamais ils sont croyants, les dirigeants des principaux laboratoires d'IA, étant américains, ont plus de chances d'être protestants, et ne reconnaissent donc pas l'autorité du pape. Pas certain que cela change grand-chose.

Source : Gizmodo