L'ONU appelle à un moratoire sur certains usages de l'intelligence artificielle

16 septembre 2021 à 09h30
1
ONU © Alexandros Michailidis / Shutterstock.com

L’Organisation des Nations unies a présenté un rapport mettant en garde contre certaines techniques d’intelligence artificielle qui pourraient porter atteinte aux droits de l’Homme. L'institution demande aux Etats d'annoncer un moratoire, le temps d’étudier chaque technologie et d’adopter les réglementations adaptées.

Le rapport alerte notamment sur les systèmes de reconnaissance faciale et de notation sociale, qui présentent des risques de stigmatisation et de discriminations élevés.

Un moratoire pour mettre en place les garde-fous nécessaires

Le comité en charge du rapport a étudié la manière dont l’intelligence artificielle est utilisée. Il est ressorti de ces observations que dans de nombreux cas, ces technologies sont mises en place sans que leur mode de fonctionnement ni leur impact réel n’aient été correctement évalués. Pour l'ONU, des dysfonctionnements liés à cette technologie nuisent déjà à des vies humaines : le rapport indique qu’un manque de contrôle ou de maîtrise d’une IA peut par exemple priver une personne d’aides sociales, d’un emploi, ou mettre des innocents en état d’arrestation.

Les programmes de reconnaissance faciale susceptibles de déterminer l'origine ethnique ou le sexe des individus sont notamment pointés du doigt. Il en va de même pour les systèmes qui attribuent une note sociale aux citoyens en fonction de leur comportement.

Des recommandations qui font écho aux directives européennes

La haute-commissaire des Nations unies aux droits de l'Homme, Michelle Bachelet, précise que les technologies concernées sont celles qui peuvent avoir « des effets négatifs, voire catastrophiques si elles sont utilisées sans prendre en compte suffisamment la manière dont elles affectent les droits humains ». Ce n'est ainsi pas l'IA dans son ensemble qui est montrée du doigt, mais certains usages spécifiques présentant des risques particuliers pour les libertés fondamentales.

Chaque gouvernement est libre d’appliquer ce moratoire. L'ONU rappelle cependant qu’il en va de la responsabilité de chaque État de vérifier que les programmes d’IA utilisés ne discriminent pas les personnes visées et respectent les normes de confidentialité et de protection des données. L'Union européenne n'a pas attendu la publication de ce rapport pour s'emparer du sujet, et a déjà promulgué des dispositions visant à encadrer les usages de l'intelligence artificielle. Par exemple, les systèmes présentant un « risque inacceptable » (comme les applications qui permettent une notation sociale par les États) sont interdits.

Source : Firstpost.

Margot Dauban

J'aimais raconter des histoires et traîner sur Internet, alors j'en ai fait mon métier. Fervente défenseuse de la chocolatine (mais ouverte au débat) et sensible aux questions de la confidentialité en...

Lire d'autres articles

J'aimais raconter des histoires et traîner sur Internet, alors j'en ai fait mon métier. Fervente défenseuse de la chocolatine (mais ouverte au débat) et sensible aux questions de la confidentialité en ligne. Bio rédigée depuis Tokyo... du moins, c'est ce qu'indique mon VPN !

Lire d'autres articles
Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (1)

Bart91
Mouais enfin là ils ne visent que lest trucs les plus évidents, pas besoin d’être expert à l’ONU pour savoir que ces usages sont de la merde. Mais quid des effets cachés de l’omniprésence de l’informatique sur tout le corps social, lui retirant toute humanité? Il n’y a qu’à voir les 90% de la population devenus des zombies dépendants de leur idiotphone et l’obligation d’avoir un usage intensif de tout cela pour conserver une vie sociale
Voir tous les messages sur le forum
Haut de page

Sur le même sujet