L’Organisation des Nations unies a présenté un rapport mettant en garde contre certaines techniques d’intelligence artificielle qui pourraient porter atteinte aux droits de l’Homme. L'institution demande aux Etats d'annoncer un moratoire, le temps d’étudier chaque technologie et d’adopter les réglementations adaptées.
Le rapport alerte notamment sur les systèmes de reconnaissance faciale et de notation sociale, qui présentent des risques de stigmatisation et de discriminations élevés.
Un moratoire pour mettre en place les garde-fous nécessaires
Le comité en charge du rapport a étudié la manière dont l’intelligence artificielle est utilisée. Il est ressorti de ces observations que dans de nombreux cas, ces technologies sont mises en place sans que leur mode de fonctionnement ni leur impact réel n’aient été correctement évalués. Pour l'ONU, des dysfonctionnements liés à cette technologie nuisent déjà à des vies humaines : le rapport indique qu’un manque de contrôle ou de maîtrise d’une IA peut par exemple priver une personne d’aides sociales, d’un emploi, ou mettre des innocents en état d’arrestation.
Les programmes de reconnaissance faciale susceptibles de déterminer l'origine ethnique ou le sexe des individus sont notamment pointés du doigt. Il en va de même pour les systèmes qui attribuent une note sociale aux citoyens en fonction de leur comportement.
Des recommandations qui font écho aux directives européennes
La haute-commissaire des Nations unies aux droits de l'Homme, Michelle Bachelet, précise que les technologies concernées sont celles qui peuvent avoir « des effets négatifs, voire catastrophiques si elles sont utilisées sans prendre en compte suffisamment la manière dont elles affectent les droits humains ». Ce n'est ainsi pas l'IA dans son ensemble qui est montrée du doigt, mais certains usages spécifiques présentant des risques particuliers pour les libertés fondamentales.
Chaque gouvernement est libre d’appliquer ce moratoire. L'ONU rappelle cependant qu’il en va de la responsabilité de chaque État de vérifier que les programmes d’IA utilisés ne discriminent pas les personnes visées et respectent les normes de confidentialité et de protection des données. L'Union européenne n'a pas attendu la publication de ce rapport pour s'emparer du sujet, et a déjà promulgué des dispositions visant à encadrer les usages de l'intelligence artificielle. Par exemple, les systèmes présentant un « risque inacceptable » (comme les applications qui permettent une notation sociale par les États) sont interdits.
Source : Firstpost.
