L'ONU appelle à un moratoire sur certains usages de l'intelligence artificielle

16 septembre 2021 à 09h30
1
ONU © Alexandros Michailidis / Shutterstock.com

L’Organisation des Nations unies a présenté un rapport mettant en garde contre certaines techniques d’intelligence artificielle qui pourraient porter atteinte aux droits de l’Homme. L'institution demande aux Etats d'annoncer un moratoire, le temps d’étudier chaque technologie et d’adopter les réglementations adaptées.

Le rapport alerte notamment sur les systèmes de reconnaissance faciale et de notation sociale, qui présentent des risques de stigmatisation et de discriminations élevés.

Un moratoire pour mettre en place les garde-fous nécessaires

Le comité en charge du rapport a étudié la manière dont l’intelligence artificielle est utilisée. Il est ressorti de ces observations que dans de nombreux cas, ces technologies sont mises en place sans que leur mode de fonctionnement ni leur impact réel n’aient été correctement évalués. Pour l'ONU, des dysfonctionnements liés à cette technologie nuisent déjà à des vies humaines : le rapport indique qu’un manque de contrôle ou de maîtrise d’une IA peut par exemple priver une personne d’aides sociales, d’un emploi, ou mettre des innocents en état d’arrestation.

Les programmes de reconnaissance faciale susceptibles de déterminer l'origine ethnique ou le sexe des individus sont notamment pointés du doigt. Il en va de même pour les systèmes qui attribuent une note sociale aux citoyens en fonction de leur comportement.

Des recommandations qui font écho aux directives européennes

La haute-commissaire des Nations unies aux droits de l'Homme, Michelle Bachelet, précise que les technologies concernées sont celles qui peuvent avoir « des effets négatifs, voire catastrophiques si elles sont utilisées sans prendre en compte suffisamment la manière dont elles affectent les droits humains ». Ce n'est ainsi pas l'IA dans son ensemble qui est montrée du doigt, mais certains usages spécifiques présentant des risques particuliers pour les libertés fondamentales.

Chaque gouvernement est libre d’appliquer ce moratoire. L'ONU rappelle cependant qu’il en va de la responsabilité de chaque État de vérifier que les programmes d’IA utilisés ne discriminent pas les personnes visées et respectent les normes de confidentialité et de protection des données. L'Union européenne n'a pas attendu la publication de ce rapport pour s'emparer du sujet, et a déjà promulgué des dispositions visant à encadrer les usages de l'intelligence artificielle. Par exemple, les systèmes présentant un « risque inacceptable » (comme les applications qui permettent une notation sociale par les États) sont interdits.

Source : Firstpost .

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
1
2
Bart91
Mouais enfin là ils ne visent que lest trucs les plus évidents, pas besoin d’être expert à l’ONU pour savoir que ces usages sont de la merde. Mais quid des effets cachés de l’omniprésence de l’informatique sur tout le corps social, lui retirant toute humanité? Il n’y a qu’à voir les 90% de la population devenus des zombies dépendants de leur idiotphone et l’obligation d’avoir un usage intensif de tout cela pour conserver une vie sociale
Voir tous les messages sur le forum

Lectures liées

ADP teste les transporteurs de bagages électriques et autonomes à Paris-Charles-de-Gaulle
Quand HTC présente son nouveau casque, le VIVE FLOW... en l'intégrant sur des photos iStock
Ça y est, le robot-chien est armé... et vous n'avez pas envie de croiser son chemin
Ford étudie votre activité cérébrale pour éviter les accidents
Microsoft Translator peut désormais traduire plus de 100 langues
Bipède, capable de voler et de faire du skateboard, ce robot fait rêver... Ou flipper... Ou rêver... Ou...
Les eurodéputés ont voté une résolution contre la surveillance de masse à l’aide de l’IA
Un groupement de médecins et d'experts en biotech cherche à augmenter la durée de vie humaine jusqu'à 120 ans
Metaverse : Facebook engage 50 millions de dollars pour rendre le monde virtuel
Ce robot caméléon est capable de changer de couleur en fonction de la température
Haut de page