Dans une résolution, les eurodéputés soulignent les risques de l'utilisation de l'intelligence artificielle pour de la surveillance de masse, notamment par les forces de l'ordre.
Ils demandent de mettre en place des garde-fous comme des lois fortes et une supervision de l'utilisation de l'IA par des êtres humains chargés de prendre les décisions finales.
Des risques de discrimination soulignés par les députés
Une résolution concernant l'utilisation de l'intelligence artificielle a donc été adoptée par les eurodéputés, avec 377 en faveur, 248 contre et 62 abstentions. Elle porte sur son utilisation par les forces de l'ordre, notamment pour de la surveillance de masse dans un cadre judiciaire.
Dans cette résolution, les eurodéputés soulignent leurs inquiétudes sur la discrimination dont les systèmes basés sur l'intelligence artificielle font preuve, en identifiant incorrectement « les minorités ethniques, les personnes LGBTI, les seniors et les femmes » en grande majorité. Ils demandent que l'utilisation de logiciels open source par les autorités soit préférée, afin que les algorithmes soient « transparents, traçables et suffisamment documentés ».
Ils demandent également une interdiction permanente de la reconnaissance automatisée des individus dans l'espace public, au nom du respect de la vie privée des citoyens, autorisant tout de même une exception dans le cadre d'une suspicion de crimes. Clearview AI est explicitement cité comme exemple de logiciel dont l'utilisation devrait être interdite. Clearview AI est particulièrement controversé pour son acquisition illégale de milliards de photographies récupérées sur Internet afin d'entraîner ses systèmes à la reconnaissance faciale et son utilisation par plusieurs agences gouvernementales et forces de l'ordre.
Un vote sans contrainte juridique
En plus de ces systèmes de surveillance, les eurodéputés cherchent à faire interdire l'utilisation de données biométriques pour identifier de façon automatisée les personnes et prédire leurs comportements, notamment aux frontières. Ils demandent également à ce que tous ces systèmes soient supervisés par des humains et que ce soit eux qui prennent les décisions finales.
Cependant, ce vote portait sur une résolution. Il n'a donc pas valeur de loi et ne présente aucune contrainte juridique. Malgré tout, il permet de se faire une idée du positionnement du Parlement européen sur ces questions avant le vote de l'Artificial Intelligence Act. Le rapporteur de la résolution, Petar Vitanov, s'est félicité :
« Pour la première fois, nous demandons un moratoire sur le déploiement des systèmes de reconnaissance faciale […], car cette technologie s'est avérée inefficace et conduit souvent à des résultats discriminatoires. […] C'est une grande victoire pour tous les citoyens européens. »
Source : Parlement européen
Arrivée dans la rédaction par le jeu vidéo, c’est par passion pour le développement web que je me suis intéressée plus largement à tout ce qui gravite autour de notre consommation des outils numériques, des problématiques de vie privée au logiciel libre en passant par la sécurité. Fan inconditionnelle de science-fiction toujours prête à expliquer pendant des heures pourquoi Babylon 5 est ma série préférée.
Lire d'autres articles
