La reconnaissance faciale coupable de biais racistes ?

Alexandre PAULSON
18 février 2018 à 15h06
0
C'est en tout cas la conclusion d'une étude menée par une chercheuse du prestigieux MIT de Boston. La plupart des logiciels du marché identifient beaucoup plus facilement les visages d'hommes à la peau blanche que ceux de personnes de couleur noire.

Les IA rencontrent aussi des difficultés à reconnaître les visages de femmes. La faute aux bases de données de photos exploitées pour éduquer les programmes.

1.270 photos pour tester les IA

Une créature peut-elle échapper aux faiblesses de son créateur ? Vaste question, qui se pose lorsque l'on étudie les performances des principaux logiciels de reconnaissance faciale actuellement sur le marché. Une chercheuse du Massachussetts Institute of Technology à Boston, Joy Buolamwini, a poussé dans leurs retranchements les programmes d'IA de trois sociétés : IBM, Microsoft, et Face ++.

Les résultats sont édifiants : en présentant 1.270 portraits officiels de personnalités politiques du monde entier aux trois programmes, elle est arrivée à la conclusion qu'ils étaient en grande difficulté quand il s'agit d'identifier le visage d'une personne de couleur noire, mais aussi à reconnaître des femmes.

Emotient reconnaissance faciale Apple


Des noirs pris pour des gorilles

En apparence, les trois IA obtiennent des résultats satisfaisants : celle de Microsoft parvient à 93,7% à reconnaître le genre des personnes dont on lui présente la photo. Face ++ obtient 90% au même exercice, et IBM 87,9%. Mais dans le détail, les écarts selon la couleur de peau sont énormes : la moyenne de réussite des trois IA pour les blancs atteint au moins 95%, mais tombe à seulement 77,6% chez IBM pour les noirs.

Chez Face ++, la faiblesse est du côté des femmes, avec un taux de reconnaissance de seulement 78,7%. La faute, estime Joy Buolamwini aux bases de données d'images avec lesquelles les trois programmes sont entraînés : elle constate que « les hommes à la peau claire y sont surreprésentés, et aussi les personnes à la peau claire de manière générale », regrette-t-elle. Le problème n'est pas nouveau. Déjà en 2015, Google avait dû corriger en urgence Google Photos, qui confondait par moment des personnes noires avec des gorilles...

Modifié le 01/06/2018 à 15h36
Soyez toujours courtois dans vos commentaires
et respectez le réglement de la communauté.
0
0

Actualités récentes

Battlefield 6 serait un jeu cross-gen et s'inspirerait de Battlefield 3
L'école 42 continue de se développer, avec un réseau international de 33 campus partenaires
Android 12 pourrait faire
Soldes d'hiver 2021 : le meilleur moment pour s’abonner à Amazon Prime
CES 2021 : qu'avez-vous pensé de l'événement dans sa version en ligne ?
Ninja Theory (Hellblade) donne des détails sur Project: Mara
Renault ne proposera plus la location de batterie pour sa ZOE en France
Netflix s'associe à la Cinémathèque française et va participer à la restauration d'un film de 1927
Écran incurvé Lenovo 32
CES 2021 : notre récap' des meilleures tendances et annonces hardware
Haut de page