La reconnaissance faciale coupable de biais racistes ?

Alexandre PAULSON
18 février 2018 à 15h06
0
C'est en tout cas la conclusion d'une étude menée par une chercheuse du prestigieux MIT de Boston. La plupart des logiciels du marché identifient beaucoup plus facilement les visages d'hommes à la peau blanche que ceux de personnes de couleur noire.

Les IA rencontrent aussi des difficultés à reconnaître les visages de femmes. La faute aux bases de données de photos exploitées pour éduquer les programmes.

1.270 photos pour tester les IA

Une créature peut-elle échapper aux faiblesses de son créateur ? Vaste question, qui se pose lorsque l'on étudie les performances des principaux logiciels de reconnaissance faciale actuellement sur le marché. Une chercheuse du Massachussetts Institute of Technology à Boston, Joy Buolamwini, a poussé dans leurs retranchements les programmes d'IA de trois sociétés : IBM, Microsoft, et Face ++.

Les résultats sont édifiants : en présentant 1.270 portraits officiels de personnalités politiques du monde entier aux trois programmes, elle est arrivée à la conclusion qu'ils étaient en grande difficulté quand il s'agit d'identifier le visage d'une personne de couleur noire, mais aussi à reconnaître des femmes.

Emotient reconnaissance faciale Apple


Des noirs pris pour des gorilles

En apparence, les trois IA obtiennent des résultats satisfaisants : celle de Microsoft parvient à 93,7% à reconnaître le genre des personnes dont on lui présente la photo. Face ++ obtient 90% au même exercice, et IBM 87,9%. Mais dans le détail, les écarts selon la couleur de peau sont énormes : la moyenne de réussite des trois IA pour les blancs atteint au moins 95%, mais tombe à seulement 77,6% chez IBM pour les noirs.

Chez Face ++, la faiblesse est du côté des femmes, avec un taux de reconnaissance de seulement 78,7%. La faute, estime Joy Buolamwini aux bases de données d'images avec lesquelles les trois programmes sont entraînés : elle constate que « les hommes à la peau claire y sont surreprésentés, et aussi les personnes à la peau claire de manière générale », regrette-t-elle. Le problème n'est pas nouveau. Déjà en 2015, Google avait dû corriger en urgence Google Photos, qui confondait par moment des personnes noires avec des gorilles...

Modifié le 01/06/2018 à 15h36
0
0
Partager l'article :

Les actualités récentes les plus commentées

Découvrez la 2CV R-Fit 100% électrique, conçue en rétrofit
La Lucid Air surpasse la Tesla Model S avec une autonomie annoncée supérieure à 800 km
Une usine de production de cellule de batteries pour véhicules électriques bientôt en France ?
Delage dévoile un hypercar hybride à 2,3 millions de dollars
Le processeur Kunpeng 920 d'Huawei rattraperait le Core i9-9900K d'Intel
Des experts en sécurité inquiets à l'approche de la présentation du premier prototype Neuralink d'Elon Musk
Horizon Zero Dawn : le portage PC critiqué pour ses nombreux bugs
Elon Musk envisage la construction d'un Cybertruck plus petit pour l'Europe
Xiaomi Mi 10 Ultra : une édition anniversaire qui veut
Microsoft lancera son smartphone Surface Duo le 10 septembre à 1 399 $
scroll top