Le système de reconnaissance faciale d'Amazon aurait de sérieuses failles

le 28 janvier 2019 à 16h00
0
pittputt reconnaissance faciale

Le logiciel de reconnaissance faciale de la firme américaine, Rekognition, confondrait des femmes au teint foncé avec des hommes assez régulièrement.

Au royaume pas toujours éthique de la reconnaissance faciale, il y a deux écoles : celle qui en soutient les avantages et les bienfaits, notamment son aspect sécuritaire, et celle qui en redoute les dérives. C'est cette dernière qui est aujourd'hui servie après les dernières révélations du Massachusetts Institute of Technology.

Un taux d'erreur impressionnant


Une étude du MIT Media Lab, a établi que Rekognition, le logiciel de reconnaissance faciale développé par Amazon, ne serait clairement pas encore au point et multiplierait les erreurs majeures.

Si l'IA Rekognition ne causerait pas de souci dans l'identification des hommes à la peau claire, il en serait tout autre pour les femmes, qui seraient classées environ 1 fois sur 5 parmi les hommes, soit près de 20 % du temps. Pire, les femmes au teint plus foncé seraient confondues environ une fois sur trois (plus de 3 fois sur 10) avec des hommes.

Les résultats retranscrits dans l'étude du MIT Media Lab sont assez catastrophiques pour le logiciel d'Amazon, qui serait alors bien moins performant que ceux développés par IBM ou par Microsoft. L'outil de la société dirigée par Satya Nadella ne confondrait une femme au teint plus sombre avec un homme qu'une à deux fois sur 100 (1,5 %).

Du côté d'Amazon, on conteste ces résultats, qui seraient fondés sur une version antérieure de Rekognition datant de 2018. Cette version réaliserait une identification basée sur le sexe à partir d'une analyse faciale plutôt qu'une reconnaissance faciale. L'analyse faciale sélectionne les visages à partir d'images et leur confère des attributs génétiques tandis que la reconnaissance faciale cherche une correspondance pour un visage spécifique.

Rekognition sous le feu des critiques


Le responsable de l'apprentissage en profondeur et de l'intelligence artificielle chez Amazon Web Services, Matt Wood, a par ailleurs ajouté qu'« en utilisant une version à jour d'Amazon Rekognition, avec des données similaires téléchargées sur des sites Web parlementaires et le jeu de données Megaface, nous avons trouvé zéro faux positif », alors que le seuil de confiance recommandé est de 99 %. Pour Amazon, son outil serait alors presque parfait. Deux poids, deux mesures.

Le géant du e-commerce s'est récemment vu reprocher d'avoir fourni son logiciel de reconnaissance faciale aux autorités américaines. Depuis, un groupe d'actionnaires a déposé une résolution visant à interdire à Amazon de vendre ses dispositifs de reconnaissance faciale à des agences gouvernementales, face aux craintes d'une utilisation de Rekognition qui serait contraire aux droits civiques.

Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.
Sélection Clubic VPN 2019

Les dernières actualités

Une Youtubeuse impatiente, construit le Pick-up de Tesla, avant même son annonce
Malin ! YouTube envisage de transférer les contenus dédiés aux enfants sur... YouTube Kids
🔥 Vente privée : un forfait Free 100 Go à 9,99€/mois et un Nokia 3.2 offert !
Galaxy Fold : le vice président de Samsung le dit
Microsoft brevète (aussi) un stylet avec écran tactile pour changer facilement d'outil
Vivo tease la Super FlashCharge : 13 minutes pour recharger une batterie de 4000 mAh
Salon du Bourget - Spacetrain, l'Hyperloop français, espère une mise en service en 2025
Des images réalistes, mais pas factuelles, d'une Nintendo Switch
Test Xiaomi Mi 9T : impressionnant en tout point
Loi mobilité : qu'est-ce que cela change concrètement pour les usagers ?
scroll top