Le système de reconnaissance faciale d'Amazon aurait de sérieuses failles

28 janvier 2019 à 16h00
9
pittputt reconnaissance faciale

Le logiciel de reconnaissance faciale de la firme américaine, Rekognition, confondrait des femmes au teint foncé avec des hommes assez régulièrement.

Au royaume pas toujours éthique de la reconnaissance faciale, il y a deux écoles : celle qui en soutient les avantages et les bienfaits, notamment son aspect sécuritaire, et celle qui en redoute les dérives. C'est cette dernière qui est aujourd'hui servie après les dernières révélations du Massachusetts Institute of Technology.

Un taux d'erreur impressionnant

Une étude du MIT Media Lab, a établi que Rekognition, le logiciel de reconnaissance faciale développé par Amazon, ne serait clairement pas encore au point et multiplierait les erreurs majeures.

Si l'IA Rekognition ne causerait pas de souci dans l'identification des hommes à la peau claire, il en serait tout autre pour les femmes, qui seraient classées environ 1 fois sur 5 parmi les hommes, soit près de 20 % du temps. Pire, les femmes au teint plus foncé seraient confondues environ une fois sur trois (plus de 3 fois sur 10) avec des hommes.

Les résultats retranscrits dans l'étude du MIT Media Lab sont assez catastrophiques pour le logiciel d'Amazon, qui serait alors bien moins performant que ceux développés par IBM ou par Microsoft. L'outil de la société dirigée par Satya Nadella ne confondrait une femme au teint plus sombre avec un homme qu'une à deux fois sur 100 (1,5 %).

Du côté d'Amazon, on conteste ces résultats, qui seraient fondés sur une version antérieure de Rekognition datant de 2018. Cette version réaliserait une identification basée sur le sexe à partir d'une analyse faciale plutôt qu'une reconnaissance faciale. L'analyse faciale sélectionne les visages à partir d'images et leur confère des attributs génétiques tandis que la reconnaissance faciale cherche une correspondance pour un visage spécifique.

Rekognition sous le feu des critiques

Le responsable de l'apprentissage en profondeur et de l'intelligence artificielle chez Amazon Web Services, Matt Wood, a par ailleurs ajouté qu'« en utilisant une version à jour d'Amazon Rekognition, avec des données similaires téléchargées sur des sites Web parlementaires et le jeu de données Megaface, nous avons trouvé zéro faux positif », alors que le seuil de confiance recommandé est de 99 %. Pour Amazon, son outil serait alors presque parfait. Deux poids, deux mesures.

Le géant du e-commerce s'est récemment vu reprocher d'avoir fourni son logiciel de reconnaissance faciale aux autorités américaines. Depuis, un groupe d'actionnaires a déposé une résolution visant à interdire à Amazon de vendre ses dispositifs de reconnaissance faciale à des agences gouvernementales, face aux craintes d'une utilisation de Rekognition qui serait contraire aux droits civiques.

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
9
0
lordypakna
“des femmes au teint foncé” De quelles genres de femmes parlez-vous? “des hommes à la peau claire” de quels genres d’hommes parlez-vous? ps: je ne travaille pas pour la licra.
Momozemion
Tous ces systèmes sont foireux dès le départ: toutes les données qu’on a fait bouffer aux “IA” sont constituées de tronches de mâles américains de type WASP.<br /> Ce n’est pas la seule ni la première qui soit moisie.
yvesl
“Le système de reconnaissance faciale d’Amazon aurait de sérieuses failles”<br /> sans blagues
Momozemion
Tu devrais faire de la politique vu ta facilité à déformer des propos qui pourtant tenaient dans une phrase simple.<br /> Ou tu es simplement stupide.<br /> Tiens, va t’éduquer : http://gendershades.org/<br /> C’est pas comme si ce biais avait été déjà relevé à de nombreuses reprises.<br /> La prétendue IA c’est basé sur du caca, ça ne peut produire que du caca, mais ça fournit tellement de news à la con crachée par les services marketing que les sites à la con comme Clubic en sont très friand. Tiens, dans le sommaire, l’article juste au dessus c’est pour nous dire qu’Android pourrait être « sécurisé » par de la reconnaissance faciale. Un copier/coller de ces 2 dépêches permet de claquer des tas d’encarts publicitaires. Juste 3 minutes de réflexion pour mettre une toute petite critique c’est 3 minutes de perdues pour la « rédaction » (en fait 3 couillons qui ne connaissent que le copier/coller).
dozy5341
Tu devrais te détendre un peu et prendre du recul. Tu réaliseras que tu n’as visiblement aucune connaissance sur le sujet.
Momozemion
Vu ce que tu en racontes, il me semble que tu es particulièrement mal placé pour causer.<br /> Les banques de données sont foireuses, tout ce qui s’appuie dessus ne peut être que foireux.<br /> Tu aurais du cliquer sur le lien posté, c’est juste une étude d’un autre ramassis de mecs comme moi qui ne savent pas de quoi ils parlent et qu’on appelle le MIT.
Nmut
Momo, tu as vu la database servant à l’apprentissage ?<br /> La reconnaissance se base sur des points clés, et donc le contraste de la photo est primordiale. Et il faut reconnaître que plus la peau est sombre, moins le relief est détectable.<br /> Pour la différence homme femme, je ne sais pas exactement pourquoi mais j’ai le même problème de résultat moins bon sur les femmes. Il faudrait qu’un spécialiste de la morphologie homme/femme se penche sur la question…
Momozemion
Il est évident, comme pour toute reconnaissance d’image, en particulier en biométrie, qu’on se repère avec des points d’inflexion. Mais toutes ces “IA” ne fonctionne que par comparaison. Tu compares avec ce que tu connais déjà. Et quand ce que tu as appris est foireux, ton résultat est forcément foireux.<br /> Je résume ce qui est dans le lien que j’ai posté et sur lequel manifestement tu n’as accordé aucune attention.
Voir tous les messages sur le forum

Actualités du moment

Android Q devrait intégrer l'équivalent du Face ID d'Apple
⚡ Bon Plan : Smart TV 4K LG 55UK6200 55
L'app d'appel vidéo Google Duo devrait bientôt avoir aussi son service web
Avec Condor, l'Algérie s'attaque au marché européen des smartphones
Intel : les cartes Wi-Fi AX Cyclone Peak pour portable sont prêtes
Comment régler les couleurs de son écran PC ?
4 techniques simples pour nettoyer son PC
Alimentation de 850 W pour le multi-GPU chez Corsair
USB Type-C : tout savoir sur la nouvelle norme USB
De Facebook... à Sexebook, réseau social coquin ?
Haut de page