Le système de reconnaissance faciale d'Amazon aurait de sérieuses failles

Alexandre Boero Contributeur
28 janvier 2019 à 16h00
0
pittputt reconnaissance faciale

Le logiciel de reconnaissance faciale de la firme américaine, Rekognition, confondrait des femmes au teint foncé avec des hommes assez régulièrement.

Au royaume pas toujours éthique de la reconnaissance faciale, il y a deux écoles : celle qui en soutient les avantages et les bienfaits, notamment son aspect sécuritaire, et celle qui en redoute les dérives. C'est cette dernière qui est aujourd'hui servie après les dernières révélations du Massachusetts Institute of Technology.

Un taux d'erreur impressionnant


Une étude du MIT Media Lab, a établi que Rekognition, le logiciel de reconnaissance faciale développé par Amazon, ne serait clairement pas encore au point et multiplierait les erreurs majeures.

Si l'IA Rekognition ne causerait pas de souci dans l'identification des hommes à la peau claire, il en serait tout autre pour les femmes, qui seraient classées environ 1 fois sur 5 parmi les hommes, soit près de 20 % du temps. Pire, les femmes au teint plus foncé seraient confondues environ une fois sur trois (plus de 3 fois sur 10) avec des hommes.

Les résultats retranscrits dans l'étude du MIT Media Lab sont assez catastrophiques pour le logiciel d'Amazon, qui serait alors bien moins performant que ceux développés par IBM ou par Microsoft. L'outil de la société dirigée par Satya Nadella ne confondrait une femme au teint plus sombre avec un homme qu'une à deux fois sur 100 (1,5 %).

Du côté d'Amazon, on conteste ces résultats, qui seraient fondés sur une version antérieure de Rekognition datant de 2018. Cette version réaliserait une identification basée sur le sexe à partir d'une analyse faciale plutôt qu'une reconnaissance faciale. L'analyse faciale sélectionne les visages à partir d'images et leur confère des attributs génétiques tandis que la reconnaissance faciale cherche une correspondance pour un visage spécifique.

Rekognition sous le feu des critiques


Le responsable de l'apprentissage en profondeur et de l'intelligence artificielle chez Amazon Web Services, Matt Wood, a par ailleurs ajouté qu'« en utilisant une version à jour d'Amazon Rekognition, avec des données similaires téléchargées sur des sites Web parlementaires et le jeu de données Megaface, nous avons trouvé zéro faux positif », alors que le seuil de confiance recommandé est de 99 %. Pour Amazon, son outil serait alors presque parfait. Deux poids, deux mesures.

Le géant du e-commerce s'est récemment vu reprocher d'avoir fourni son logiciel de reconnaissance faciale aux autorités américaines. Depuis, un groupe d'actionnaires a déposé une résolution visant à interdire à Amazon de vendre ses dispositifs de reconnaissance faciale à des agences gouvernementales, face aux craintes d'une utilisation de Rekognition qui serait contraire aux droits civiques.

9 réponses
0 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

L'Angleterre envisage l'interdiction du smartphone en conduisant, même en main libre
Sur Reddit, les développeurs d'Apex Legends dérapent et insultent leur communauté
Windows Defender obtient 3 fois le score maximum aux tests AV-Test
L'Audi e-tron devient la voiture électrique la plus sûre du monde
Piratées, les enceintes connectées pourraient être une menace pour leurs utilisateurs
WoW Classic : Blizzard dit s’attendre à des files d’attente monstrueuses à l’ouverture
Selon Google, 1,5% des mots de passe seraient compromis
Starman et sa Tesla Roadster viennent d'achever leur première orbite autour du Soleil
Une étude montre que les cyclistes
Ecosia : le moteur de recherche plante désormais un arbre toutes les 0,8 s

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top