Amazon aurait utilisé (et abandonné) un outil de recrutement sexiste

le 11 octobre 2018 à 07:53
 0
Amazon entrepôt

La compagnie de ecommerce se serait débarrassée d'un outil de recrutement basé sur l'intelligence artificielle, après avoir découvert que celui-ci pénalisait largement les femmes à l'embauche.

Selon un rapport réalisé par l'agence de presse Reuters, Amazon aurait abandonné ce projet interne après avoir jugé que les candidatures féminines étaient mises de côté au profit de celle des hommes. En effet, l'outil basé sur l'intelligence artificielle exploité pour analyser les demandes excluait l'essentiel des documents contenant le mot « femme ».

La tentation de l'automatisation poussée à l'extrême


Comme le précise Reuters, l'objectif initial de l'outil était d'accélérer le processus d'embauche. En effet, une source a déclaré à ce sujet : « Tout le monde voulait ce Saint Graal [...] Ils voulaient littéralement qu'il s'agisse d'une machine qui, en analysant 100 CV, en cracherait les 5 meilleurs ». Si l'équipe en charge du projet a tenté de modifier ce biais sexiste dès qu'elle s'est aperçue de son existence, d'autres préjugés ont pu se glisser à sa place.

Amazon travaillerait sur l'outil depuis 2014 avant de se rendre compte, un an plus tard, de la discrimination faite à l'égard des femmes. La prise en compte de cette vision biaisée n'est pas sans représenter un aspect réel des conditions de travail au sein de la firme, à savoir que la présence des hommes est prédominante.

Finalement, le projet a été dissous au début de l'année dernière car les cadres d'Amazon ont perdu l'espoir d'arriver à en tirer de bons résultats. Pour sa part, la compagnie n'a pas souhaité commenter, mais elle a indiqué qu'elle était engagée pour la diversité et l'égalité au travail.

Un outil d'Amazon déjà visé pour discrimination


Une fois de plus, ces révélations ne font qu'attester d'un élément qui constitue l'un des dangers inhérents à l'intelligence artificielle. Si l'on parle de machine, il ne faut pas oublier que l'origine de tels outils reste l'homme, ses imperfections et ses préjugés pouvant être transmis à la machine.

Pour rappel, l'ACLU, une association américaine militant en faveur des libertés civiles, avait déjà épinglé Amazon et son outil de reconnaissance faciale. Pour ce faire, elle avait comparé les photos des membres du Congrès avec celles de criminels américains. En plus d'établir 28 correspondances fallacieuses, l'outil a particulièrement accusé les membres afro-américains, alors que ceux-ci ne sont pas très nombreux au Congrès. De fait, 39% des soi-disant criminels étaient afro-américains là où ces derniers constituent moins de 20% de l'institution.
Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.

Dernières actualités

Chaque semaine, l'équipe Clubic vous livre un petit résumé de la semaine en 7 actualités high tech.
22/03 | Clubic
A l'image de nombreux autres services Google, le logiciel Maps va lui aussi céder à l'appel du Material Design, avec quelques petites modifications esthétiques.
Indiescovery, c'est votre rendez-vous avec le jeu vidéo indépendant. Une chronique libre rédigée avec passion après 2h12 de jeu exactement. Si on vous en parle, c'est qu'on a aimé. Bonne découverte !
22/03 | Jeux vidéo
La multinationale, qui souffre de la concurrence d’Amazon (notamment en ligne), étudie sérieusement la possibilité de fonder son propre service de cloud gaming. Une initiative assez peu étonnante.
Proposée par la Commission de régulation de l’énergie à la fin du mois de janvier, l’augmentation des tarifs réglementés de l’électricité devrait entrer en vigueur en juin.
22/03 | Énergie
C’est confirmé : un cadre de Huawei a indiqué ce mercredi 20 mars que les TV du constructeur chinois arriveraient bien le mois prochain sur le marché.
Comme la plupart des autres opérateurs téléphoniques, Free cherche en permanence à attirer de nouveaux clients dans son escarcelle. La firme de Xavier Niel n’est donc pas avare de promotions sur ses forfaits, comme le prouvent les offres sur son forfait 50 Go ou sa Freebox Mini 4K. Mais l’opérateur ne s’arrête pas là dans son offensive, car il propose aussi très régulièrement des ventes privées. C’est d’ailleurs le cas actuellement pour le forfait 40 Go et la Freebox Révolution, qui passent respectivement à 8,99€ et 9,99€ par mois jusqu’à demain matin 8h.
22/03 | Bon plan
Le géant du streaming déploie un nouvel abonnement pour ses utilisateurs en Inde. Uniquement réservé aux mobiles et moins cher que les forfaits classiques, cet abonnement vise à rendre la plateforme >.
22/03 | Netflix
Dans le but de célébrer son premier anniversaire, PUBG Mobile a mis en ligne une toute nouvelle mise à jour qui regorge de cadeaux et autres améliorations sur les différentes maps. De quoi occuper les plus de 200 millions de joueurs à travers le monde qui plongent dans ce battle royale régulièrement.
22/03 | Jeux vidéo
Amazon teste depuis plusieurs mois l’affichage de vidéos dans les résultats de recherche sur l’application iOS...
22/03 | Amazon
Une vulnérabilité découverte par un expert en sécurité permettait à des personnes mal intentionnées d’accéder à certaines données utilisateurs depuis Google Photos.
Trois personnes ont été condamnées à de la prison ferme pour avoir diffusé en streaming et illégalement des matchs de Premier League.
Hier, la page de l’Apple Store australien dévolue aux AirPods, affichait une nouvelle photo de l’AirPower. Cette dernière mettait en scène la recharge simultanée d’un boîtier d’AirPods et d’un iPhone XS grâce au tapis de recharge par induction d’Apple annoncé en 2017.
La capitale a décidé de durcir le ton face à la multiplication des trottinettes, vélos et scooters en libre-service, qui provoquent de plus en plus d’accidents.
Les mots de passe d’entre 200 et 600 millions d’utilisateurs ont été accessibles à une grande partie des employés du réseau social. Facebook va prévenir les personnes touchées et les inviter à le modifier.
22/03 | Facebook
scroll top