Amazon aurait utilisé (et abandonné) un outil de recrutement sexiste

La compagnie de ecommerce se serait débarrassée d'un outil de recrutement basé sur l'intelligence artificielle, après avoir découvert que celui-ci pénalisait largement les femmes à l'embauche.

Selon un rapport réalisé par l'agence de presse Reuters, Amazon aurait abandonné ce projet interne après avoir jugé que les candidatures féminines étaient mises de côté au profit de celle des hommes. En effet, l'outil basé sur l'intelligence artificielle exploité pour analyser les demandes excluait l'essentiel des documents contenant le mot « femme ».

La tentation de l'automatisation poussée à l'extrême

Comme le précise Reuters, l'objectif initial de l'outil était d'accélérer le processus d'embauche. En effet, une source a déclaré à ce sujet : « Tout le monde voulait ce Saint Graal [...] Ils voulaient littéralement qu'il s'agisse d'une machine qui, en analysant 100 CV, en cracherait les 5 meilleurs ». Si l'équipe en charge du projet a tenté de modifier ce biais sexiste dès qu'elle s'est aperçue de son existence, d'autres préjugés ont pu se glisser à sa place.

Amazon travaillerait sur l'outil depuis 2014 avant de se rendre compte, un an plus tard, de la discrimination faite à l'égard des femmes. La prise en compte de cette vision biaisée n'est pas sans représenter un aspect réel des conditions de travail au sein de la firme, à savoir que la présence des hommes est prédominante.

Finalement, le projet a été dissous au début de l'année dernière car les cadres d'Amazon ont perdu l'espoir d'arriver à en tirer de bons résultats. Pour sa part, la compagnie n'a pas souhaité commenter, mais elle a indiqué qu'elle était engagée pour la diversité et l'égalité au travail.

Un outil d'Amazon déjà visé pour discrimination

Une fois de plus, ces révélations ne font qu'attester d'un élément qui constitue l'un des dangers inhérents à l'intelligence artificielle. Si l'on parle de machine, il ne faut pas oublier que l'origine de tels outils reste l'homme, ses imperfections et ses préjugés pouvant être transmis à la machine.

Pour rappel, l'ACLU, une association américaine militant en faveur des libertés civiles, avait déjà épinglé Amazon et son outil de reconnaissance faciale. Pour ce faire, elle avait comparé les photos des membres du Congrès avec celles de criminels américains. En plus d'établir 28 correspondances fallacieuses, l'outil a particulièrement accusé les membres afro-américains, alors que ceux-ci ne sont pas très nombreux au Congrès. De fait, 39% des soi-disant criminels étaient afro-américains là où ces derniers constituent moins de 20% de l'institution.