Les robots seront-ils racistes ?

Dimitri PAVLENKO
01 mai 2017 à 13h00
0
Les femmes associées aux arts et au foyer, les hommes aux mathématiques et aux professions scientifiques, les noms afro-américains assimilés à des critères négatifs... Ces stéréotypes ont tellement la vie dure qu'ils se retrouvent aujourd'hui reproduits dans des programmes d'intelligence artificielle.

Récemment, des chercheurs des universités de Princeton (New Jersey) et de Bath (Royaume-Uni) sont parvenus à montrer que l'IA pouvait parfaitement prendre des décisions reposant sur des préjugés racistes ou sexistes.

Les mots véhiculent nos préjugés

Les machines sont de plus en plus à l'aise avec le langage humain : les assistants vocaux de nos smartphones nous comprennent de mieux en mieux et les traducteurs comme Google Translation sont de plus en plus performants. Ce sont les résultats des technologies d'intelligence artificielle fondées sur le machine learning .

01F4000008210664-photo-intelligence-artificielle-artificial-ai-ia-ban.jpg

Pour enseigner le langage aux machines, les ingénieurs ont recours à une technique baptisée word embedding (incorporation lexicale). Elle consiste à construire une représentation mathématique du langage. Chaque mot est transformé en une série de nombres, en fonction des autres mots qui apparaissent le plus souvent à côté de lui, à la manière des nuages de mots. Cette approche purement statistique permet de saisir le contexte culturel et social des mots : le ou les multiples sens connotés qu'ils impliquent. Ce dont ne rend pas toujours compte le dictionnaire.

Des noms plus discriminés que d'autres

Si cette technique permet aux machines de nous comprendre de mieux en mieux, en revanche, on découvre qu'elle a le travers de leur transmettre tous les préjugés des hommes. Exemple : les mots pour les fleurs sont associés à ceux du plaisir. Les mots pour les insectes se retrouvent souvent proches des mots liés au désagrément (peur, mort, douleur, maladie, etc). Ça se corse lorsqu'on établit les corrélations avec des noms propres : les recherches menées à Princeton et Bath se sont focalisées par exemple sur les noms que portent le plus souvent les Noirs américains. D'un point de vue statistique, ces noms sont davantage liés à un champ lexical négatif (agression, insécurité, meurtre, etc) que les noms portés le plus fréquemment par des Blancs.

L'IA a-t-elle des préjugés racistes ? Disons plutôt que nous en avons et qu'en la nourrissant de nos données, elle apprend à penser comme nous. L'IA testée par les chercheurs de Princeton et de Bath avait ingurgité une liste de 840 milliards de mots pris comme ils apparaissent à partir de documents publiés en ligne. D'autres études atteignaient des résultats similaires lorsque l'IA avait été formée sur les données de Google News. Les études montrent qu'à CV égal, un recruteur opère des discriminations selon le nom mentionné. Il mentira sûrement si on le lui reproche, ce que ne fera jamais un algorithme. Reste à savoir si on pourra le corriger de ce mauvais travers si « humain », alors que nous déléguons de plus en plus de prises de décision à des automates.


Modifié le 01/06/2018 à 15h36
0
0
Partager l'article :

Les actualités récentes les plus commentées

Automobile : le gouvernement envisagerait un malus lié au poids des véhicules
Le Royaume-Uni devrait interdire les ventes de voitures thermiques en 2030
L'adoption de Firefox en chute de 85%
Voiture électrique : allez-vous sauter le pas et à quel prix ?
Xbox Series X | S : le module d'extension d'1 To NVMe coûtera 269,99€ en France
Battery Day : des batteries révolutionnaires et une Tesla à 25 000 dollars sous trois ans
La Model 3 échoue lors d'une démonstration de son système de freinage autonome
Le code source de Windows XP en fuite sur les réseaux
RTX 3080 : de nombreux bugs chez les premiers acheteurs de modèles custom (MàJ)
Quand Jean Castex avoue spontanément ne pas avoir téléchargé StopCovid

Charte communautaire

  • 1. Participez aux discussions
  • 2. Partagez vos connaissances
  • 3. Échangez vos idées
  • 4. Faites preuve de tolérance
  • 5. Restez courtois
  • 6. Publiez des messages utiles
  • 7. Soignez votre écriture
  • 8. Respectez le cadre légal
  • 9. Ne faites pas de promotion
  • 10. Ne plagiez pas
  • Consultez la charte
scroll top