Twitter : l'algorithme de recadrage privilégie indéniablement les visages blancs (et c'est un problème)

Twitter, raciste ? Sur une photo, l'algorithme de recadrage aurait tendance à privilégier systématiquement les visages d'individus blancs…

Les algorithmes ne sont pas neutres. Utilisés notamment par la justice ou la police, ils comportent des biais, souvent racistes, qui favoriseraient certaines personnes plutôt que d'autres. Sur Twitter aussi ? Explications.

Un filtre blanc sur les photos ?

Ce n’est plus un secret : Twitter utilise le machine learning depuis 2018 pour recadrer les photos. Or ce weekend, des utilisateurs ont pointé du doigt un biais raciste. L’algorithme privilégierait en effet les visages blancs au détriment des visages de couleurs. 

Lorsqu’un visage mat et un visage clair sont présents sur une même photo, c’est sur ce dernier que le recadrage est automatiquement effectué par Twitter.

Démonstration :

Si l’expérience ne suit pas une méthode scientifique, les tests effectués vont dans le même sens. Conséquence : le problème est remonté jusqu’aux dirigeants de Twitter, qui se sont emparés de la question.

Twitter fait la mise au point

Dans la foulée, le chief design officer de Twitter, Dantley Davis, a donc annoncé qu’une enquête était en cours afin de déterminer les causes de ce biais.

En postant à nouveau une série de tests, Dantley Davis tente de montrer que l’algorithme ne se base pas uniquement sur la couleur des visages, mais aussi sur d’autres variables (indéterminées pour le moment).

Encore une fois, ces tests ne sont pas scientifiques, et ne permettent pas encore de tirer des conclusions sur le fonctionnement de l’algorithme.

Selon Liz Kelley, membre de l’équipe de communication de Twitter, aucune preuve d’un biais racial ou genré n'aurait été mis en évidence par les équipes de Twitter. « Nous mettrons nos travaux en open source afin que d’autres puissent les relire et les dupliquer, » a-t-elle déclaré dimanche.

Affaire à suivre…

Source : The Verge

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
10
11
Voir tous les messages sur le forum

Lectures liées

OnePlus devient une sous-marque d'Oppo, la fusion présagée enfin concrétisée
L'app Messages sur Android propose le chiffrement de bout en bout, voici comment l'activer
Les fiches techniques des Honor 50 SE 5G fuitent quelques heures avant leur présentation
Google prévoirait une nouvelle base de charge sans-fil pour ses smartphones, plus rapide et ventilée
realme lance ses Watch 2 et Watch 2 Pro, des montres connectées premier prix
Le realme GT se lance en France : Snapdragon 888, écran OLED 120 Hz, petit prix, le nouveau flagship killer ?
NightWatch : un dock pour transformer votre Apple Watch en un
Apple Watch Series 7 : nouveau design, mais les capteurs de température et de glucose ne sont pas prêts
Samsung contraint d'arrêter la production de Galaxy S21 FE à cause de la pénurie mondiale de puces
realme dévoilera sa tablette, son PC portable et le realme GT lors d'une conférence demain 15 juin
Haut de page