Twitter : l’algorithme de recadrage des images était bel et bien biaisé

Twitter image © Twitter
© Twitter

Après avoir mené des tests, Twitter a conclu que son algorithme présentait bien des biais lors de son choix pour le recadrage des images.

Même si depuis Twitter a décidé de laisser tomber le recadrage automatique de ses images, du moins sur mobile, cela n'a pas empêché ses équipes de continuer à enquêter sur le fonctionnement de l'algorithme qui s'en chargeait. Les internautes avaient raison : le système favorisait bien les peaux blanches et les femmes.

Une enquête incomplète en octobre

En octobre dernier, Twitter avait affirmé que non, son algorithme ne favorisait aucune couleur de peau ou aucun genre. L'enquête s'est tout de même poursuivie en interne, il faut dire que les exemples des internautes avaient été saisissants : dans la plupart des cas, l'algorithme chargé de déterminer quelle partie de l'image mettre en aperçu choisissait les peaux les plus claires.

Les tests à l'époque n'avaient pas été concluants à cause du peu de nombres de fois où ils avaient été lancés. Là où en octobre les ingénieurs du réseau social s'étaient contentés de lancer le test 200 fois avant de tirer leurs conclusions, cette fois, l'expérience a été reproduite 10 000 fois. Un échantillon plus important et donc plus fiable, montrant bien qu'un problème existe.

Un algorithme biaisé favorisant les personnes blanches et les femmes

Les chercheurs ont trouvé que dans 8 % des cas, l'algorithme favorisait les femmes aux hommes et que dans 4 % des cas, il favorisait les personnes blanches. En classant par genre, les femmes blanches sont favorisées à 7 % par l'algorithme par rapport aux femmes noires et le pourcentage passe à 2 % en faveur des hommes blancs par rapport aux hommes noirs.

Cependant, les chercheurs n'ont trouvé aucun élément pouvant affirmer que l'algorithme choisissait plus souvent certaines parties du corps, par exemple les poitrines, plutôt que les visages. Pour son recadrage des images, Twitter utilisait un algorithme dit de saillance, qui détectait à quel endroit de l'image les valeurs des pixels changeaient le plus souvent et donc à quel emplacement on pouvait trouver un plus grand niveau de détail. Le réseau social a conclu que les cas où l'algorithme choisissait une autre partie du corps que le visage étaient dus à la présence de logos ou autres illustrations.

Cette découverte a renforcé la conviction de Twitter d'abandonner progressivement son algorithme, utilisé à la base pour des questions de vitesse et d'harmonisation des images. Rumman Chowdhury, Directrice de l'ingénierie logicielle, a conclu que « tout ce qui fait Twitter ne constitue pas un bon candidat pour un algorithme et, dans ce cas précis, la façon de recadrer une image est une décision qui doit être prise par des personnes ».

Source : The Register

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
7
8
Voir tous les messages sur le forum

Lectures liées

Honor pourrait également sortir son smartphone pliable... mais pas avant la fin d'année
Après Aukey, au tour de RavPower d'être banni d'Amazon en raison de faux avis
Galaxy Z Fold 3 et Z Flip 3 : vers un lancement tout début août
Qualcomm : le futur haut de gamme Snapdragon 895 en test chez les constructeurs partenaires
Le forfait mobile B&You 5 Go à prix mini est de retour !
Le trafic de données mobiles a augmenté de 46 % depuis le début de la pandémie de COVID-19, selon Ericsson
Tim Cook estime qu'il y a 47 fois plus de malwares sur Android que sur iOS (et c'est drôlement précis)
Les Honor 50, 50 Pro et 50 SE sont officiels : les premiers smartphones de la marque depuis qu'elle n'appartient plus à Huawei
Leica lance un smartphone au Japon, mais il est moins inédit que vous ne le pensez
OnePlus devient une sous-marque d'Oppo, la fusion présagée enfin concrétisée
Haut de page