Google Photos : un bug confond des personnes afro-américaines avec des gorilles

Le service Google Photos, lancé à l'occasion de la dernière conférence I/O, bénéficie actuellement d'une bien mauvaise publicité : son algorithme de reconnaissance des visages à classé deux personnes afro-américaines dans la catégorie des gorilles.

« Mon amie n'est pas un gorille » : c'est un tweet publié le 29 juin par le développeur Jacky Alcine qui a mis le feu aux poudres. Dans son message, une capture d'écran du service Google Photos, vanté par l'entreprise notamment pour sa capacité à reconnaître les éléments présents sur les clichés pour mieux les catégoriser. Sur l'une des photos, Jacky Alcine et une amie, listés dans la catégorie « Gorilles ».

La série de tweets postée par Jacky Alcine a rapidement alerté les développeurs de Google. Yonatan Zunger, le responsable de l'architecture sociale au sein de l'entreprise, a été l'un des premiers à répondre. « Oups ! Cet incident est assez haut dans ma liste des bugs qu'on ne veut jamais voir arriver. J'en ai des frissons ».

Correction par la suppression

L'ingénieur s'est confondu en excuses et a expliqué qu'il s'agit de l'une des faiblesses de l'intelligence artificielle chargée de l'apprentissage du service. La reconnaissance de visages a des ratés : certains visages ne sont pas reconnus du tout, tandis que d'autres sont assimilés à des chiens, par exemple. Un problème principalement lié à une mauvaise interprétation des tons de peau et de l'éclairage par l'algorithme.

Le bug semble assez complexe à résoudre puisque Google, après avoir indiqué « prendre immédiatement des mesures pour éviter une répétition de de ce genre d'erreur », a purement et simplement supprimé la catégorie « Gorilles » de Google Photos. Yonatan Zunger a ajouté que l'entreprise travaille activement à l'amélioration de l'analyse des couleurs de peau pour éviter que de telles confusions se reproduisent.