Les risques d’une IA qui "reconnaît les gays" grâce à une photo

le 11 septembre 2017 à 10h39
0
La première semaine de septembre 2017 a marqué un tournant dans le monde de la recherche en Intelligence Artificielle : selon une étude à paraître dans la revue Journal of Personality and Social Psychology, une IA a été en mesure de découvrir la sexualité d'une personne en ne se basant que sur une photo. La reconnaissance faciale suffirait donc à dire si une personne est hétérosexuelle ou homosexuelle.

La découverte ne manque pas de soulever des questions éthiques : le risque pour la population homosexuelle, encore largement discriminée et persécutée, est bien présent.

L'IA ne réussit pas aussi bien qu'annoncé



Dans un long article publié sur TechCrunch le 7 septembre 2017, Devin Coldewey a analysé plus en détail cette découverte. Les chercheurs de l'Université de Stanford annoncent en effet des résultats impressionnants : lorsque l'intelligence artificielle a comparé deux images, l'une d'une personne hétérosexuelle et l'autre d'une personne homosexuelle de même sexe, elle a pu deviner laquelle des deux était homosexuelle, avec une précision de 91 % pour les hommes et 83 % pour les femmes. C'est bien plus que le taux de réussite d'un humain à qui on poserait la même question.

L'IA a pu obtenir cette réussite en analysant quelque 35 326 images relatives à 14 776 personnes. Les chercheurs ont associé les photos à l'orientation sexuelle grâce aux données, publiques, d'un site de rencontres. Mais dès lors que l'échantillon était plus représentatif de la répartition de la population homosexuelle et hétérosexuelle, soit 7 % contre 93 % selon les estimations, les résultats étaient bien moins impressionnants.

01F4000008210664-photo-intelligence-artificielle-artificial-ai-ia-ban.jpg


Le risque de la résurgence du « gène de l'homosexualité »



L'IA ne s'étant fiée, pour ses analyses, qu'aux visages, cette étude présente plusieurs risques. Le premier, bien évidemment, est celui de la résurgence de la thèse plus que controversée d'un « gène de l'homosexualité ». Mais les implications de cette recherche vont encore plus loin.

Les auteurs eux-mêmes déclarent qu'ils n'étaient pas sûrs que la publication de ces résultats était une bonne idée : ils estiment que chacun doit dévoiler son orientation sexuelle de lui-même, quand il le souhaite. Mais il y a surtout un risque d'utiliser un logiciel de ce type dans les pays où l'homosexualité est réprimée.

Malgré la réussite médiocre lors des échantillons représentatifs de la population et malgré une recherche pouvant être considérée comme en partie biaisée (seules des photos de jeunes blancs représentant la binarité homosexuel/hétérosexuel ont été utilisées, donc pas l'ensemble du spectre des orientations sexuelles ni des ethnies), il n'est pas impossible qu'une IA puisse être améliorée pour identifier avec exactitude les orientations sexuelles des personnes. Et il est difficile de voir quelles utilisations positives elle pourrait avoir ; les utilisations néfastes, au contraire, sont légion.

Modifié le 01/06/2018 à 15h36
Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.

Dernières actualités

Windows 10 S Mode : ce qu'il faut savoir... en quelques mots
Tesla : après un Q1 2019 déficitaire, Musk annonce un plan de réduction des coûts
Opera 52 pour Android : le VPN s'améliore ainsi que la prise en charge des PDF
La tablette Amazon Fire 7 se paie un petit rafraîchissement
Google suspend ses relations avec Huawei et lui retire sa licence Android
La RATP et Airbus travaillent ensemble à faire atterrir les taxis volants en France
Facebook modifie son algorithme pour mettre en avant davantage les contenus de nos amis
William Shatner (Star Trek) nous raconte en vidéo comment la NASA va retourner sur la Lune
Une app mobile pour diagnostiquer les otites en
Désenchantée : la saison 2 pour tous sur Netflix dès le 20 septembre
Edge Chromium, la version de développement continue son évolution
Les bactéries océaniques qui produisent de l’oxygène altérées par la pollution plastique
Hyundai et Kia investissent dans Rimac pour développer deux sportives électriques
Fondation / e / : des smartphones Android remis à neuf... les services Google en moins
La dernière maj Xbox One vous permet de voir si vos amis jouent sur PC ou console
scroll top