IBM abandonne tout projet lié à la reconnaissance faciale pour raisons éthiques

09 juin 2020 à 11h13
9
Reconnaissance faciale

Le P.-D.G. d’IBM, Arvind Krishna, déclare que son entreprise va cesser toute activité en lien avec les technologies de reconnaissance faciale à usage général. Il appelle, en outre, à une réforme de la police, afin que tous les citoyens des États-Unis soient traités de manière équitable. 

Alors que la question du racisme systémique de nos sociétés a été à nouveau portée sur la scène médiatique par le meurtre de George Floyd par un policier aux Etats-Unis, de nombreuses entreprises ont décidé de s’exprimer ou d’agir

Une technologie connue pour ses biais racistes 

Firme majeure de la tech américaine, IBM a décidé de réagir à la situation, comme l’explique Arvind Krishna dans une lettre adressée au Congrès américain : « IBM ne propose plus de logiciel de reconnaissance ou d’analyse faciale à usage général. IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie, y compris celle proposée par d’autres fournisseurs, à des fins de surveillance de masse, de profilage racial, de violation des droits et libertés fondamentales de l'humain ou à toute autre fin qui ne serait pas conforme à nos valeurs et à nos principes de confiance et de transparence. Nous pensons que le moment est venu d’entamer un dialogue national sur l’opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les forces de l’ordre ». 

Bien qu’exploitée massivement dans certains pays, parfois à des fins répressives troublantes , la reconnaissance faciale est encore une technologie faillible, comme l’ont prouvé diverses études. En 2018, des chercheurs du MIT démontraient déjà les biais racistes et sexistes de cet outil , capable de mieux identifier les visages blancs et masculins que les visages de couleur et féminins. L’année dernière, une autre étude sur cette technologie révélait à son tour que le taux de faux positifs était beaucoup plus élevé pour les personnes asiatiques et noires que pour les caucasiens. 

De son côté, IBM a tenté de lutter contre ces dérives en mettant de nombreuses données à disposition des entreprises pour leur permettre de mieux former les modèles de reconnaissance faciale et de réduire les biais racistes. Elle a toutefois été sous le feu des critiques en 2019, après avoir utiliser près d’1 million d’images FlickR sans le consentement des personnes photographiées afin d’entraîner un outil de reconnaissance faciale.   

IBM veut du changement et propose des solutions au Congrès

Comme le souligne Engadget, le fait qu’une entreprise de l’envergure d’IBM prenne une telle décision fera probablement des émules. Par ailleurs, Arvind Krishna suggère une exploitation différente de la technologie : « La politique nationale doit également encourager et faire progresser les utilisations de technologies qui apportent une plus grande transparence et une plus grande responsabilité dans le maintien de l’ordre, telles que les caméras corporelles et les techniques modernes d’analyses de données ». 

Le P.-D.G. d’IBM indique également souhaiter que « davantage d’affaires d’inconduite policière soient amenées devant la Cour fédérale », et propose au Congrès plusieurs solutions afin que plus de personnes de couleur soient employées dans les domaines du Cloud computing et de la cybersécurité. 

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
9
8
keyplus
lol on résume la concurrence fait mieux et moins cher
i5i5
Ethique ou politique ?<br /> Vu le contexte et les arguments, y’a pas photo …
Fodger
Le titre «&nbsp;IBM abandonne tout projet lié à la reconnaissance faciale pour raisons éthiques.&nbsp;» ne semble pas en adéquation avec les propos de «&nbsp;Arvind Krishna&nbsp;».<br /> Je cite : «&nbsp;IBM ne propose plus de logiciel de reconnaissance ou d’analyse faciale à usage général.&nbsp;»; ça ne signifie pas qu’IBM cesse toute activité autour de la reconnaissance faciale.<br /> Ils annoncent cesser les projets de reconnaissance faciale pour un usage de masse, ce n’est pas la même chose (ce qui est une très bonne chose).
Oncle_Picsou
Il faudra que l’on m’explique en quoi c’est raciste et sexiste de mieux reconnaitre les visages blancs et masculins que les visages de couleur et féminins.<br /> C’est un problème technique, qui peut être dû à plusieurs facteurs comme la base de donnée avec laquelle l’IA a été entrainé, des soucis d’algo, ou tout simplement des différences physiques plus marquées chez les hommes blancs, ce qui rend donc plus simple leur identification.<br /> Mais raciste, non, vraiment, je vois pas.
Fodger
L’adjectif est clairement sur-utilisé depuis quelques années, voire complètement incompris de certains (il faudrait investir massivement dans les dicos &amp; encyclopédies).
Oncle_Picsou
On est bien d’accord!
Element_n90
Pour certains, le coton blanc des pansements c’est raciste, alors tu vois on peut encore allez très loin dans le délire…
WhyPok
Il me paraît évident que c’est un bon coup de pub, qui surf notament sur les protestations racistes récentes ainsi que sur le questionnement éthique latent de la surveillance…<br /> Ce genre de grosse société est gouverné par la finance et la morale n’a de place que si elle est profitable aux intérêts privés.<br /> Cela dit, ce que je comprends là-dedans c’est qu’IBM fait de la reconnaissance faciale avec un outil permettant de faire corréler l’image d’un visage tiré d’une base de données, entre un visage tiré d’une vidéo. De là, l’utilisation dans un cadre étatique me paraît convenable mais discutable. Ils arrêtent de financer ce secteur-ci car ils ont un produit abouti.<br /> D’autre part, cela voudrait dire qu’au-delà du cadre ils ne délaissent pas l’idée d’avoir des programmes plus spécifiques ( là on est dans le vague, et ça se comprend puisque c’est une atteinte aux personnes et c’est ce qu’ils ont aussi dénoncés…), mais qu’il ne fait pas utiliser les «&nbsp;mots interdits&nbsp;».<br /> Beaucoup de marketing et une forte volonté politique sous couvert d’un soupçon d’éthique, le tout servi dans l’ambiance médiatique du moment.
Fodger
Oui, et c’est tout à fait malsain; le problème c’est que du coup pour vraiment dénoncer le racisme ça devient parfois compliqué (car faut-il le rappeler on ne choisi pas ses parents, sa famille…).
Voir tous les messages sur le forum

Actualités du moment

Les Apple AirPods 2 avec boîtier de charge à seulement 140€
HBO : le réalisateur de Chernobyl va diriger le pilote de la future série The Last of Us
Samsung proposera la charge sans-fil sur ses smartphones Galaxy A dès 2021
Votre Téléphone, l'application de Microsoft permet désormais de contrôler votre musique
Trump et désinformation : au tour des modérateurs de mettre la pression sur Zuckerberg
HTC va procéder à une vague de licenciements causée par le coronavirus
Huawei lance une grande campagne de pub pour séduire les autorités et citoyens britanniques
Du cross-play PC / PS4 / XOne avec la mise à jour Need for Speed Heat
Pourquoi Starship est la nouvelle priorité absolue de SpaceX pour Elon Musk
Le forfait mobile Free 50 Go est disponible à moins de 10€
Haut de page