Des chercheurs mettent en garde contre les dangers induits par l’IA et la reconnaissance faciale

12 décembre 2019 à 18h01
2
Fotolia Reconnaissance faciale

Un groupe de chercheurs américains a publié un rapport pour alerter l'opinion publique quant aux risques engendrés par le recours de plus en plus fréquent aux logiciels d'intelligence artificielle. Ceux-ci seraient notamment employés pour des entretiens d'embauche à distance et promettraient une reconnaissance des émotions du candidat, en dehors de tout fondement scientifique.

L'AI Now Institute (AI Now) est un groupe de recherche de l'université de New York (États-Unis), qui étudie les implications de l'intelligence artificielle sur la société. Dans son rapport annuel publié aujourd'hui, il attire l'attention sur les conséquences néfastes des nouvelles technologies utilisées, qui auraient pour effet de creuser les inégalités.

Recrutement et reconnaissance des émotions

Parmi les usages les plus dangereux, selon les chercheurs, figure la reconnaissance faciale, et, plus précisément, l'identification automatique d'émotions. De tels systèmes commenceraient à être employés par les entreprises, pour leurs recrutements, mais également par des services médicaux ou par les autorités publiques.

L'organisme américain cite l'exemple de la société HireVue, qui propose une solution de vidéoconférence pour les entretiens d'embauche. La solution, déjà utilisée par de grandes entreprises telles qu'Unilever ou Hilton, embarquerait une intelligence artificielle capable de reconnaître les émotions des individus, en analysant les mouvements du visage, le ton de la voix ou le débit de parole. Les résultats seraient alors communiqués à l'employeur, mais jamais au candidat. Une approche qui ne reposerait pas sur une démarche véritablement scientifique, d'après AI Now.


Les biais de la technologie

De son côté, HireVue n'a pas souhaité apporter de commentaires sur cette accusation. L'entreprise a toutefois indiqué que sa technologie permettait de contourner les biais humains intervenant dans le recrutement. Une affirmation qui ne serait que partiellement vraie.

En effet, si le recours à un logiciel doit théoriquement garantir une meilleure objectivité, les programmes reposant sur l'IA doivent préalablement être entraînés sur des jeux de données. Or, cette phase d'apprentissage s'appuie sur un état actuel de la situation. Ainsi, par exemple, si des discriminations ont conduit à empêcher des femmes d'accéder à certains métiers, un logiciel pourra avoir tendance à privilégier les hommes pour le même type de poste, aggravant ainsi les discriminations initiales.

Par ailleurs, AI Now rappelle que la manifestation des émotions peut grandement varier selon les cultures. Ces nuances ne seraient pas suffisamment prises en compte par la technologie aujourd'hui, rendant l'analyse peu fiable et pouvant, une nouvelle fois, entraîner des discriminations.


En conséquence, les chercheurs appellent les entreprises à limiter leur recours à l'intelligence artificielle et les gouvernements à encadrer strictement son utilisation et ce, jusqu'à ce que les risques associés soient pleinement mesurés.

Source : Reuters
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
2
3
olahaye74
La graphologie des temps modernes. Aussi peu fiable mais très sexy auprès de certains recruteurs…
obyoneone
un monde de tarés, j’vous dis !
Voir tous les messages sur le forum

Derniers actualités

Game Awards 2022 : et le titre de jeu de l'année est décerné à...
Final Fantasy XVI : un trailer spectaculaire qui donne envie avec une date de sortie
Diablo IV : retour en Enfer confirmé pour cet été
Street Fighter 6 et Tekken 8 font parler les poings et frappent très fort !
De nouvelles exclusivités PlayStation arrivent sur PC
Hideo Kojima passe une tête aux Game Awards pour présenter son nouveau projet
Star Wars Jedi Survivor : la suite de Fallen Order se dévoile enfin
CCleaner se met à jour et s'attaque un peu plus à Windows 11
Forfait mobile : voici sans doute la meilleure offre du moment (100 Go + 1 mois gratuit)
Droit à l'oubli : l'UE vous donne le droit de faire supprimer de fausses informations sur Google
Haut de page