Les GAFA utilisent un outil "douteux" mesurant la dangerosité d’un individu par sa voix

le 28 novembre 2018 à 08h41
0
voix smartphone vocal fotolia

Les géants du web utilisent un outil permettant de déterminer si un individu est jugé « à risque » ou dangereux par la simple analyse de sa voix et sa diction. George Orwell n'est pas loin.

Une solution permettant de classer les individus uniquement par leurs intonations


AC Global Risk est une très jeune start-up, créée en 2016, mais qui impose déjà ses solutions dans les plus grandes entreprises de technologie américaines. La petite société développe un outil automatisé, RRA, permettant d'analyser le comportement d'un individu par sa voix.

Concrètement, le système génère un questionnaire dont les réponses doivent être « oui » ou « non ». Cet interview d'une dizaine de minutes est mené par téléphone et une intelligence artificielle analyse en temps réel les réponses données, mais surtout la manière dont elles sont énoncées.

De cette manière, l'outil peut produire une évaluation selon une grille d'analyse précise donnant le niveau de risque d'un individu, qu'il soit un candidat à un entretien d'embauche, mais également un réfugié ou un demandeur d'asile comme l'explique sans gêne le fondateur d'AC Global Risk, Alex Martin : « RRA est la solution à la monumentale crise des réfugiés que connaissent actuellement les États-Unis et d'autres pays. ». Donald Trump appréciera.

Une solution très utilisée qui pose un problème éthique


Le magazine en ligne The Inetrcept note dans son article la liste des clients actuels de la jeune start-up et ils sont nombreux. Apple, Facebook, Google utilisent déjà le système, possiblement dans les phases de recrutement de leurs employés. L'Armée américaine est également citée comme l'un de ses clients, notamment dans le déroulement des opérations militaires en Afghanistan.

Pourtant le système, présenté comme infaillible par AC Global Risk suscite de nombreux commentaires des chercheurs en sécurité et experts en analyse vocale. « Il y a des informations dans les changements dynamiques de la voix et cet outil les détecte », explique Alex Todorov, psychologue de l'Université de Princeton qui étudie la science de la perception sociale et des premières impressions, en ajoutant toutefois que « la question est de savoir dans quelle mesure ces informations permettent de détecter sans ambiguïté la catégorie de personnes qu'elles définissent comme risquées. Il y a toujours de l'ambiguïté dans ce type de signaux ».

AC Global Risk ne fait aucun commentaire et refuse d'expliquer comment fonctionne sa technologie de reconnaissance vocale et d'analyse, Alex Martin ne communiquant que sur le chiffre de 97% d'exactitude dans les évaluations données.

À une époque où les usages de l'intelligence artificielle sont toujours plus importants, l'existence d'un tel système va relancer les débats autour de l'éthique à donner à l'utilisation des algorithmes par les entreprises et les pouvoirs publics.
Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.

Dernières actualités

Google suspend ses relations avec Huawei et lui retire sa licence Android
La RATP et Airbus travaillent ensemble à faire atterrir les taxis volants en France
Facebook modifie son algorithme pour mettre en avant davantage les contenus de nos amis
William Shatner (Star Trek) nous raconte en vidéo comment la NASA va retourner sur la Lune
Une app mobile pour diagnostiquer les otites en
Désenchantée : la saison 2 pour tous sur Netflix dès le 20 septembre
Edge Chromium, la version de développement continue son évolution
Les bactéries océaniques qui produisent de l’oxygène altérées par la pollution plastique
Hyundai et Kia investissent dans Rimac pour développer deux sportives électriques
Fondation / e / : des smartphones Android remis à neuf... les services Google en moins
La dernière maj Xbox One vous permet de voir si vos amis jouent sur PC ou console
Formule E : notre reportage dans l’antichambre des voitures électriques
Des chercheurs conçoivent un réseau de neurones artificiels
Fête des mères, nos 15 idées cadeaux pour gâter votre maman
Mercedes : le constructeur veut des voitures neutres en CO2 d'ici 2039
scroll top