Les GAFA utilisent un outil "douteux" mesurant la dangerosité d’un individu par sa voix

Mathieu Grumiaux

28 novembre 2018 à 08h41

Les géants du web utilisent un outil permettant de déterminer si un individu est jugé « à risque » ou dangereux par la simple analyse de sa voix et sa diction. George Orwell n'est pas loin.

Une solution permettant de classer les individus uniquement par leurs intonations

AC Global Risk est une très jeune start-up, créée en 2016, mais qui impose déjà ses solutions dans les plus grandes entreprises de technologie américaines. La petite société développe un outil automatisé, RRA, permettant d'analyser le comportement d'un individu par sa voix.

Concrètement, le système génère un questionnaire dont les réponses doivent être « oui » ou « non ». Cet interview d'une dizaine de minutes est mené par téléphone et une intelligence artificielle analyse en temps réel les réponses données, mais surtout la manière dont elles sont énoncées.

De cette manière, l'outil peut produire une évaluation selon une grille d'analyse précise donnant le niveau de risque d'un individu, qu'il soit un candidat à un entretien d'embauche, mais également un réfugié ou un demandeur d'asile comme l'explique sans gêne le fondateur d'AC Global Risk, Alex Martin : « RRA est la solution à la monumentale crise des réfugiés que connaissent actuellement les États-Unis et d'autres pays. ». Donald Trump appréciera.

Une solution très utilisée qui pose un problème éthique

Le magazine en ligne The Inetrcept note dans son article la liste des clients actuels de la jeune start-up et ils sont nombreux. Apple, Facebook, Google utilisent déjà le système, possiblement dans les phases de recrutement de leurs employés. L'Armée américaine est également citée comme l'un de ses clients, notamment dans le déroulement des opérations militaires en Afghanistan.

Pourtant le système, présenté comme infaillible par AC Global Risk suscite de nombreux commentaires des chercheurs en sécurité et experts en analyse vocale. « Il y a des informations dans les changements dynamiques de la voix et cet outil les détecte », explique Alex Todorov, psychologue de l'Université de Princeton qui étudie la science de la perception sociale et des premières impressions, en ajoutant toutefois que « la question est de savoir dans quelle mesure ces informations permettent de détecter sans ambiguïté la catégorie de personnes qu'elles définissent comme risquées. Il y a toujours de l'ambiguïté dans ce type de signaux ».

AC Global Risk ne fait aucun commentaire et refuse d'expliquer comment fonctionne sa technologie de reconnaissance vocale et d'analyse, Alex Martin ne communiquant que sur le chiffre de 97% d'exactitude dans les évaluations données.

À une époque où les usages de l'intelligence artificielle sont toujours plus importants, l'existence d'un tel système va relancer les débats autour de l'éthique à donner à l'utilisation des algorithmes par les entreprises et les pouvoirs publics.

Mathieu Grumiaux

Grand maître des aspirateurs robots et de la domotique qui vit dans une "maison du futur". J'aime aussi parler films et séries sur les internets. Éternel padawan, curieux de tout ce qui concerne les n...

Lire d'autres articles

Commentaires (16)

FrAxXx

Psycho-Pass n’est plus très loin à ce rythme…

Feunoir

Concernant AC Global Risk, la question que je me pose c’est “comment ont ils fait pour trouver que telle intonation/diction = dangereux” en gros ils ont sillonné les couloirs de la mort et les hôpitaux psychiatriques ou ont fait cela au doigt mouillé car de toute façon cela allait se vendre? j’espère qu’ils ont une confiance absolue dans leur méthode sinon leur manque de scrupule est impressionnant

yeerum

Je pense que le terme dangereux est utilisé plus par rapport aux conséquences d’une mauvaise décision prise à la suite d’un examen / entretien d’embauche / interrogatoire, qu’à une dangerosité imminente.

Nmut

Ils ont là pour faire du fric, l’éthique ou autre truc qui n’a rien à voir, ce n’est pas un problème. :-/ Sinon, pour le “comment ils ont fait”, ça me semble ressembler à un détecteur de mensonges. Après une petite phase d’étalonnage, une série d’indice peut montrer qu’une personne ment. C’est la fiabilité de 95% qui me semble étrange, surtout non accompagnée de l’info importante: il y a 5% de faux positifs ou 5% de faux négatifs? Ce n’est pas du tout la même chose!

share_the_pain

Il faut se réveiller et vite vous comprenez pas que le monde de demain c’est la surveillance des humains par les robots 24h/24 ???! Je comprends pas comment des ingénieurs travaillent dans ce genre de projets sans se poser les bonnes questions… ce monde est foutu si on agit pas !

LawyerInTown

Et si en répondant au questionnaire on est énervé, on va se faire cataloguer comme dangereux ? Alors que quelqu’un d’énervé n’est pas nécessairement quelqu’un de dangereux… La machine sera-t-elle capable de percevoir aussi bien que l’humain ? Orwell, était un visionnaire…

lordypakna

On a voulu utiliser ce genre de procédé à l’assemblée et puis on s’est ravisé.

Nmut

Le problème, c’est aussi la définition de “discriminant”! Les points que tu donnes le sont aussi finalement…

KlingonBrain

Le problème, c’est qu’on fabrique à la pelle ce que demande l’industrie : des techniciens avec un énorme bagage mathématique/physique/technique mais quasiment rien dans les matières qui donnent à réfléchir Histoire/Littérature/Philosophie/Sciences humaines. L’industrie ne veut pas de gens qui réfléchissent. Le monde du fric préfère les bons petits soldats avec un ego surdimensionné qui sont tellement fascinés par leur propre technique, le monde matérialiste et leur petite carrière qu’ils en oublient complètement les considérations humaines. Mais à quoi bon réussir et faire des enfants si c’est pour leur donner un avenir aussi sombre et dangereux ? Science sans conscience n’est que ruine de l’âme…

Rumpelstiltskin

C’est un peut rasiste mdr

ASUSORNOT

Je pense le contraire, en tout cas pour la France. L’esprit cartésien est en net déclin, au profit de sciences molles et souvent irrationnelles. On le constate tous les jours, dans la rue, l’environnement professionnel, les médias. C’est vrai, la culture générale manque aussi. Mais plus que tout, ce qui manque c’est la capacité à construire un raisonnement solidement étayé, à remettre en cause une hypothèse sur la base de critères rationnel, c’est à dire qui font appel à la raison, et non aux sentiments ou au vécu personnel.

KlingonBrain

Le problème, c’est qu’il n’est pas si simple de déterminer ce qui est cartésien et rationnel. C’est plutôt facile quand on traite de chiffres, de problèmes mathématiques et de loi de la physique ou tout autre domaine ou l’on peut facilement tracer des contours nets entre le vrai et le faux avec une simple équation. Et d’une manière générale, dans ce qui est technique, il suffit “juste” d’être rigoureux (Bon, je dit “juste”, mais c’est malheureusement qualité que tout le monde n’a pas…). Mais quand on traite de problèmes humains, il faut savoir conjuguer de multiples angles de visions différents. Le piège est justement ce que l’on croit rationnel… mais qui ne l’est plus toujours quand on change d’angle de vision (en science, il n’y a qu’un seul angle). La limite entre folie et la raison n’est pas aussi simple parce que la folie peut être une forme de logique qu’on ne comprends pas. D’autre part, il est très facile de confondre rationalisme avec idée reçue. Par définition ce que l’on croit depuis longtemps apparaît toujours plus rationnel qu’une idée nouvelle. Le problème, c’est que les outils intellectuels pour être rationnel dans la vie ne sont pas les mêmes que ceux qui permettent de l’être dans un domaine technique. La conclusion, c’est que pour avoir ce que l’on appelle “la sagesse”, il faut une formation intellectuelle complète. Mais le système scolaire ne donne pas cela… Le problème aujourd’hui, c’est la formation scolaire qui produit principalement des personnes dont les connaissances sont complètement déséquilibrées dans un sens ou dans un autre. On est le plus souvent Littéraire ou Matheux. Quand on sort du système scolaire, on est forcément quelque chose, mais rarement tout à la fois. On cherche toujours à “spécialiser” un maximum les gens pour qu’ils soient meilleur dans leur domaine… et plus utile pour l’industrie ou la communauté. Loin de chercher à combler les failles d’une personne, le système scolaire les accentue… Sauf que le prix à payer de cette spécialisation est la perte de capacité à appréhender les problèmes généraux qui demandent des connaissances beaucoup plus diversifiées et surtout, la capacité pour une même personne à raisonner simultanément avec plusieurs angles de vision extrêmement différents. Regardez ce que l’on appelait “un savant” par le passé et vous comprendrez que les grand noms qui ont marqué l’histoire des sciences ne ressemblaient pas du tout aux “produits” formatés que la lobotomie scolaire produit à tour de bras…

crrptd

Tu viens de décrire le phénomène du formatage… tout ce qu’il faut pour rentrer dans le moule, être accepté socialement, faire comme tout le monde etc… (Edit: j’avais pas vu ton dernier paragraphe) Mais le fait que les gens ne se posent pas de questions existentielles de manière réelle, ne vient pas de leur formation scolaire, enfin, à mon sens. Je pense plutôt que le vécu y est pour quelque chose. Quand on est habitué toute sa vie à suivre une ligne et qu’il n’y a jamais de soucis, on ne se pose pas de question… par contre quelqu’un qui a voulu suivre cette ligne et qui s’est cassé la gueule à chaque fois, va commencer à ouvrir les yeux et c’est là que la machine de l’esprit s’active. Analyser toutes les situations qu’on rencontre au quotidien n’est pas un travail ni un contrainte, ça ne s’apprend pas… C’est quelque chose de naturel malheureusement.

claudemc

eh non justement! Ils pensent éviter les psychopathes, instables, dépressifs etc. il y a en effet une proportion non négligeables de moyens de détecter un tiers des dépressifs grâce à ce genre de système (et malheureusement 3% de mous de la parole qui ne souffrent d’aucune névrose), mais là où c’est fort c’est de convaincre des gros groupes et de gagner un max de tune avec ces âneries.

Voir tous les messages sur le forum

Les GAFA utilisent un outil "douteux" mesurant la dangerosité d’un individu par sa voix

Une solution permettant de classer les individus uniquement par leurs intonations

Une solution très utilisée qui pose un problème éthique

A découvrir en vidéo

Commentaires (16)

Top app & logiciels