Détecter les deepfakes audio grâce aux souris : une piste qui pourrait porter ses fruits

18 août 2019 à 16h22
5
audio wave signal sonore

C'est le nouveau fléau d'Internet. Les deepfakes sont des vidéos ou des enregistrements audio modifiés par une IA. En règle générale, ils visent à attribuer à une personne des actes ou des paroles dont elle n'est pas l'auteur.

Des célébrités ont ainsi vu leurs visages remplacer celui d'actrices pornographiques. D'autres ont vu les propos qu'ils ont tenus lors d'interviews être modifiés et remplacés par des discours outrageants. La difficulté des deepfakes est qu'ils se perfectionnent très vite, et qu'ils sont déjà difficiles à déceler. Mais une équipe de chercheurs a peut-être la solution : des souris.

Des souris comme détectrices de faux

Les deepfakes s'appuient sur le machine learning. Dans le cas d'un enregistrement audio, il s'agit dans un premier temps de fournir à l'ordinateur des discours de la personne ciblée. La machine en retire alors tout ce qui rend unique la voix de cette personne. L'auteur du deepfake peut alors, avec une précision souvent surprenante, créer un nouveau discours sur ce même ton de voix. Bien entendu, ce genre d'enregistrements est susceptible de ruiner la vie privée ou la réputation d'une personne : Google, Facebook et Twitter avertissent déjà quant à l'utilisation de deepfakes pendant l'élection américaine de 2020.


Mais un trio de chercheurs américains a une piste susceptible de fonctionner pour détecter les deepfakes audio. L'un d'eux, Jonathan Saunders, travaillant à l'institut de neuroscience de l'Oregon, dit que « l'étude des mécanismes de calcul avec lesquels les mammifères détectent les faux enregistrements pourrait fournir des algorithmes généralisables ».

En d'autres termes, les souris ont un système auditif comparable à celui de l'homme, mais elles ne comprennent pas le sens des mots. Ici, cette absence de compréhension pourrait être utile, car l'animal se concentre alors sur les signes d'un faux enregistrement, et non sur le décodage du sens de la phrase. Par exemple, alors qu'un homme ne prêtera pas d'attention à une légère erreur de prononciation, la souris la verra comme une preuve de faux.

Les premiers essais sont encourageants

Les trois chercheurs ont donc mis leur hypothèse à l'épreuve. Des souris ont été exercées à distinguer des consonnes, un élément qui sera utile dans la détection de deepfakes. Présentés le 7 août 2019 à Las Vegas, les résultats sont là : dans 80 % des cas, la souris identifiait correctement les sons qui lui étaient proposés. Les scientifiques sont encore en deçà de leurs espérances, recherchant un taux de 90 %.


Mais l'objectif n'est pas pour eux d'entraîner des souris intelligentes. Il s'agit bien de cerner l'activité cérébrale de la souris, afin de comprendre le cheminement utilisé par son cerveau pour distinguer des éléments caractéristiques d'un deepfake. À terme, ce cheminement sera retranscrit dans des ordinateurs, sous la forme d'algorithmes. Et d'ici quelque temps, peut-être, des applications pourront valider (ou infirmer) l'authenticité d'un enregistrement audio avec une grande efficacité.

Source : CNet
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
5
6
Voir tous les messages sur le forum

Actualités du moment

Nos théories sur l'évolution de l'Univers remises en question par 39 galaxies
Le 27 juin, Hubble a pris sa plus belle photo de Jupiter
Google Chrome : malgré l'optimisation du mode incognito, certains sites le détectent toujours
Des MacBook Pro interdits de vol à cause de problèmes de batterie
Non, Nintendo ne propose pas d’échanger gratuitement votre Switch contre un nouveau modèle
Des essaims de drones, prochaine étape de la reconnaissance en test par l'armée américaine
La Nouvelle-Zélande considère désormais les revenus en Bitcoin comme légaux (et imposables)
Des scientifiques réinventent l'air conditionné grâce au froid de l'espace
L'Angleterre envisage l'interdiction du smartphone en conduisant, même en main libre
Bosch travaille sur des écrans 3D sans lunettes à intégrer aux véhicules
Haut de page