Détecter les deepfakes audio grâce aux souris : une piste qui pourrait porter ses fruits

Benoît Théry Contributeur
18 août 2019 à 16h22
0
audio wave signal sonore

C'est le nouveau fléau d'Internet. Les deepfakes sont des vidéos ou des enregistrements audio modifiés par une IA. En règle générale, ils visent à attribuer à une personne des actes ou des paroles dont elle n'est pas l'auteur.

Des célébrités ont ainsi vu leurs visages remplacer celui d'actrices pornographiques. D'autres ont vu les propos qu'ils ont tenus lors d'interviews être modifiés et remplacés par des discours outrageants. La difficulté des deepfakes est qu'ils se perfectionnent très vite, et qu'ils sont déjà difficiles à déceler. Mais une équipe de chercheurs a peut-être la solution : des souris.

Des souris comme détectrices de faux

Les deepfakes s'appuient sur le machine learning. Dans le cas d'un enregistrement audio, il s'agit dans un premier temps de fournir à l'ordinateur des discours de la personne ciblée. La machine en retire alors tout ce qui rend unique la voix de cette personne. L'auteur du deepfake peut alors, avec une précision souvent surprenante, créer un nouveau discours sur ce même ton de voix. Bien entendu, ce genre d'enregistrements est susceptible de ruiner la vie privée ou la réputation d'une personne : Google, Facebook et Twitter avertissent déjà quant à l'utilisation de deepfakes pendant l'élection américaine de 2020.


Mais un trio de chercheurs américains a une piste susceptible de fonctionner pour détecter les deepfakes audio. L'un d'eux, Jonathan Saunders, travaillant à l'institut de neuroscience de l'Oregon, dit que « l'étude des mécanismes de calcul avec lesquels les mammifères détectent les faux enregistrements pourrait fournir des algorithmes généralisables ».

En d'autres termes, les souris ont un système auditif comparable à celui de l'homme, mais elles ne comprennent pas le sens des mots. Ici, cette absence de compréhension pourrait être utile, car l'animal se concentre alors sur les signes d'un faux enregistrement, et non sur le décodage du sens de la phrase. Par exemple, alors qu'un homme ne prêtera pas d'attention à une légère erreur de prononciation, la souris la verra comme une preuve de faux.

Les premiers essais sont encourageants

Les trois chercheurs ont donc mis leur hypothèse à l'épreuve. Des souris ont été exercées à distinguer des consonnes, un élément qui sera utile dans la détection de deepfakes. Présentés le 7 août 2019 à Las Vegas, les résultats sont là : dans 80 % des cas, la souris identifiait correctement les sons qui lui étaient proposés. Les scientifiques sont encore en deçà de leurs espérances, recherchant un taux de 90 %.


Mais l'objectif n'est pas pour eux d'entraîner des souris intelligentes. Il s'agit bien de cerner l'activité cérébrale de la souris, afin de comprendre le cheminement utilisé par son cerveau pour distinguer des éléments caractéristiques d'un deepfake. À terme, ce cheminement sera retranscrit dans des ordinateurs, sous la forme d'algorithmes. Et d'ici quelque temps, peut-être, des applications pourront valider (ou infirmer) l'authenticité d'un enregistrement audio avec une grande efficacité.

Source : CNet
5 réponses
6 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

De nouveaux modèles climatiques ont été créés... et la situation est pire que prévue
La dernière mise à jour de Windows 10 causerait des pannes de carte réseau
La Suisse veut forcer les compagnies aériennes à renseigner les émissions CO2 sur les billets d'avion
Stallman quitte la Free Software Fundation après la divulgation d'emails évoquant l'affaire Epstein
Ça y est, le Fold est disponible en France... pour 1,6 SMIC (net).
Un démantèlement des GAFA ?
Le trou noir au centre de notre galaxie semble avoir de plus en plus faim
Des défauts de fabrication découverts sur six réacteurs nucléaires en activité en France
iPhone 11 / 11 Pro : les premiers tests sont en ligne, 2019 est-il un bon cru ?
En Californie, Donald Trump tente d’annuler la loi sur les limites d'émissions de CO2

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top