Détecter les deepfakes audio grâce aux souris : une piste qui pourrait porter ses fruits

C'est le nouveau fléau d'Internet. Les deepfakes sont des vidéos ou des enregistrements audio modifiés par une IA. En règle générale, ils visent à attribuer à une personne des actes ou des paroles dont elle n'est pas l'auteur.

Des célébrités ont ainsi vu leurs visages remplacer celui d'actrices pornographiques. D'autres ont vu les propos qu'ils ont tenus lors d'interviews être modifiés et remplacés par des discours outrageants. La difficulté des deepfakes est qu'ils se perfectionnent très vite, et qu'ils sont déjà difficiles à déceler. Mais une équipe de chercheurs a peut-être la solution : des souris.

Des souris comme détectrices de faux

Les deepfakes s'appuient sur le machine learning. Dans le cas d'un enregistrement audio, il s'agit dans un premier temps de fournir à l'ordinateur des discours de la personne ciblée. La machine en retire alors tout ce qui rend unique la voix de cette personne. L'auteur du deepfake peut alors, avec une précision souvent surprenante, créer un nouveau discours sur ce même ton de voix. Bien entendu, ce genre d'enregistrements est susceptible de ruiner la vie privée ou la réputation d'une personne : Google, Facebook et Twitter avertissent déjà quant à l'utilisation de deepfakes pendant l'élection américaine de 2020.


Mais un trio de chercheurs américains a une piste susceptible de fonctionner pour détecter les deepfakes audio. L'un d'eux, Jonathan Saunders, travaillant à l'institut de neuroscience de l'Oregon, dit que « l'étude des mécanismes de calcul avec lesquels les mammifères détectent les faux enregistrements pourrait fournir des algorithmes généralisables ».

En d'autres termes, les souris ont un système auditif comparable à celui de l'homme, mais elles ne comprennent pas le sens des mots. Ici, cette absence de compréhension pourrait être utile, car l'animal se concentre alors sur les signes d'un faux enregistrement, et non sur le décodage du sens de la phrase. Par exemple, alors qu'un homme ne prêtera pas d'attention à une légère erreur de prononciation, la souris la verra comme une preuve de faux.

Les premiers essais sont encourageants

Les trois chercheurs ont donc mis leur hypothèse à l'épreuve. Des souris ont été exercées à distinguer des consonnes, un élément qui sera utile dans la détection de deepfakes. Présentés le 7 août 2019 à Las Vegas, les résultats sont là : dans 80 % des cas, la souris identifiait correctement les sons qui lui étaient proposés. Les scientifiques sont encore en deçà de leurs espérances, recherchant un taux de 90 %.


Mais l'objectif n'est pas pour eux d'entraîner des souris intelligentes. Il s'agit bien de cerner l'activité cérébrale de la souris, afin de comprendre le cheminement utilisé par son cerveau pour distinguer des éléments caractéristiques d'un deepfake. À terme, ce cheminement sera retranscrit dans des ordinateurs, sous la forme d'algorithmes. Et d'ici quelque temps, peut-être, des applications pourront valider (ou infirmer) l'authenticité d'un enregistrement audio avec une grande efficacité.

Source : CNet