Fawkes, un programme qui modifie légèrement vos photos pour empêcher la reconnaissance faciale

19 août 2020 à 10h35
8

De nombreuses personnes s'inquiètent de l'usage de plus en plus répandu de la reconnaissance faciale. Certaines se défendent contre son utilisation devant les instances nationales et internationales, alors que d'autres recherchent des parades.

Fawkes fait partie de la seconde catégorie. Le logiciel propose de modifier légèrement les photos afin de tromper la reconnaissance faciale.

À visage masqué

Le principe de Fawkes, qui est également le nom du projet qui a fait naître le logiciel, est assez simple. Si celui-ci propose une fonctionnalité appelée « cloaking », il ne vous rendra pas invisible à proprement parler. En réalité, Fawkes se contente de faire de très légères modifications, de l'ordre de quelques pixels, sur les images qui lui sont proposées.

Pour un être humain, cette image « masquée » ne semble pas différente de l'image d'origine. Mais pour l'ordinateur, ce changement de quelques pixels bien choisis implique une distorsion importante, l'empêchant d'identifier la personne.

© Université de Chicago

Selon le SAND Lab, le laboratoire de recherche de l'université de Chicago à l'origine du logiciel, « si et quand quelqu'un essaie d'utiliser ces photos pour créer un modèle de reconnaissance faciale, les images "masquées" enseigneront au modèle une version très déformée de ce qui vous ressemble ». Ceci poussera le logiciel à classer l'individu détecté comme une nouvelle personne à chaque fois.

Aucune incidence sur les logiciels légitimes

Fawkes est ainsi présenté comme une réponse aux logiciels de reconnaissance faciale, certains ayant été entrainés sur la base de portraits collectés sans le consentement des personnes concernées. Les auteurs du projet mentionnent Clearview.AI, un service suspecté d'avoir été bâti sur une base de 3 milliards de photos de personnes téléchargées sans l'accord de ces dernières.

Le programme s'adresse d'abord à ces modèles : selon le média Futurity, l'outil n'aurait aucune incidence sur les logiciels de reconnaissance faciale dont les images ont été légitimement obtenues, notamment ceux utilisés par les forces de l'ordre. En revanche, il serait, selon le SAND Lab, « efficace à 100% » contre l'Amazon Rekognition, le Face API de Microsoft API et Face++.

Pour Emily Wenger, étudiante à l'université de Chicago et co-responsable du projet, il s'agit d'abord de donner du pouvoir aux individus. Elle déclare : « Nous n'avons aucune illusion sur le fait que cela résoudra toutes les violations de la vie privée, et il existe probablement des solutions techniques et juridiques pour aider à repousser les abus de cette technologie. Mais le but de Fawkes est de donner aux individus le pouvoir de se défendre, car pour le moment, rien de tel n'existe ».

Le logiciel a été présenté au Symposium USENIX 2020. Il est également disponible en téléchargement et a déjà dépassé la barre des 175 000 installations.

Sources : Futurity, SandLab, The Verge

8
9
Partager l'article :
Voir tous les messages sur le forum

Les actualités récentes les plus commentées

Cyberpunk 2077 : malgré les promesses de CD Projekt, le studio passe en mode crunch
L'énergie nucléaire continue de perdre du terrain face au solaire et à l'éolien
Orange : un forfait 5G avec data illimitée pour 80 euros par mois pourrait être bientôt lancé
RTX 3080 : de nombreux bugs chez les premiers acheteurs de modèles custom (MàJ)
Un ancien cadre dévoile la stratégie de Facebook pour être aussi addictif que le tabac
Environnement : Renault vous invite à couper votre moteur devant les écoles
Fortement attendue, l'application britannique de traçage de la COVID massivement téléchargée
PlayStation 5 : le gameplay de Demon's Souls montré par Sony ne tournait pas en 4K
Enchères 5G : Orange montre ses muscles, Free Mobile en retrait, le bilan de ce jour 1
scroll top