Deepfake : une nouvelle appli chinoise, Zao, rencontre succès et critiques éthiques sur la confidentialité

04 septembre 2019 à 09h49
8
ZAO-deepfake.png

Après la russe FaceApp, une nouvelle application deepfake, chinoise cette fois, vient de faire son apparition. Il ne lui a fallu que quelques jours pour créer la polémique et les inquiétudes, tout en devenant virale.

Avec les progrès incessants de la technologie, l'émergence de la technologie deepfake a pu créer une sorte de fascination chez les observateurs, du moins au démarrage. Mais alors que le mouvement anti-fake news s'est renforcé ces dernières années, une telle technologie s'avère plus dangereuse que jouissive. Voilà pourquoi l'application chinoise Zao, mise en ligne vendredi dernier et déjà très populaire, suscite l'inquiétude.

Zao réclame une série de selfies pour vous incruster dans une vidéo

Zao propose de remplacer un visage, le vôtre par exemple, par un autre, que ce soit celui d'une célébrité, d'une star du sport ou d'un acteur. Certains se sont ainsi déjà amusés, vous le voyez sur notre photo de couverture, à faire un remake de Game of Thrones ou de Titanic.


Développée par Momo Inc, une entreprise chinoise cotée au Nasdaq, connue pour être la spécialiste des applications chinoises locales, Zao est déjà populaire en Chine, avec des milliers et des milliers de téléchargements déjà recensés, effet de curiosité oblige.

Pour utiliser l'application, vous devez lui fournir une série de selfies, représentant chacun une expression faciale différente. Zao se charge ensuite de décortiquer vos photos puis les utilise pour par exemple faire disparaître Kit Harington (l'acteur qui incarne Jon Snow dans GoT) et le remplacer par un autre.


Des photos postées sur Internet, accessibles à tous

Mais comme souvent, il existe des effets pervers. L'éditeur de Zao fait concéder aux utilisateurs un droit « irrévocable, permanent et transférable » sur les photos. Comprenez bien : cela sous-entend que vos photos ne vous appartiennent plus et que Momo Inc. peut en faire ce qu'il désire. Cela n'est pas sans rappeler la polémique créée par l'application russe FaceApp, qui vous permet, entre autres, de voir votre tête avec 30 ans de plus.


Face à la grogne, Zao a pris la peine d'ajuster ses conditions d'utilisation ce week-end, promettant ainsi de n'utiliser les photos et vidéos fournies par les utilisateurs que pour améliorer l'application. L'éditeur indique aussi que chaque contenu effacé par les internautes sera écarté de ses serveurs. L'application est tout de même susceptible de fournir les images postées (et hébergées donc en ligne et non sur le téléphone, contrairement à FaceApp) aux autorités, si celles-ci venaient à mener une enquête. Décidément, IA, progrès et vie privée ne font pas bon ménage.

Source : The Guardian
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
8
8
GRITI
Est-ce que cela veut dire que l’appli ne fonctionne pas hors ligne et que tout le calcul pour générer le deepfake est fait sur les serveurs de l’éditeur?<br /> Si c’est le cas, pour moi il ne faut pas parler d’application de deepfake vu que le téléphone ne fait pas les calculs.
DARTH_KAM
Tu as raison, les CPU des smartphones ne sont pas capables de tels calculs en vidéo. Ou alors j’ai raté un épisode…
twenty94470
Étonnamment on a toujours ce genre d’article sur les applications Russes ou Chinoises, a croire que les applications similaires made in USA ne demandent aucune autorisation …
manu0086
Quand on connait le fric que ces gouvernements (US compris) dépensent dans la reconnaissance faciale et des applis demandant X photos de ta face bien précises voient le jour, on peut logiquement se demander s’il n’y a pas un rapport.
Blap
Ce n’est probablement pas du deepfake tout court, mais ce n’est pas parce que les calculs sont déportés qu’on ne peut pas parler de deepfakes, ca n’a rien a voir.
GRITI
@Blap<br /> Je ne dis pas que ce n’est pas du deepfake. Juste que pour moi l’appli n’est pas une appli de deepfake. En gros, c’est juste une appli qui envoie tes photos/vidéos sur un serveur et qui télécharge le résultat. Elle ne fait pas de deepfake. Limite, un site web avec les boutons upload/download ferait la même chose. Sauf que l’appli permet de récupérer bien plus d’informations sur l’utilisateur du téléphone.<br /> Mais ce n’est que mon point de vue.
gwlegion
concernant le fait que ca soit du deepfake, je dirais rien … par ce que j’ignore comment marche le systeme proposé …<br /> mais ca y ressemble quand meme fortement.<br /> par contre, pour ce qui est de l’application … ben tu as a la fois raison et tord.<br /> Ton erreur viens de ta definition du mot application.<br /> Une application, dans son sens general, c’est pas forcement sur un telephone … y’a des applications PC, des aplications sur telephones et des applications coté serveur en lourd, ou en webapp …<br /> Alors ce que tu cherche a dire, c’est que les calculs ne sont pas fait sur le terminal … ce qui est totalement vrai.<br /> Mais dire que c’est une application de deepfake n’est pas totalement faux … c’est juste une simplification enorme …<br /> pour decrire completement, il faudrais dire qu’il s’agit d’une “application client pour un service de deepfake” … Ca serais effectivement plus exact, mais pas pratique.<br /> C’est comme quand tu parle d’application de mail ou de messagerie instantanée …<br /> Dans les deux cas, c’est en fait un client lourd que t’installe sur ton terminal, que celui ci soit un PC ou un telephone.<br /> et dans ces deux cas, c’est bien sur le serveur que se passe les choses …<br /> regarde un peu toutes les applis que tu as sur ton telephone … facebook, tweeter, instagram, what’sapp … et j’en passe. On dit quand meme que c’est des applications …<br /> Meme si in finé, t’a pas tout a fais tord …
m_enfin
L’application Twitter envoie des messages sur un serveur distant, et tu lis des messages provenant de ce serveur. Cela n’en est pas moins une application. Le calcul déporté est très courant de nos jours (et même depuis longtemps d’ailleurs…).
m_enfin
Le deepfake est aussi excitant qu’inquiétant.
GRITI
@gwlegion et @m_enfin<br /> Je comprends et approuve vos propos sur les applications. Mais ce que je veux dire, c’est que nombre d’appli (avec ou sans S vu que ce n’est pas un mot ? ) type mails, sms, téléphone, twitter, facebook, jeux en ligne, jeu avec mode multi en ligne et navigateur sont intuitivement comprises par les usagers comme ayant besoin d’internet pour fonctionner.<br /> Là on pourrait croire (naïvement?) que l’appli peut tout faire toute seule en hors ligne. Un peu comme les appli qui permettent de truquer en live ce que l’on filme ou des photos. C’est directement le téléphone qui fait le boulot. Et dans le cas de cette appli ce n’est pas le cas. Et vu les limites éthiques liées à la vie privée avec le deepfake, je trouve cela moyen comme appellation. Même si, vous avez raison, c’est comme ça maintenant. Et qu’appeler cela une appli de client deepfake…c’est pas le plus convivial (et cela ne parlera pas forcément à tout le monde).<br /> En fait j’aimerai savoir combien de personnes ont pu installer ce genre d’appli de deepfake en pensant que tout se passait hors ligne…et qui ne se doutaient pas que les photos/vidéos seraient uploadées sur un serveur.
AlexLex14
C’est excellemment résumé
Voir tous les messages sur le forum

Actualités du moment

Après Instagram, Facebook pourrait cacher le nombre de
Réforme de l'audiovisuel : retour du cinéma, investissement des plateformes... les réunions ont démarré
Ford annonce des versions électriques de plusieurs modèles iconiques, dont le pick-up F-150
Free a perdu plus de 90 000 abonnés fixe et mobile au premier semestre
Star Citizen : la campagne solo Squadron 42, repoussée de 3 mois
5G : le Coréen SK Telecom devient le premier opérateur à franchir le million d'abonnés
CRISPR-Cas9 : une équipe de chercheurs a créé les premiers lézards génétiquement modifiés
🔥 GeForce GTX 1660 Ti et RTX 2080 en promo pour la rentrée !
🔥 Forfait sans engagement : pour la rentrée Free prolonge son forfait 50 Go à 8,99€/mois
Haut de page