Un réseau de robots Telegram aurait créé plus de 104 000 deepfakes de femmes nues

21 octobre 2020 à 15h20
2

Des centaines de milliers d'utilisateurs ont recours à une intelligence artificielle pour générer des images de femmes dénudées à partir de photos réelles.

Déployé sur sept chaînes Telegram, le bot crée gratuitement des deepfakes. Plus de 60% des contenus concernent des relations personnelles des utilisateurs.

Les deepfakes : du porno avec les visages de proches

Un rapport de l’entreprise Sensity met le doigt sur un réseau de robots conversationnels générant gratuitement des deepfakes sur Telegram. D’après l’enquête de cette entreprise de cybersécurité spécialisée dans les « menaces visuelles », 104 852 femmes « ont été ciblées et ont vu leur image personnelle "dénudée" et partagée publiquement » en trois mois. Une gigantesque production d’images qui aurait doublé de volume depuis fin juillet.

Mais un deepfake, c’est quoi au juste ? Une technique basée sur l’intelligence artificielle qui génère des images à partir de fichiers photo et vidéo. Un deepfake permet de prendre le visage d’une personne et de le superposer au visage d’une autre de manière réaliste. Exemple : cette vidéo où l’on voit Barack Obama parler, alors qu’il s’agit en réalité du comique Jordan Peele. 

Au-delà du canular, cette technique a vu émerger des usages bien moins comiques, notamment à des fins de désinformation ou de pornographie. C’est ce dernier usage que pointe le rapport de Sensity. Il suggère que le bot serait une version open-source de DeepNude , une application commercialisée en 2019 qui générait des deepfakes.

deepfake schéma
Schéma du générateur de deepfakes sur Telegram, @Sensity

Les victimes de deepfakes exposées à des risques

D’après l'enquête menée par Sensity auprès des utilisateurs du bot, 63% des deepfakes sont générés à partir de visages de femmes connues personnellement par les utilisateurs. Ces derniers utilisent des images issues d’un réseau social ou bien des photos personnelles pour générer des avatars dénudés. 16% des utilisateurs préfèrent générer des deepfakes à partir de visages de célébrités, 8% de modèles ou d’influenceuses Instagram, et 7% de femmes aléatoires. Sensity note également qu’un nombre – limité – de deepfakes concerne des personnes mineures.

deefake poll telegram
Sondage anonyme réalisé sur Telegram auprès des utilisateurs du bot générateur de deepfakes, @Sensity

Le rapport dénombre plus de 103 000 utilisateurs de ce réseau. Près de 70% d’entre eux sont basés en Russie ou dans des pays d’ex-URSS. La compagnie de cybersécurité suggère que le bot a été popularisé via le réseau social VK, très populaire chez les utilisateurs russes, biélorusses et kazakhs. Seulement 3% des utilisateurs du bot seraient issus de pays anglophones (États-Unis, Royaume-Uni, Canada, Australie…) et 2% de pays francophones, italophones ou germanophones.

Si Sensity note que l’usage principal de ces deepfakes est d’ordre pornographique, le rapport pointe également le risque que ces contenus soient utilisés pour du chantage (contre de l’argent) ou pour humilier publiquement la victime (le fameux revenge-porn ).

Sources : Engagdet , Sensity

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
2
3
Voir tous les messages sur le forum

Lectures liées

À compter du 30 septembre, des millions de smartphones pourraient ne plus avoir accès au Net
Samsung Galaxy S22 : les coloris du futur smartphone de Samsung fuitent déjà
Seconde main : attention à la sécurité des données
Vous avez iOS 15 et votre stockage est plein ? C'est peut-être juste un bug... et ça touche tous les utilisateurs
Avec iOS 15, Apple FaceTime va permettre de partager son écran (mais pas tout de suite)
Le Google Pixel 6 Pro fuite en vidéo dans un très beau coloris gris
OPPO Reno6 5G : un excellent photophone, mais pas seulement ! Profitez de plus de 149€ d'accessoires offerts
iOS 15 : quelles fonctionnalités manquent encore à l'appel ?
Sous iOS 15, l'application Maison permet d'ajouter un nombre illimité de caméras, et bien plus
Une présentation mi-octobre pour le Google Pixel 6 ? C'est ce que laisse penser un nouvel indice
Haut de page