Un réseau de robots Telegram aurait créé plus de 104 000 deepfakes de femmes nues

21 octobre 2020 à 15h20
2
Telegram

Des centaines de milliers d'utilisateurs ont recours à une intelligence artificielle pour générer des images de femmes dénudées à partir de photos réelles.

Déployé sur sept chaînes Telegram, le bot crée gratuitement des deepfakes. Plus de 60% des contenus concernent des relations personnelles des utilisateurs.

Les deepfakes : du porno avec les visages de proches

Un rapport de l’entreprise Sensity met le doigt sur un réseau de robots conversationnels générant gratuitement des deepfakes sur Telegram. D’après l’enquête de cette entreprise de cybersécurité spécialisée dans les « menaces visuelles », 104 852 femmes « ont été ciblées et ont vu leur image personnelle "dénudée" et partagée publiquement » en trois mois. Une gigantesque production d’images qui aurait doublé de volume depuis fin juillet.

Mais un deepfake, c’est quoi au juste ? Une technique basée sur l’intelligence artificielle qui génère des images à partir de fichiers photo et vidéo. Un deepfake permet de prendre le visage d’une personne et de le superposer au visage d’une autre de manière réaliste. Exemple : cette vidéo où l’on voit Barack Obama parler, alors qu’il s’agit en réalité du comique Jordan Peele. 

Au-delà du canular, cette technique a vu émerger des usages bien moins comiques, notamment à des fins de désinformation ou de pornographie. C’est ce dernier usage que pointe le rapport de Sensity. Il suggère que le bot serait une version open-source de DeepNude, une application commercialisée en 2019 qui générait des deepfakes.

deepfake schéma
Schéma du générateur de deepfakes sur Telegram, @Sensity

Les victimes de deepfakes exposées à des risques

D’après l'enquête menée par Sensity auprès des utilisateurs du bot, 63% des deepfakes sont générés à partir de visages de femmes connues personnellement par les utilisateurs. Ces derniers utilisent des images issues d’un réseau social ou bien des photos personnelles pour générer des avatars dénudés. 16% des utilisateurs préfèrent générer des deepfakes à partir de visages de célébrités, 8% de modèles ou d’influenceuses Instagram, et 7% de femmes aléatoires. Sensity note également qu’un nombre – limité – de deepfakes concerne des personnes mineures.

deefake poll telegram
Sondage anonyme réalisé sur Telegram auprès des utilisateurs du bot générateur de deepfakes, @Sensity

Le rapport dénombre plus de 103 000 utilisateurs de ce réseau. Près de 70% d’entre eux sont basés en Russie ou dans des pays d’ex-URSS. La compagnie de cybersécurité suggère que le bot a été popularisé via le réseau social VK, très populaire chez les utilisateurs russes, biélorusses et kazakhs. Seulement 3% des utilisateurs du bot seraient issus de pays anglophones (États-Unis, Royaume-Uni, Canada, Australie…) et 2% de pays francophones, italophones ou germanophones.

Si Sensity note que l’usage principal de ces deepfakes est d’ordre pornographique, le rapport pointe également le risque que ces contenus soient utilisés pour du chantage (contre de l’argent) ou pour humilier publiquement la victime (le fameux revenge-porn).

Sources : Engagdet, Sensity

A découvrir en vidéo

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
2
3
Oldtimer
J’en pense quoi ? Bah que Donald trump n’existe pas tout comme ni kim jong un ni Macron, ni vous… et même moi ! On est tous des fakes !
Element_n90
Moi je dis que l’article aurait été plus complet avec une de ces photo en illustration…
Voir tous les messages sur le forum

Derniers actualités

Bon Plan : Disney+, Netflix, OCS et plus encore sont dispo à prix bas chez Canal+ !
Encadrement des influenceurs, comment l'État veut resserrer l'étau
Ordinateurs portables gamer : comment Lenovo veut réduire les nuisances sonores grâce à l'IA
WhatsApp améliore ses groupes avec de nouvelles fonctionnalités pour les admins !
L'énorme socket LGA7529 d'Intel en photos, pour des Xeon à plus de 500 cœurs
Protection contre les rançongiciels : comment un antivirus peut sauver vos données
Un BIOS ASUS laisse imaginer des cartes mères AM5 encore moins onéreuses
L'APU
Vers des nouveaux processeurs AMD Ryzen sur socket AM5 dès cette année ?
Pourquoi utiliser un VPN ? Voici un cas concret avec CyberGhost VPN
Haut de page