Un réseau de robots Telegram aurait créé plus de 104 000 deepfakes de femmes nues

21 octobre 2020 à 15h20
2

Des centaines de milliers d'utilisateurs ont recours à une intelligence artificielle pour générer des images de femmes dénudées à partir de photos réelles.

Déployé sur sept chaînes Telegram, le bot crée gratuitement des deepfakes. Plus de 60% des contenus concernent des relations personnelles des utilisateurs.

Les deepfakes : du porno avec les visages de proches

Un rapport de l’entreprise Sensity met le doigt sur un réseau de robots conversationnels générant gratuitement des deepfakes sur Telegram. D’après l’enquête de cette entreprise de cybersécurité spécialisée dans les « menaces visuelles », 104 852 femmes « ont été ciblées et ont vu leur image personnelle "dénudée" et partagée publiquement » en trois mois. Une gigantesque production d’images qui aurait doublé de volume depuis fin juillet.

Mais un deepfake, c’est quoi au juste ? Une technique basée sur l’intelligence artificielle qui génère des images à partir de fichiers photo et vidéo. Un deepfake permet de prendre le visage d’une personne et de le superposer au visage d’une autre de manière réaliste. Exemple : cette vidéo où l’on voit Barack Obama parler, alors qu’il s’agit en réalité du comique Jordan Peele. 

Au-delà du canular, cette technique a vu émerger des usages bien moins comiques, notamment à des fins de désinformation ou de pornographie. C’est ce dernier usage que pointe le rapport de Sensity. Il suggère que le bot serait une version open-source de DeepNude, une application commercialisée en 2019 qui générait des deepfakes.

Schéma du générateur de deepfakes sur Telegram, @Sensity

Les victimes de deepfakes exposées à des risques

D’après l'enquête menée par Sensity auprès des utilisateurs du bot, 63% des deepfakes sont générés à partir de visages de femmes connues personnellement par les utilisateurs. Ces derniers utilisent des images issues d’un réseau social ou bien des photos personnelles pour générer des avatars dénudés. 16% des utilisateurs préfèrent générer des deepfakes à partir de visages de célébrités, 8% de modèles ou d’influenceuses Instagram, et 7% de femmes aléatoires. Sensity note également qu’un nombre – limité – de deepfakes concerne des personnes mineures.

Sondage anonyme réalisé sur Telegram auprès des utilisateurs du bot générateur de deepfakes, @Sensity

Le rapport dénombre plus de 103 000 utilisateurs de ce réseau. Près de 70% d’entre eux sont basés en Russie ou dans des pays d’ex-URSS. La compagnie de cybersécurité suggère que le bot a été popularisé via le réseau social VK, très populaire chez les utilisateurs russes, biélorusses et kazakhs. Seulement 3% des utilisateurs du bot seraient issus de pays anglophones (États-Unis, Royaume-Uni, Canada, Australie…) et 2% de pays francophones, italophones ou germanophones.

Si Sensity note que l’usage principal de ces deepfakes est d’ordre pornographique, le rapport pointe également le risque que ces contenus soient utilisés pour du chantage (contre de l’argent) ou pour humilier publiquement la victime (le fameux revenge-porn).

Sources : Engagdet, Sensity

2
3
Partager l'article :
Voir tous les messages sur le forum

Actualités récentes

L'AMD Radeon RX 6700 XT pourrait être poussée à 2,95 GHz, un overclocking très très conséquent
Le constructeur Lucid ambitionne de produire 400 000 voitures électriques par an
Snapdragon 888 : Qualcomm dévoile son nouveau SoC haut de gamme pour les smartphones de demain
Pas de YouTube Rewind cette année, mais la plateforme dévoile ses contenus les plus regardés en 2020
ZTE annonce sa Watch Live avec un boîtier
Fragilisé et mis à l'arrêt, l'iconique radiotélescope d'Arecibo s'est effondré
Test NVIDIA Geforce RTX 3060 Ti : le milieu de gamme ultra convaincant
Les derniers épisodes de la saison 4 de Rick and Morty sont arrivés (accompagnés) sur Netflix
NVIDIA lance sa RTX 3060 Ti dès demain, à partir de 419 euros en France
Facebook rachète Kustomer, spécialiste du CRM et du chatbot
Haut de page