Le nombre de deepfakes en ligne aurait augmenté de 84% en moins d'un an

10 octobre 2019 à 12h06
16
deepfake porn
© Shutterstock.com

D'après une étude de Deeptrace, une société néerlandaise spécialisée dans la cybersécurité, la quantité de deepfakes présents sur Internet aurait augmenté de 84% en moins d'un an.

L'étude précise que l'écrasante majorité (96 %) des deepfakes actuellement en ligne sont à caractère pornographique.

Prêter son visage sans son consentement

Les deepfakes sont des contenus visuels (ou parfois uniquement audio) qui ont été modifiés par une intelligence artificielle. Grâce à une série de photos, l'IA peut remplacer le visage d'un acteur ou d'un actrice d'un film par exemple, par le visage d'une personne, générant un résultat particulièrement réaliste. On a pu ainsi voir Tom Cruise jouer Iron Man à la place de Robert Downey Jr.

Ici, le résultat prête davantage à sourire. Mais les objectifs ne sont pas toujours aussi innocents. En plus des vidéos à caractère pornographique, des deepfakes audio ont déjà été utilisés pour prêter à des personnalités politiques des propos qu'elles n'ont jamais tenus.

Le boom des deepfakes pornographiques

Or, de nombreuses personnalités, majoritairement féminines, ont récemment « pris la place » d'actrices pornographiques. L'actrice américaine Scarlett Johansson s'est ainsi insurgée contre les deepfakes après que son visage a été utilisé dans une vidéo pornographique.

Ce phénomène, d'après DeepTrace, est en pleine expansion. La société a réalisé un recensement des deepfakes disponibles en ligne en juin et juillet : elle en a dénombré 14 698. En décembre dernier, la même société en avait comptabilisé 7 964, observant aujourd'hui une augmentation de 84 % en huit mois. Dans 96 % des cas, ces contenus sont à caractère pornographique et impliquent des femmes.

Le rapport précise également que près de la moitié des deepfakes mettent en scène des actrices américaines ou britanniques. Les stars de la K-Pop, un style musical d'origine coréenne, sont aussi largement sollicitées.

Si des entreprises proposant de créer des deepfakes commencent à apparaître, la lutte contre les contenus illégaux s'organise également. Google a lui-même créé 3 000 deepfakes pour exercer des algorithmes à les détecter. La Californie a également réagi en interdisant la création et la distribution de ces contenus.

Source : Tech Times
Modifié le 10/10/2019 à 12h06
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
16
10
Athlonic
10/10 pour l’illustration ^^
max_971
C’est vrai qu’il est très réaliste ce deepfake.
megadub
“L’étude précise que l’écrasante majorité (96 %) des deepfakes actuellement en ligne sont à caractère pornographique” Comme c’est étonnant
GRITI
C’est toujours des histoires d’une certaine…profondeur…Deepthroat, deepfake.<br /> En tout cas cela risque de faire des dégâts tout cela. Si jamais des pirates mettent la main sur des vidéos/photos/audio de particuliers cela risque d’amener à du chantage…J’ai peur que cela devienne un véritable fléau à une époque où beaucoup de gens mettent des vidéos et photos d’eux sur les réseaux sociaux.
LeGrosWinnie
Perso c’est pas tant le chantage, mais plutôt si c’est diffusé directement publiquement pour nuire, car on connait les médis à notre époque : on diffuse en premier (en sous entendant que c’est vrai), et on investigue après pour savoir si c’est vraiment vrai… en attendant le mal a été fait…
GRITI
C’est pas faux. Pour des gens un peu connus du public.<br /> Mais diffuser le deepfake d’un particulier n’aurait pas grand intérêt (sauf de la vengeance du genre revenge porn). Pour moi, au niveau du particulier, ce serait un bon moyen de chantage. Surtout si la victime est une femme.
Jacky67
GRITI:<br /> Surtout si la victime est une femme.<br /> Oups… J’ai pô compris, là…
GRITI
Ce que je voulais dire c’est qu’un hacker qui crée un deepfake porno aura davantage de chance de soutirer de l’argent à sa victime si celle-ci est une femme. Je pense qu’aucune femme n’aimerait voir un deepfake “réaliste” (dans le sens bien fait techniquement) être diffusé à sa famille, ses amis et collègues, son patron etc…<br /> Mais il est vrai que pour un mec cela pourrait être pareil selon le type de vidéo…
Jacky67
Ah oui, je vois ce que tu veux dire…
newseven
C’est dommage que sur clubic ne fait pas de sondage pour savoir combien de personne qui sont pour et combien qui sont contre.<br /> Moi c’est un gros oui.
GRITI
Pour ou contre quoi?
jean-le-petit
Je trouve ça très bien de créer une grande confusion et de couper l’herbe sous le pied au véritable “revenge porn”. On pourra dire “ce n’est pas vraiment moi, c’est un deepfake, un hacker a essayer d’en tirer de l’argent mais j’ai refusé” et hop ! next !
jean-le-petit
Le sujet étant le deepfake, je crois dire sans me tromper qu’il est pour (le deepfake)…
newseven
Je veux remplacé le visage de tom cruise et devenir le prochain Jack Reacher.<br />
GRITI
Il y en a un de prévu?
oximini
Pas forcément, suffit que la victime se mette à poil devant son patron pour lui prouver que c’était pas lui/elle dans le deepfake, et affaire réglée.
GRITI
Mais bien sûr…je vois bien les victimes faire ça…<br /> Le plus simple au final, c’est tout le monde à poil tout le temps. Comme cela tout le monde sera blasé et le porno se transformera et ce qui sera considéré comme dépravé ce sera d’être habillé. Ce sera le comble de l’indécence. Ca excitera les gens de voir d’autres personnes habillées. Et avec le deepfake tu pourras même leur faire porter d’autres habits…oulalala ça va être chaud tout ça…
oximini
On s’échangerait des vieux DVD de défilés de mode entre les fesses (“sous le manteau” ne serait plus possible) pour se faire des soirées hardcore de folie ! Vas-y que je te glisse une basket au pied, que je t’enroule une écharpe autour du cou, des trucs de fou ! Je valide le projet. ça mérite une proposition de loi
newseven
Pourquoi quand on parle du deepfake on l’associe obligatoirement à du porno ?<br /> Ce n’est pas obligatoire.
GRITI
L’étude précise que l’écrasante majorité (96 %) des deepfakes actuellement en ligne sont à caractère pornographique.<br /> Voilà pourquoi…
newseven
Ha non je fais partie de la minorité.
Voir tous les messages sur le forum

Actualités du moment

Pour Halloween, Stranger Things débarque dans Rocket League
À Los Angeles, un robot policier ignore une femme qui demandait de l'aide
🔥 Samsung Galaxy Note 10 à 736,99€ au lieu de 921,24€
Google travaille sur son premier Pixel supportant la 5G
Blizzard demande leur carte d'identité aux pro-manifestants de Hong Kong pour supprimer leur compte
Vers un abonnement de trois ans à Disney+, à 5 dollars par mois
Les nouvelles Surfaces de Microsoft embarqueraient le nouveau minuscule SSD de Toshiba
Le nouveau Volvo XC40 100% électrique, sera animé par Android Auto
Le smartphone gamer Red Magic 3s débarquera le 16 octobre à partir de 479 €
Sur son Store, Apple vend désormais... des manettes Xbox One !
Haut de page