Les deepfakes pornographiques de Taylor Swift envahissent X et la modération est à la traîne

26 janvier 2024 à 09h04
11
Taylor Swift est victime d’une campagne de harcèlement aux deepfakes pornographiques sur X © Koshiro K / Shutterstock
Taylor Swift est victime d’une campagne de harcèlement aux deepfakes pornographiques sur X © Koshiro K / Shutterstock

C’est le risque quand on licencie une bonne partie de son équipe de modération. Des fausses photos et vidéos pornographiques de Taylor Swift circulent sur X sans que la modération ne parvienne à y faire quelque chose.

Le symbole est catastrophique. Des dizaines d’images générées par IA montrant Taylor Swift dans des positions suggestives sont apparues sur X, le réseau social d’Elon Musk, ces derniers jours. Et il semblerait que la modération du site soit complètement incapable de faire face aux déluges de deepfakes touchant la star de la pop.

Une modération trop laxiste

D’après le site 404 Media, une bonne partie de ces montages illégaux viendraient d’un groupe Telegram dédié à la production de fausses images via IA. Un post, désormais supprimé, est parvenu à atteindre 45 000 millions d’impressions, a attiré des milliers de likes et généré 24 000 retweets avant d’être enfin supprimé par les équipes de modération du site. Le contenu, posté par un utilisateur « vérifié », sera resté en ligne pendant 17 h en tout, le temps que des centaines d’autres comptes aient l’occasion d’enregistrer et de repartager ces images sur X et d’autres plateformes.

Le manque d’efficacité de la modération dans cette affaire est d’autant plus critique que les règles d’utilisation de la plateforme précisent noir sur blanc que les « contenus trompeurs » sont interdits, notamment ceux « employant des algorithmes d’intelligence artificielle pour créer des images contenant de vraies personnes ». Et c’est loin d’être la première fois que ce phénomène se manifeste sur X.

Un historique catastrophique

En juin 2023, des stars de TikTok se sont retrouvées malgré elles dans des deepfakes pornographiques circulant sur la plateforme. En France, la journaliste Salomé Saqué a été victime des mêmes tactiques d’intimidation et de harcèlement. Même des personnes peu ou pas connues peuvent être victimes du même sort, mais l’affaire Taylor Swift a comme intérêt d’amener le problème sur le devant de la scène en raison de l’immense popularité de la chanteuse.

Ces problèmes saillants chez X apparaissent alors qu’Elon Musk a largement taillé dans les effectifs de modération l’année dernière et que la plateforme est précisément surveillée de très très près par l’Union européenne pour ces raisons. Rappelons qu’en France, le Code pénal interdit « le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement ».

X.com (ex Twitter)
  • Instantané dans l'information
  • Messages courts
  • Hashtags, tendances, tweet et retweet

Twitter (X.com aujourd'hui) est un réseau social qui permet à ses utilisateurs de retrouver les dernières informations internationales et locales en quelques secondes seulement. Il s'agit de l'une des plateformes les plus prisées sur Internet pour converser, découvrir, s'informer et échanger. De manière générale, quand un événement d'importance a lieu, c'est principalement sur Twitter qu'il est discuté en premier.

Twitter (X.com aujourd'hui) est un réseau social qui permet à ses utilisateurs de retrouver les dernières informations internationales et locales en quelques secondes seulement. Il s'agit de l'une des plateformes les plus prisées sur Internet pour converser, découvrir, s'informer et échanger. De manière générale, quand un événement d'importance a lieu, c'est principalement sur Twitter qu'il est discuté en premier.

Source : 404 Media

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (11)

pecore
X va comme toujours se protéger derrière le sacro-saint «&nbsp;pas responsable de ce que publient les utilisateurs de la plateforme&nbsp;».<br /> Espérons qu’un jour une personnalité assez célèbre, comme Taylor Swift, intentera un procès à la plateforme et lui réclamera une fortune en dommages et intérêts. À défaut d’obtenir gain de cause, cela fera une très mauvaise publicité qui poussera encore plus X au fond du trou où il est déjà.
rougesaphir
Avec l’IA, ce ne sont pas des modérateurs par milliers qu’il va falloir, mais des millions d’agents IA, exactement comme on fait tourner 24/24 des antivirus et autre firewalls.<br /> Il est illusoire de croire qu’on va tout contrôler à l’ère des XXXGpt et autres outils spécifiquement dédiés au sabotage/arnaque.
merotic
C’est aux personnes qui diffusent ces fausses images qu’il faut intenter un procès, aux créateurs, pas à la plateforme.<br /> Il faut viser la source sinon on se trompe encore de cible et on ne met pas un coup d’arrêt à ces agissements.
Mabikenpon
Quelle modération ?
MattS32
merotic:<br /> C’est aux personnes qui diffusent ces fausses images qu’il faut intenter un procès, aux créateurs, pas à la plateforme.<br /> Il faut viser la source sinon on se trompe encore de cible et on ne met pas un coup d’arrêt à ces agissements.<br /> Il faut attaquer les deux.<br /> On ne peut pas déresponsabiliser complètement la plateforme, puisque ça induirait alors que ces contenus pourraient proliférer tranquillement jusqu’à ce qu’un procès soit intenté au créateur (et à chaque fois un autre…), ce qui forcément prendra beaucoup de temps, surtout qu’ils peuvent être dans des juridictions différentes et ne collaborant pas, et peuvent également parvenir a être quasiment impossibles à retrouver…<br /> Alors qu’en attaquant et condamnant la plateforme, on s’assure qu’à l’avenir elle réagisse plus vite pour supprimer de tels contenus quand ils apparaissent.
Bestdoud
Lorsqu’un compte est supprimé, tout ce qui a été republié devrait également être supprimé automatiquement
entreplume
Taylor Swift a à dos tout l’univers MAGA, donc vu l’orientation de Musk, proche de Trump et la réactivation de comptes criminels d’extrême droite américaine sur X, on peut supposer que la modération ne va pas trop s’emballer.
manu_XP
ce n’est guère porno.
Korgen
Ca fait des décennies que les fakes existent et c’est que maintenant que les gens réagissent ?
Voir tous les messages sur le forum