Des dizaines de deepfakes sexuels non consentis de célébrités et d'une élue américaine étaient encore accessibles sur Grok.com cette semaine, selon une enquête de Wired. En janvier dernier, xAI a annoncé des restrictions techniques sur la génération d'images. Des guides de contournement circulent pourtant publiquement, et dans son document déposé auprès de la SEC en vue de son introduction en bourse, SpaceX a chiffré à plus de 460 millions d'euros les risques juridiques liés à Grok.
Fin décembre 2025, Elon Musk annonce que Grok peut éditer des images directement depuis X.com. En onze jours, le Centre pour la lutte contre la haine numérique (CCDH) a compté environ 3 millions d'images sexualisées, soit quelque 190 par minute. Dans une lettre cosignée par 35 procureurs généraux américains en janvier dernier, plus de 23 000 de ces images impliquaient des mineurs. Face au tollé mondial, xAI a promis des mesures. Pourtant, lors de la publication de l'enquête, des dizaines d'images et de vidéos explicites étaient encore accessibles sur Grok.com, dont des représentations de célébrités et de la représentante américaine Alexandria Ocasio-Cortez.
Sur Grok Imagine, l'outil de génération d'images et de vidéos d'xAI, on trouve des contenus où des femmes subissent des actes sexuels simulés, des mises en scène de contrainte et de la nudité complète, certains photoréalistes. Wired a soumis deux prompts extraits de Grok à d'autres plateformes. ChatGPT, Meta AI et Claude les ont rejetés comme inappropriés. Google Gemini en a validé un sur deux.
Des guides publics pour déjouter les restrictions d'xAI
En janvier, xAI a annoncé des restrictions techniques et a réservé la modification d'images de personnes réelles en tenues révélatrices aux seuls abonnés payants sur X. Mais sur l'application Grok autonome, c'est une autre histoire. En cherchant sur des forums spécialisés mis à jour, n'importe quel utilisateur peut apprendre à recadrer ses requêtes de façon artistique ou à générer des images neutres en préalable pour assouplir les filtres. Pour Henry Ajder, spécialiste des deepfakes qui surveille ces contenus depuis près de dix ans, xAI et X accusent un retard sur les garde-fous des autres outils grand public.
Dans ses conclusions préliminaires publiées cette semaine, le commissariat à la protection de la vie privée du Canada estime que les mesures d'xAI manquent de preuves d'efficacité. Le 26 mars dernier, le tribunal de district d'Amsterdam a ordonné à xAI et X de cesser toute génération et diffusion d'images sexuelles non consenties aux Pays-Bas, sous peine d'une astreinte de 100 000 euros par jour, plafonnée à 10 millions d'euros. Pour motiver cette décision, le juge a cité un test qu'Offlimits a conduit le 9 mars. Ce jour-là, l'association a produit une vidéo sexualisée d'une personne réelle à partir d'une seule photo, sans vérification de consentement.
- Accès aux données X en temps réel
- Bon outil de veille médiatique
- Moins biaisé politiquement que sa concurrence
SpaceX estime que son exposition juridique liée à Grok lui coûte 460 millions d'euros
Début 2026, SpaceX a absorbé xAI dans une fusion que les deux sociétés ont valorisée à environ 1 150 milliards d'euros. Dans le document déposé auprès de la SEC en vue de l'introduction en bourse, SpaceX a classé Grok une des sources actives de litiges liés aux deepfakes non consentis. Le budget contentieux global de SpaceX dépasse 500 millions de dollars, soit environ 460 millions d'euros. Une partie de ce montant couvre les litiges Grok, que SpaceX a qualifiés de facteurs susceptibles d'exposer l'entreprise à des sanctions pour contenus « potentiellement explicites » et images « non consenties ou exploitatrices ».
xAI maintient donc un outil dont elle a évalué les risques juridiques à plusieurs centaines de millions d'euros. Genevieve Oh, analyste indépendante spécialisée dans les deepfakes, estime que Grok dépasse probablement à lui seul l'ensemble des autres outils de nudification combinés en volume de production. Aux États-Unis, le TAKE IT DOWN Act, une loi fédérale promulguée en mai 2025 et pleinement en vigueur depuis le 19 mai 2026, oblige désormais les plateformes à supprimer les images intimes non consenties dans les 48 heures suivant un signalement.
En mars, Baltimore est devenue la première ville américaine à attaquer xAI en justice. Trois adolescentes du Tennessee ont par ailleurs déposé un recours collectif. Ashley St. Clair, mère d'un enfant d'Elon Musk, a engagé une procédure distincte après la diffusion sur X de deepfakes à son effigie. En juin 2026, la députée britannique Jess Asato a déposé une plainte devant la High Court. Après la publication de l'enquête, xAI a retiré les contenus incriminés et X a supprimé les liens concernés pour violation de ses règles, sans répondre aux demandes de commentaire formulées avant publication.
Source : Wired (accès payant)
