Le nouveau générateur de vidéos de Grok, Imagine, est doté d'un mode « Spicy ». Un mode qui peut très vite dégénérer en créateur de deepfakes de célébrités, comme on le voit aujourd'hui.
On a l'habitude. Quand des nouveautés arrivent du côté des IA d'Elon Musk, la polémique n'est jamais loin. Et avec le lancement du générateur de vidéo Imagine de Grok, on est une fois encore dans la mise en place d'un outil qui peut être problématique. Car la volonté de proposer un mode « Spicy » entraîne des inconvénients notoires.
Le Spicy Mode d'Imagine a tout de suite fait parler de lui
Quand Imagine sort, il est accompagné de quatre déclinaisons : Normal, Fun, Personnalisé et « Spicy » (épicé). L'idée de ce dernier est de permettre, sans tomber dans la pornographie, de créer des courtes vidéos au caractère érotique affirmé.
Malheureusement, il semble qu'il n'y ait pas assez de garde-fous pour cette IA. C'est ce que l'on apprend avec The Verge. Le média anglophone allègue en effet avoir fait un test en demandant à Imagine de générer des images en suivant le prompt « Taylor Swift célébrant Coachella avec ses potes ». The Verge a alors obtenu un certain nombre d'images de Taylor Swift vêtue légèrement, et en activant derrière le mode Spicy, puis en indiquant leur âge, le média a obtenu une vidéo où la chanteuse américaine danse et enlève le haut de ses vêtements.
Taylor Swift, victime habituelle des deepfakes
La pub n'est clairement pas très bonne, surtout que The Verge affirme ne pas avoir même demandé explicitement à l'IA de générer ce contenu érotique. Et malheureusement pour la jeune femme, ce n'est pas la première fois qu'elle est la cible de deepfake, qui avaient même un moment complètement envahi le réseau social X après sa reprise par Elon Musk.
Sauf que depuis, l'époque a changé, avec récemment la mise en place aux États-Unis de la nouvelle loi dite « Take it down », destinée à criminaliser la diffusion non consentie d'images intimes. On peut donc se demander si xAI ne se met pas en position de vulnérabilité judiciaire ici.
Source : The Verge
- Intégré à l'abonnement X sans surcoût
- Collecte des informations à jour depuis X
- Moins biaisé politiquement que sa concurrence
