Alors qu'un nombre croissant de voix s'élevaient, xAI a finalement cédé à la pression. Sur Grok, il n'est plus possible de générer des deepfakes de personnes dénudées.
Depuis plusieurs semaines, des utilisateurs de X.com profitent des garde-fous très limités sur Grok pour demander à l'intelligence artificielle (IA) de retoucher des photographies de femmes, parfois mineures, afin de les dénuder. Jusqu'alors, xAI blâmait avant tout les auteurs de ces visuels, plutôt que sa technologie. Mais elle a finalement fait volte-face.
Plus de génération d'images pour ceux qui ne payent pas
« Nous avons mis en place des mesures techniques afin d'empêcher le compte Grok de permettre la modification d'images de personnes réelles portant des vêtements révélateurs, tels que des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants », indique la start-up dans un communiqué.
De même, « la création d'images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais disponibles que pour les abonnés payants », poursuit-elle. Concrètement, vous ne pourrez plus générer d'images via X.com, il faudra passer par l'application Grok.
Cette fonctionnalité a suscité un véritable tollé, poussant la France, le Royaume-Uni, l'Union européenne (UE) et l'Inde à lancer des enquêtes contre le réseau social. Mais d'autres ont été bien plus loin.
Pression réglementaire immense
La Malaisie et l'Indonésie, qui disposent de réglementations ultra strictes vis-à-vis de la pornographie, ont tout bonnement suspendu la plateforme. Et la pression continuait à grimper : l'annonce de xAI est justement intervenue quelques heures après que le procureur général de Californie, Rob Bonta, ait ouvert une investigation contre l'entreprise pour sa « production à grande échelle d'images intimes deepfake non consenties ».
« La décision de xAI de créer et d'héberger un terrain fertile pour les prédateurs afin de diffuser des deepfakes sexuellement explicites non consensuels générés par l'IA, y compris des images qui déshabillent numériquement des enfants, est ignoble », a, pour sa part, réagi Gavin Newsom, gouverneur de la Californie.
En amont, beaucoup ont pointé du doigt Google et Apple, qui n'ont pas pris de mesures pour supprimer X.com de leur magasin d'applications respectifs, alors qu'elle allait clairement à l'encontre de leurs conditions d'utilisation.
