L'Indonésie et la Malaisie sont passées à l'acte. Grok est désormais bloqué dans les deux pays sud-asiatiques à cause de la génération d'images pornographiques non consenties. Et d'autres pays ont l'intelligence artificielle (IA) d'Elon Musk dans le viseur.
Directement intégré à X.com, Grok dispose d'un mode pour adulte depuis plusieurs mois déjà. Et il y a peu, xAI a mis à jour sa fonctionnalité de génération d'images pour la rendre encore plus accessible via le réseau social. Depuis, de nombreux utilisateurs en profitent pour demander au chatbot de créer des images à caractère pornographique, dans la plupart du temps non consenties, de femmes et de mineurs.
xAI blâme les utilisateurs
Consciente du problème, xAI préfère accuser les internautes à l'origine des requêtes, plutôt que d'apporter davantage de garde-fous à sa technologie. Mais face au tollé, la firme a malgré tout annoncé qu'elle limiterait la génération d'images aux abonnés payants. Une décision pas assez concrète selon l'Indonésie et la Malaisie, deux pays disposant de lois ultra strictes vis-à-vis de la pornographie.
« Le gouvernement considère les deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a lancé la ministre indonésienne de la Communication et des Affaires numériques, Meutya Hafid, dans un communiqué publié ce samedi 10 janvier.
Elle a également qualifié l'utilisation abusive de l'IA pour produire de la pornographie fictive de « violence numérique ». En conséquence, Grok n'est, pour le moment, plus accessible dans le pays.
- Intégré à l'abonnement X sans surcoût
- Collecte des informations à jour depuis X
- Moins biaisé politiquement que sa concurrence
D'autres pays menacent xAI
Même son de cloche en Malaisie, où la Commission des communications et du multimédia estime que les réponses « insuffisantes » de X.com « reposent principalement sur des mécanismes de signalement initiés par les utilisateurs et ne traitaient pas les risques inhérents à la conception et au fonctionnement de l'outil d'IA ».
« En conséquence, cette restriction est imposée à titre préventif et proportionné pendant que les procédures juridiques et réglementaires sont en cours. L'accès à Grok restera restreint jusqu'à ce que des mesures de protection efficaces soient mises en place, notamment pour empêcher la diffusion de contenus impliquant des femmes et des enfants », a-t-elle fait savoir.
Et ce n'est pas tout. Plusieurs autres pays ont lancé une enquête contre l'entreprise ; c'est notamment le cas de la France, du Royaume-Uni, l'Inde et l'Union européenne (UE)
