Le Wall Street Journal a détaillé dans une enquête les exceptions mises en place par Facebook pour la modération de posts venant de célébrités, sportifs et politiciens.
Ce programme, appelé XCheck, est censé permettre aux publications de personnes et organisations célèbres d'avoir droit à une deuxième modération humaine. Mais les documents obtenus par le journal révèlent en réalité un système de passe-droits.
Un programme créé pour protéger Facebook
Facebook avait communiqué sur le programme XCheck, ou Cross Check, dès 2018 suite à la diffusion d'une enquête par Channel 4 News. Déjà à l'époque, l'entreprise expliquait l'existence de ce programme par la volonté d'éviter de supprimer par erreur des publications de célébrités, gouvernements et organismes de presse. Ces posts avaient donc droit à une deuxième modération, afin de vérifier que leur contenu était bien en règle.
Cependant, une enquête du Wall Street Journal montre une réalité bien différente. Loin de vouloir simplement s'assurer de ne pas supprimer des publications d'activistes détaillant les propos haineux qu'ils reçoivent, Facebook justifie l'emploi de son programme par une volonté d'éviter un scandale suite à la suppression d'un post.
Les documents internes obtenus par le journal montrent que 5,8 millions de personnes étaient protégées par XCheck en 2020 et que seulement 10 % des publications censées être vérifiées par les modérateurs du programme l'étaient réellement. Cette modération laxiste a permis à certains des utilisateurs de poster de fausses informations, des menaces de violence, voire du revenge porn, visibles par des millions d'utilisateurs.
Des changements en cours d'après le porte-parole de l'entreprise
Andy Stone, le porte-parole de l'entreprise, s'est fendu d'un thread sur Twitter pour répondre aux allégations du journal. Dans celui-ci, il défend l'existence de ce programme, niant qu'il soit utilisé pour une justice à deux vitesses. Il a cependant ajouté que Facebook était au courant que le programme devait être amélioré. D'après lui, des changements sont « déjà en cours dans l'entreprise », portés par de « nouvelles équipes et de nouvelles ressources » pour arriver à « une refonte du processus ».
En plus d'être en possession du Wall Street Journal, certains des documents cités dans l'article auraient été envoyés à la Securities and Exchange Commission ainsi qu'au Congrès par un lanceur d'alerte.
Sources : The Wall Street Journal, The Verge, Ars Technica
Arrivée dans la rédaction par le jeu vidéo, c’est par passion pour le développement web que je me suis intéressée plus largement à tout ce qui gravite autour de notre consommation des outils numériques, des problématiques de vie privée au logiciel libre en passant par la sécurité. Fan inconditionnelle de science-fiction toujours prête à expliquer pendant des heures pourquoi Babylon 5 est ma série préférée.
Lire d'autres articles
