Des milliers d’utilisateurs d’Instagram et de Facebook affirment avoir vu leurs comptes suspendus par Meta, accusés à tort de contenus liés à l’exploitation sexuelle d’enfants. L'entreprise, elle, reste très évasive sur le sujet.
- Des milliers d'utilisateurs d'Instagram et Facebook ont vu leurs comptes suspendus, accusés à tort de contenus inappropriés.
- Meta reste évasive sur ces suspensions, mais a reconnu en privé des erreurs de modération en Corée du Sud.
- L'algorithme de modération de Meta, basé sur l'IA, est pointé du doigt pour ces suspensions injustifiées.
C'est ce que révèle une vaste enquête menée par la BBC. Le média britannique a échangé avec plus de 100 personnes affectées, tandis qu'une pétition contre ce phénomène a déjà recueilli plus de 27 000 signatures. En outre, des milliers de messages sur Reddit et d'autres réseaux sociaux évoquent ce sujet.
Des dommages pour les personnes concernées
Concrètement, Meta aurait suspendu ou banni des comptes en les accusant de manière infondée de partager ou promouvoir des contenus liés à l’exploitation sexuelle d’enfants. Les dommages causés sont multiples et parfois lourds. Certains utilisateurs ont perdu l’accès à des souvenirs personnels accumulés pendant des années, d’autres ont vu leur activité professionnelle brutalement interrompue, notamment ceux qui utilisaient Instagram comme vitrine ou source de revenus.
Les témoignages recueillis font également état de détresse psychologique : sentiment d’isolement, insomnies, perte de confiance voire crainte d’être durablement stigmatisé. « J’ai perdu d’innombrables heures de sommeil… C’était horrible, sans parler de cette accusation sur mes épaules », confie un utilisateur, soulagé d’avoir récupéré son compte mais toujours marqué par l’expérience.
De son côté, la firme de Mark Zuckerberg n'a pas souhaité commenté cette affaire, et a simplement envoyé un message-type adressé aux utilisateurs concernés. « Nous sommes désolés de nous être trompés, et que vous n’ayez pas pu utiliser Instagram pendant un certain temps », peut-on y lire. Cependant, en Corée du Sud, un responsable parlementaire a affirmé que Meta avait reconnu en privé la possibilité de suspensions injustifiées similaires.
De même, Meta a récemment reconnu l'existence d'un problème avec les groupes Facebook : inoffensifs, nombre d'entre eux ont été bannis par la plateforme sans raison.
La modération par IA en cause ?
En cause, toujours selon la BBC, le modérateur automatique de Meta, basé sur l’intelligence artificielle (IA), qui aurait faussement étiqueté des utilisateurs comme auteurs d’abus sexuels sur mineurs. Selon Carolina Are, chercheuse spécialisée dans les réseaux sociaux au Centre for Digital Citizens de l'Université de Northumbria, plusieurs facteurs pourraient expliquer ces suspensions.
Elle cite des modifications récentes des règles de Meta, ainsi qu'un algorithme de modération opaque dont les décisions restent incompréhensibles pour les utilisateurs, et surtout, une procédure d’appel largement inefficace, qui laisse peu de chance de se défendre en cas d’erreur.
« Nous prenons des mesures contre les comptes qui enfreignent nos règles, et les personnes concernées peuvent faire appel si elles estiment qu’il y a eu une erreur », commente simplement Meta. Selon ses dires, elle exploite un mélange de modération humaine et d’IA pour détecter les comportements suspects. Cela comprend les signalements d’un compte adulte par un compte adolescent ou les recherches répétées de contenus jugés « dangereux ».
- Des interactions faciles par de nombreux canaux (publications, Stories, messagerie, etc.)
- Un réseau social adapté aux préférences des utilisateurs dans la gestion de leur compte
- De nombreux types de contenus à créer, à partager et à consulter
Source : BBC
