Afin d’éviter les modérateurs sur Facebook, les antivax remplacent des mots par des émojis, bien plus difficiles à détecter par les algorithmes du géant américain.
La diffusion de fausses informations est un fléau pour Facebook depuis de nombreuses années. Si le réseau social a multiplié les efforts pour combattre ce phénomène en 2020 lors du début de la pandémie de Covid-19, la bataille semble encore loin d’être gagnée.
Émoji carotte, pizza ou cupcake
En effet, le média spécialisé Bloomberg a enquêté sur un phénomène de plus en plus récurrent au sein de la communauté antivax sur Facebook : l’usage des émojis pour remplacer des mots susceptibles d’attirer l’attention des algorithmes. Sur le réseau social, de très nombreuses personnes se regroupent et estiment que la maladie ou le décès de l’un de leurs proches sont dus au vaccin, bien que des études aient prouvé que le Covid-19 était bien plus meurtrier que celui-ci. Dans ces groupes, on retrouve tout un tas d’émojis en lien avec la nourriture au lieu du terme « vaccin ».
Parfois, les membres affirment que leurs proches ont pris quatre ou cinq « tranches » de vaccins Pfizer ou Moderna, en utilisant des émojis représentant des pizzas, des cupcakes ou des fruits pour exprimer leur point de vue. L’usage d’un émoji carotte est également très répandu chez les antivax, en plus d’émojis plus équivoques comme la seringue, mais pas forcément plus détectables par les algorithmes.
D’ailleurs, ce problème avait auparavant déjà fait surface sur la toile, avec des personnes tentant de dissimuler des propos racistes avec des émojis banane ou singe.
Les IA sont entraînées sur du texte, pas des émojis
Le problème réside dans le fait que les intelligences artificielles utilisées pour modérer le contenu sont principalement entraînées sur des mots et du texte. « Malgré une compréhension impressionnante du fonctionnement du langage, les modèles de langage de l'IA ont vu très peu d'émojis. Ils sont entraînés sur un corpus de livres, d'articles et de sites web, et même sur l'intégralité du Wikipédia anglais, mais ces textes comportent rarement des émojis », explique Rose Kirk, experte sur le sujet, à la BBC.
L’usage d’émojis pour contourner la surveillance est présent dans d’autres domaines, ils sont par exemple très courants dans les discussions entre dealers de drogues et clients afin de ne pas énoncer des mots en lien avec les substances.
