Haine en ligne : un rapport étrille l'algorithme de Facebook favorisant la visibilité des utilisateurs radicaux

24 octobre 2021 à 18h00
20
© Frederic Legrand - COMEO / Shutterstock.com
© Frederic Legrand - COMEO / Shutterstock.com

Nouveau coup dur pour Facebook. Alors que l’entreprise peine à s’extirper des récents scandales, de nouvelles révélations viennent accabler le réseau social.

Selon plusieurs médias américains, l’entreprise de Mark Zuckerberg avait conscience de la radicalisation de nombreux utilisateurs et utilisatrices et de leur mise en avant, mais n’a pas réagi.

Facebook épinglé pour son inaction

De nouvelles révélations viennent accabler Facebook. Vendredi 22 octobre, plusieurs médias américains ont publié des articles sur le rôle du réseau social dans la polarisation de la vie politique aux États-Unis. D’après ces nouveaux documents, Facebook avait conscience de la radicalisation de nombreux utilisateurs et du flot de désinformation lors de l'élection présidentielle américaine de 2020, mais n’a pas réagi. Et cette inaction a conduit à plusieurs incidents, parfois mortels.

Par exemple, début novembre 2020, quelques jours après le scrutin, un analyste a fait savoir à ses collègues que 10 % des contenus politiques américains étaient des messages clamant que le vote avait été truqué. Un discours sans fondement martelé par Donald Trump et qui a conduit aux émeutes du Capitole le 6 janvier 2021, où plusieurs personnes ont trouvé la mort. Suite aux événements, Twitter et plusieurs autres réseaux sociaux ont banni l’ex-président et les mouvements extrémistes impliqués. Facebook avait suivi également, mais le problème aurait pu être mieux anticipé. C’est un peu le fil rouge des révélations de ces dernières semaines : le géant américain avait conscience de la situation mais a préféré l'ignorer, en grande partie. 

Quand l’algorithme favorise les groupes radicaux 

Un second lanceur d’alerte, également ancien employé de l’entreprise, accuse les dirigeants de faire passer les profits avant la modération des contenus problématiques. Dans des documents transmis aux médias américains, il relatait les propos de Tucker Bounds au sujet de l’interférence de la Russie dans les élections présidentielles de 2016 via sa plateforme. Le membre de l’équipe de communication aurait déclaré :

« Ce sera un feu de paille. Des élus vont râler. Et d'ici quelques semaines, ils seront passés à autre chose. En attendant on imprime de l'argent au sous-sol et tout va bien. »

Plus accablant, il assure que les managers de Facebook sapaient régulièrement les efforts de lutte contre les discours haineux et contre la désinformation. Les cadres craignaient en effet de mettre en colère Donald Trump et ses partisans, et par conséquent de perdre l’attention des utilisateurs, essentielle pour ses profits. 

« Le voyage de Carol vers QAnon », un rapport interne envoyé à la SEC (l'autorité boursière), évoque également la création d’un faux compte par un chercheur payé par l’entreprise pour étudier la polarisation de ses utilisateurs. D’après lui, dès l’été 2019, cette fausse mère de famille conservatrice était exposée à un « torrent de contenus extrêmes, conspirationnistes et choquants », dont des groupes liés à QAnon. Sans que le compte ne donne jamais d’intérêt aux groupes de cette mouvance, l'algorithme poussait continuellement leurs contenus, qui enfreignaient pourtant les règles de la plateforme. Facebook aurait conduit plusieurs expériences similaires ces dernières années, toujours avec le même résultat : les groupes extrémistes étaient largement mis en avant.

Face à cette nouvelle vague de révélations, Facebook a publié un communiqué et se défend : « La responsabilité de l’insurrection revient à ceux qui ont enfreint la loi et à ceux qui les y ont incités ». L’entreprise rappelle également les « mesures additionnelles » prises pour lutter contre la désinformation, pour épurer sa plateforme et soutenir le processus démocratique. Pour rappel, Facebook souhaiterait prochainement changer de nom la semaine prochaine. De quoi peut-être faire oublier les déboires actuels du groupe.

Noëllie Mautaint

Fan absolue de jeux vidéo bercée par les RPG et les jeux à forte narration. Constituée à 80% de jeux vidéo, mangas, séries, cinéma, livres, musique et nouvelles technologies. Attention, peut mordre si...

Lire d'autres articles

Fan absolue de jeux vidéo bercée par les RPG et les jeux à forte narration. Constituée à 80% de jeux vidéo, mangas, séries, cinéma, livres, musique et nouvelles technologies. Attention, peut mordre si on critique à tort Final Fantasy X et XIII, Kingdom Hearts, The Last of Us, Life is Strange ou Avatar The Last Airbender.

Lire d'autres articles
Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (20)

nicgrover
Normal, l’anormalité est son fond de commerce…<br /> FB change de nom et le billet vert d’effigie…<br />
jvachez
Facebook est aux USA.<br /> C’est agir qui est anormal, contrairement à la France aux USA il y a une totale liberté d’expression.
Cynian90
Dur de juger avec des arguments aussi brouillons, il est tout à fait possible que :<br /> l’algorithme de Facebook favorise ce que les gens aiment ou les fait réagir,<br /> Facebook ne voulait pas faire d’ingérence (créer un délit d’opinion pour les gens de droites)<br /> Instagram fait complexer les jeunes filles, ou est-ce le temps passé sur leur smartphone ? Ou tout simplement les photos de bonnes qualité en nombres et accessibles ? Si on supprimait Facebook et Instagram, cela ferait-il une différence pour ces filles, qui remplaceraient leur absence avec quelque chose de similaire ?<br /> D’où la défense de Facebook… loin de moi l’envie de les défendre, mais y’a pas grand chose à mordre pour l’instant.
HunterAlex
Emet une critique sur la religion Catholique et on verra s’il y a une totale liberté d’expression.
Francis7
Il y a des ingénieurs de Facebook qui ont donné leur démission accusant Facebook de se faire de l’argent avec les propos haineux en général.<br /> Un autre a motivé sa décision en disant que Facebook était dangereux pour la société.<br /> Je suis d’accord avec ces arguments mais concernant les réseaux sociaux en général, pas que Facebook.<br /> Avec la démocratisation d’internet, les gens viennent faire tout et n’importe quoi.<br /> Comment rendre utiles les inutiles ?<br /> La société a un problème aussi, c’est sociétal.<br /> …
keyplus
facebook c est juste une loupe des problemes de la societe ca creer pas le probleme
Wen84
Qu’est ce que tu raconte, les catholiques c’est meme pas la première religion là bas.
HunterAlex
Francis7:<br /> ingénieurs de Facebook qui ont donné leur démission accusant Facebook de se faire de<br /> Justement, il y a deux fois plus de Protestants que de Catholiques.<br /> Quoiqu’il en soit, la censure est bien présente aux Etats-Unis, notamment vis-à-vis des créationnistes qui sont très présents.
Wen84
La censure existe partout bien sur. Cela dit, les Etats Unis sont suffisamment grand pour laisser les gens choisir leur propre poison pour le meilleur ou pour le pire, selon le point de vue.
benben99
Facebook c est un egout a ciel ouvert.<br /> La plupart du contenu est des fake news ou des trucs insignifiants
Doss
Tout les algos on le même problème, plus il y engagement plus ce monte de les algos (logic) mais malheureusement plus c’est radicla plus il y a de l’engagement car ça fait réagir.<br /> Même chose pour les algos de recherche avec les contenus putes a clics.
philouze
Il n’y a pas 6 mois, des commentateurs critiquaient cette hypothèse, en mode «&nbsp;les RS ne sont que ce que nous y mettons&nbsp;» (pour simplifier)
zagobel
«&nbsp;'algorithme de Facebook favorisant la visibilité des utilisateurs radicaux&nbsp;» ???<br /> Je me suis fait ban 3j par FB parce que j’avais posté que les Français étaient des porcs (sic) suite à un article sur la saleté de Paris.<br /> J’ai contesté. Ils n’ont pas cédé
fb3687_1_1
Bonjour. Je vais me répéter, mais toutes les explications données pour enfoncer ou excuser Facebook sont pour moi à côté de la plaque.<br /> Il faut quand revenir au pourquoi du comment de sa création : cet outil a été créé par un type qui venait de se faire larguer et qui pour «&nbsp;punir&nbsp;» les filles de son campus, a décidé de créer un réseau où on pourrait les noter ! Quand on a compris à quel type de personnalité malsaine on a affaire, on a compris tout le reste. MZ n’a aucune morale et aucun état d’âme, et cela n’a rien à voir avec la liberté d’expression aux États Unis.
Francis7
@fb3687_1_1<br /> J’allais le dire. Cf le film «&nbsp;The Social Network&nbsp;».<br /> Le mot de la fin :<br /> Vous n’êtes pas un sale con, mais vous vous donnez un mal fou pour l’être !<br /> A méditer.<br /> MZ aurait un syndrôme d’Asperger. Une forme d’autisme de haut niveau.
Martin_Penwald
Ils ont bon dos, les gens atteints du syndrome d’Asperger. On dit la même chose de Musk. Ça n’est pas une excuse pour se comporter comme un canard.
fb3687_1_1
Tout à fait d’accord avec Martin. Je bosse avec des enfants Asperger. Et pour moi, Zuckerberg, comme Musk ont certains troubles de la personnalité, mais qui relèvent de la psychiatrie (dus à leur histoire perso et autres) et non d’un quelconque syndrome.<br /> Et pour répondre à Francis, je trouve que ce film est très gentil et ne reflète pas la réalité du personnage. C’est une fiction.
pecore
Donner des notes aux filles après avoir été largué est assez petit en effet, mais cela démontre un esprit revanchard et mesquin, pas une absence totale de morale. D’ailleurs il me semble que c’est un passe temps assez répandu chez les soi-disant mâles alpha, en particulier au Etats-Unis.<br /> Pour le sujet en question, je déteste le principe même de Facebook et bien sur je ne m’en sert pas, mais je me rappelle qu’encore aujourd’hui beaucoup trouvent scandaleux, après le ban de Trump, que des entreprises privées puissent ainsi décider qui peut parler ou non et quels messages sont admissibles ou pas.<br /> Alors en gros, les réseaux sociaux font des bans ou suppriment des messages, on appelle ça de la censure mais s’ils ne font rien on les accuse de complaisance. Décidez vous, les gars.
Voir tous les messages sur le forum
Haut de page

Sur le même sujet