Une enquête menée par nos confrères de la RTBF montrent comment les algorithmes peuvent vite faire monter du contenu toxique. Au point de constituer un danger pour la jeunesse ?
On le sait, certains mouvements sociaux extrêmement marginaux ont pu connaître un certain degré de massification à cause d'algorithmes d'applications telles que TikTok ou bien X. Mais si l'idée est maintenant assez claire dans la tête de beaucoup de gens, on sait encore assez peu comment, dans le détail, les effets délétères des algorithmes surviennent. Une expérimentation de la RTBF nous éclaire aujourd'hui un peu sur ce phénomène.
Comment un jeune homme naïf peut vite devenir masculiniste
Comment savoir comment un jeune homme peut voir son esprit vite transformé par les contenus toxiques remontés par les réseaux sociaux ? Nos confrères de la RTBF ou voulu tenter de répondre à la question en créant au total cinq faux profils de jeunes hommes grâce à l'IA, jeunes hommes intéressés par la musculation, les thématiques de la masculinité, ainsi que les façons de plaire aux filles. Ces IA ont ensuite commencé à scroller sur TikTok, avec ces centres d'intérêts en charge de guider la navigation.
L'observation qui en ressort est l'apparition d'une pente similaire à chaque fois. L'algorithme commence par proposer des vidéos centrées autour de la musculation. Au bout d'une dizaine de minutes de navigation, ce sont cette fois des vidéos de motivation qui sont petit à petit proposées, et dont l'appréciation est notée par l'algorithme du fait des likes ou du temps de visionnage. 20 minutes plus tard encore, ce sont des vidéos encore plus dures qui apparaissent.
Vers une montée d'un danger terroriste ?
Cette fois, le contenu masculiniste pointe son nez, avec des vidéos promouvant la « puissance » chez l'homme, et une différenciation avec des femmes ne passant pas par les mêmes épreuves que les hommes. Le contenu masculiniste devient alors de plus en plus présent, et après une heure à faire défiler des vidéos, l'IA (représentant le jeune homme) propose du contenu masculiniste dur. Le jeune homme est alors appelé à se sauver dans un monde affligé d'une masculinité en crise, avec des contenus sexistes et homophobes qui deviennent courants.
Une expérience qui ne rend pas optimiste. Et ce surtout qu'on sait que, si les violences dans la réalité issues de la sphère « masculiniste » n'ont pas encore eu lieu chez nous (même si plusieurs projets d'attentats ont été déjoués par les autorités), de l'autre côté de l'Atlantique, la violence est déjà là. Aux États-Unis et au Canada, plusieurs attentats ont déjà eu lieu ces dernières décennies, faisant au total des dizaines des victimes. Faut-il sonner l'alarme ?
Source : RTBF
