Adoré des jeunes, TikTok n'en finit pas de battre des records avec plus de 1 milliard d'utilisateurs dans le monde. Amnesty International alerte toutefois sur son mode de fonctionnement qui serait nocif. L'algorithme étant capable de plonger l'utilisateur dans une spirale dangereuse.
Le réseau social TikTok, très prisé par les jeunes, soulève des préoccupations parmi les autorités gouvernementales et autres organisations indépendantes.
Un rapport d’enquête produit par l’ONG Amnesty International décrit un système toxique et addictif pour les enfants, susceptible de les entraîner dans des « spirales de contenus potentiellement dangereux ».
Un réseau social nuisible pour les enfants ?
De par son excellente ergonomie, TikTok parvient à conserver l’attention des utilisateurs et utilisatrices comme aucun autre réseau avant lui. Une approche qui favorise l’addiction, certaines études comparant l’impact sur le cerveau à celui d’un joueur compulsif. Mais des critiques croissantes ciblent également l’algorithme de l’application. Une personne fragile qui manifesterait par exemple un intérêt pour des vidéos en lien avec la santé vidéo se verrait ainsi rapidement proposer des contenus qui encouragent les pensées dépressives, l’automutilation voire le suicide.
Pour parvenir à cette conclusion, l’organisation a mis en place plusieurs comptes fictifs d’enfants de 13 ans, certains étant contrôlés par des intelligences artificielles et d’autres manuellement par les équipes enquêtant sur le sujet. On apprend alors qu’après cinq ou six heures passées sur la plateforme, près d’une vidéo sur deux aborde la santé mentale de manière nocive. Et cette mécanique semble s’accélérer lorsque l’utilisateur consulte manuellement des vidéos qu’il a déjà visionnés. En moins de 20 minutes, le fil d’actualité personnalisé est tout simplement « submergé » par ces contenus.
Une redondance au centre des préoccupations
L’étude souligne par ailleurs comment cette redondance des contenus figure au cœur de la stratégie économique mise en place par TikTok. L’algorithme retient l’utilisateur en lui proposant un flux incessant de vidéos, permettant ainsi de recueillir un maximum de données. Ces données sont ensuite exploitées dans des campagnes publicitaires qui ciblent précisément ces mêmes contenus. Une sorte de spirale sans fin se met alors en place avec le risque de submerger l’utilisateur.
« Notre étude montre que TikTok expose peut-être les enfants et les jeunes à de graves risques pour la santé en persistant dans son modèle économique actuel, qui vise davantage à maintenir les yeux des utilisateurs et utilisatrices rivés sur la plateforme plutôt qu’à respecter le droit à la santé des enfants et des jeunes », explique Lisa Dittmer, chercheuse pour Amnesty Tech.
Source : Amnesty International
