YouTube accusé de recommander des vidéos d’enfants dans des poses suggestives

21 février 2019 à 11h01
0
Youtube

Le site est à nouveau accusé de ne pas suffisamment modérer les contenus publiés et de laisser passer des vidéos et des commentaires frisant la pédopornographie. YouTube affirme de son côté mettre tout en oeuvre pour détecter et supprimer les publications contrevenant à ses conditions d'utilisation.

Droit de réponse envoyé par YouTube :
« Tout contenu - y compris les commentaires - qui met en danger des mineurs est odieux et nous avons des règles claires les interdisant sur YouTube. Nous avons immédiatement pris les mesures correspondantes, en supprimant des chaînes et des comptes, en signalant toute activité illégale aux autorités et en désactivant les commentaires sur des dizaines de millions de vidéos incluant des mineurs. Il reste encore des choses à faire, et nous continuons à travailler pour améliorer notre dispositif et être encore plus rapide pour appréhender ces abus ».

YouTube est une nouvelle fois confronté à des critiques sur sa politique de modération. Un utilisateur de la plateforme, Matt Watson, a publié un article sur Reddit où il y explique avoir trouvé des dizaines de vidéos d'enfants dans des poses suggestives. Il ajoute que les commentaires sous ces vidéos contiennent régulièrement des propos douteux, voire des liens menant à des sites pédophiles. TechCrunch, à l'origine de l'enquête, n'a pas pu confirmer ce dernier point.

Un « cercle de pédophilie » mis en place par les algorithmes

Le créateur ne s'est pas arrêté là et a démontré que l'algorithme de recommandations de YouTube poussait les utilisateurs vers ces vidéos. Un utilisateur regardant deux vidéos de jeunes filles en bikini (ce qui est toléré par la plateforme) va se voir suggérer une autre vidéo d'une fête d'adolescentes autour d'une piscine.

Une fois avoir cliqué sur ce lien, les recommandations de YouTube vont pousser automatiquement différentes vidéos de jeunes filles pré-pubères, dans des situations et des poses équivoques. Les commentaires quant à eux sont moins subtils, entre emojis sexuellement suggestifs et propos abjects. Matt Watson appelle ce procédé un « cercle de pédophilie » qui permet aux personnes déviantes de se voir proposer un contenu sur-mesure.

Si certains commentaires sont signalés comme supprimés, ce qui montre qu'a la fois les utilisateurs et l'IA ont opéré une modération, le vidéaste affirme que certaines des vidéos contenaient des publicités et étaient donc monétisées.

Une modération quasi-impossible au vu du volume publié

Contacté, YouTube se réfugie derrière ses règles d'utilisation. Le géant de la vidéo indique dans une déclaration mettre tout en oeuvre pour lutter rapidement et efficacement contre ce type de contenus et de propos délictueux.

Un porte-parole de l'entreprise note toutefois que les vidéos repérées par Matt Watson sont celles d'enfants ou d'adolescents effectuant des tâches quotidiennes. Il pointe le problème que rencontre YouTube, se reposant majoritairement sur des algorithmes pour accepter ou refuser un contenu.

L'intelligence artificielle ne prend pas en compte le contexte d'une vidéo et peut y voir une scène tout à fait banale quand certains éléments malsains mettraient la puce à l'oreille d'un modérateur humain. YouTube indique avoir 10 000 employés chargés de surveiller le contenu publié.

La tâche parait toutefois impossible. Chaque minute, 400 heures de vidéo sont publiées sur YouTube et l'entreprise n'aura d'autre choix que d'améliorer rapidement ses processus de détection automatique pour régler la question.
Modifié le 21/02/2019 à 16h22
17
0
Partager l'article :
Voir tous les messages sur le forum

Les actualités récentes les plus commentées

Pour le patron de Take Two (GTA, BioShock), Stadia est une déception
Microsoft bloque la mise à jour de Windows 10 (mai 2020) sur de nombreux appareils
La Maison-Blanche s'en prend aux pays qui taxent les géants numériques américains
Microsoft licencie des dizaines de journalistes, remplacés par des robots
Citroën prépare une nouvelle berline hybride haut de gamme pour 2021
Le plus gros avion électrique de la planète a réussi son premier vol
« Il est temps de briser Amazon » : quand Elon Musk se paie Jeff Bezos
L'Allemagne impose une borne de recharge pour véhicules électriques dans chaque station-service
Gaia-X : le projet européen de cloud computing visant à concurrencer la Silicon Valley se précise
La Poste déploie l'Identité Numérique, un service pour se connecter à 700 services avec un identifiant unique
scroll top