YouTube accusé de recommander des vidéos d’enfants dans des poses suggestives

Mathieu Grumiaux Contributeur
21 février 2019 à 11h01
0
Youtube

Le site est à nouveau accusé de ne pas suffisamment modérer les contenus publiés et de laisser passer des vidéos et des commentaires frisant la pédopornographie. YouTube affirme de son côté mettre tout en oeuvre pour détecter et supprimer les publications contrevenant à ses conditions d'utilisation.

Droit de réponse envoyé par YouTube :
« Tout contenu - y compris les commentaires - qui met en danger des mineurs est odieux et nous avons des règles claires les interdisant sur YouTube. Nous avons immédiatement pris les mesures correspondantes, en supprimant des chaînes et des comptes, en signalant toute activité illégale aux autorités et en désactivant les commentaires sur des dizaines de millions de vidéos incluant des mineurs. Il reste encore des choses à faire, et nous continuons à travailler pour améliorer notre dispositif et être encore plus rapide pour appréhender ces abus ».

YouTube est une nouvelle fois confronté à des critiques sur sa politique de modération. Un utilisateur de la plateforme, Matt Watson, a publié un article sur Reddit où il y explique avoir trouvé des dizaines de vidéos d'enfants dans des poses suggestives. Il ajoute que les commentaires sous ces vidéos contiennent régulièrement des propos douteux, voire des liens menant à des sites pédophiles. TechCrunch, à l'origine de l'enquête, n'a pas pu confirmer ce dernier point.

Un « cercle de pédophilie » mis en place par les algorithmes

Le créateur ne s'est pas arrêté là et a démontré que l'algorithme de recommandations de YouTube poussait les utilisateurs vers ces vidéos. Un utilisateur regardant deux vidéos de jeunes filles en bikini (ce qui est toléré par la plateforme) va se voir suggérer une autre vidéo d'une fête d'adolescentes autour d'une piscine.

Une fois avoir cliqué sur ce lien, les recommandations de YouTube vont pousser automatiquement différentes vidéos de jeunes filles pré-pubères, dans des situations et des poses équivoques. Les commentaires quant à eux sont moins subtils, entre emojis sexuellement suggestifs et propos abjects. Matt Watson appelle ce procédé un « cercle de pédophilie » qui permet aux personnes déviantes de se voir proposer un contenu sur-mesure.

Si certains commentaires sont signalés comme supprimés, ce qui montre qu'a la fois les utilisateurs et l'IA ont opéré une modération, le vidéaste affirme que certaines des vidéos contenaient des publicités et étaient donc monétisées.

Une modération quasi-impossible au vu du volume publié

Contacté, YouTube se réfugie derrière ses règles d'utilisation. Le géant de la vidéo indique dans une déclaration mettre tout en oeuvre pour lutter rapidement et efficacement contre ce type de contenus et de propos délictueux.

Un porte-parole de l'entreprise note toutefois que les vidéos repérées par Matt Watson sont celles d'enfants ou d'adolescents effectuant des tâches quotidiennes. Il pointe le problème que rencontre YouTube, se reposant majoritairement sur des algorithmes pour accepter ou refuser un contenu.

L'intelligence artificielle ne prend pas en compte le contexte d'une vidéo et peut y voir une scène tout à fait banale quand certains éléments malsains mettraient la puce à l'oreille d'un modérateur humain. YouTube indique avoir 10 000 employés chargés de surveiller le contenu publié.

La tâche parait toutefois impossible. Chaque minute, 400 heures de vidéo sont publiées sur YouTube et l'entreprise n'aura d'autre choix que d'améliorer rapidement ses processus de détection automatique pour régler la question.
Modifié le 21/02/2019 à 16h22
17 réponses
0 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

De nouveaux modèles climatiques ont été créés... et la situation est pire que prévue
La dernière mise à jour de Windows 10 causerait des pannes de carte réseau
Stallman quitte la Free Software Fundation après la divulgation d'emails évoquant l'affaire Epstein
Ça y est, le Fold est disponible en France... pour 1,6 SMIC (net).
Un démantèlement des GAFA ?
Des défauts de fabrication découverts sur six réacteurs nucléaires en activité en France
En Californie, Donald Trump tente d’annuler la loi sur les limites d'émissions de CO2
Le TGI de Paris invalide la clause de non-revente de jeux dématérialisés de Steam
Avec sa Model S, Tesla aurait battu le record de la Porsche Taycan sur le circuit de Nürburgring
iPhone 11 / 11 Pro : les premiers tests sont en ligne, 2019 est-il un bon cru ?

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top