Des dessins animés sur YouTube contiennent des messages d'incitation au suicide

le 27 février 2019 à 10:53
 0
YouTube Kids

Des parents ont découvert dans un dessin animé proposé par YouTube des passages dérangeants simulant une tentative de suicide. Cette affaire illustre une nouvelle fois les problèmes de modération rencontrés par la plateforme de Google.

Droit de réponse de YouTube :
« Nous travaillons sans relâche pour que YouTube ne soit pas utilisé dans le but d'encourager les comportements dangereux. Nous appliquons des règles strictes interdisant les vidéos encourageant l'automutilation. Nous nous appuyons sur le signalement des utilisateurs et des outils de détection automatisés afin d'identifier rapidement ces contenus et les soumettre à nos équipes pour une vérification humaine. Chaque trimestre, nous supprimons des millions de vidéos et chaînes qui enfreignent nos politiques. La majorité de ces vidéos sont supprimées avant même qu'elles ne soient visualisées. Nous nous efforçons d'améliorer nos systèmes dans le but de supprimer encore plus rapidement ces contenus illicites. »

Une mère de famille qui souhaite rester anonyme a fait une découverte absolument sordide en regardant des dessins animés avec son fils sur YouTube. Après sept minutes, le dessin animé s'est interrompu pour montrer un homme donnant des conseils sur la meilleure manière de se taillader les poignets. Après quelques secondes, le cartoon a repris comme si de rien n'était.

Un passage malsain caché dans un dessin animé tous publics


Dégoûtée par ce qu'elle a vu, la mère de famille a immédiatement supprimé l'application de ses appareils et interdit son utilisation à ses enfants. Elle a ensuite raconté son histoire sur le site Pedimom, un blog de conseils pédiatriques, pour alerter des dangers encourus par les plus jeunes à utiliser la version pour enfants de YouTube.

La vidéo incriminée a été retirée immédiatement de la plateforme de streaming, mais on peut constater que les premiers signalements ont débuté 8 mois auparavant.

YouTube modère souvent a posteriori, un problème pour le développement des plus jeunes


YouTube a répondu à la polémique dans un communiqué. Le service assure que « les vidéos signalées sont examinées manuellement 24 heures sur 24, 7 jours sur 7 et toutes les vidéos qui n'appartiennent pas à l'application sont supprimées ».

Ce n'est pas la première fois que la modération mise en place par le géant du streaming vidéo est pointée du doigt. Il y a quelques jours à peine, une sombre affaire de vidéos de jeunes filles dans des positions suggestives avait été dévoilée. Des annonceurs avaient aussitôt annoncés retirer leurs investissements publicitaires pour ne plus être associés à ces contenus contraires à leurs valeurs, malgré les décisions rapides prises par YouTube pour supprimer les contenus et les commentaires jugés indécents.

Mais pour Nadine Kaslow, ancienne présidente de l'Association américaine de psychologie, le simple retrait de ces vidéos n'est pas suffisant : « Pour les enfants qui ont été exposés, ils ont été exposés. Ils doivent être accompagnés désormais. C'est pourquoi cela ne va pas ». Elle rappelle que les plus jeunes pourraient également essayer de reproduire ce qu'ils ont vu dans les vidéos par curiosité.

Aux États-Unis, le suicide est la troisième cause de décès chez les jeunes de 10 à 24 ans, avec 157 000 passages à l'acte recensés chaque année.

Source : Ars Technica

Modifié le 27/02/2019 à 17h11
Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.

Dernières actualités

L'U.S. Air Force vient d’annoncer son projet d’intelligence artificielle baptisée « Skyborg », qui pourrait permettre de faire voler ses avions de chasse de façon autonome.
La banque d’investissement suisse UBS vient de dévoiler dans un long rapport que le secteur du voyage aérien pourrait bien être bousculé par les nouveaux acteurs de l’aérospatiale comme SpaceX, Blue Origin et Virgin Galactic d’ici une dizaine d’années.
25/03 | Espace
Apple tenait ce soir une conférence destinée à présenter ses nouveaux investissements dans les services. En plus d’Apple TV +, dont nous vous parlons en détail ici, la firme a également explicité son service d’abonnement à la presse baptisé Apple News +.
25/03 | Apple
Après le petit SUV Macan, c'est l'emblématique Porsche Cayenne qui devrait, lui aussi, céder à l'appel du moteur électrique dans un futur proche.
Deuxième volet d’un triptyque d’annonces relatives aux services, Apple Arcade est un abonnement qui permettra à ses souscripteurs de jouer à une sélection de jeux vidéo exclusifs sur iOS, macOS et tvOS.
25/03 | Apple
"It’s showtime!", clamait Apple sur les cartons d’invitation à son événement californien de ce soir. Et comme le prophétisaient les observateurs, l’entreprise de Tim Cook a effectivement levé le voile sur son propre service de SVoD, se posant ainsi en concurrent direct de Netflix.
25/03 | SVOD
Après un transitoire et oubliable Galaxy S9, Samsung souffle les 10 premières bougies de sa gamme flagship avec pas moins de trois modèles au magnétisme certain.
Recalbox, le célèbre OS français et 100 % gratuit qui permet de retrouver la plupart des jeux de notre enfance sur environ 60 systèmes, va très prochainement avoir le droit à une nouvelle version stable.
Le précieux sésame est destiné à 5,8 millions de foyers cette année. Les envois vont s’étaler jusqu’à la fin du mois d’avril, selon les départements. Clubic vous explique tout.
25/03 | Énergie
La commission consultative fait part de ses interrogations quant à la proposition de loi visant à lutter contre la haine sur Internet dans un avis public délivré jeudi.
25/03 | Loi internet
Quantic Dream ne perd pas de temps. Quelques jours après avoir annoncé l’arrivée de Detroit: Become Human sur PC, le studio de David Cage dévoile les configurations minimales et recommandées pour animer son dernier titre.
Roccat étend sa large gamme de souris gaming en annonçant l’arrivée de la Kova AIMO, un mulot qui se veut très versatile (et relativement abordable aussi).
25/03 | Souris
Le chinois Zotac vient de lancer son Mek Mini, un Mini-PC Gamer pensé pour allier performances de haute volée et compacité extrême. Et pour cause, les mensurations de l’appareil ne dépassent pas les 260,8 x 136 x 258,8 mm. Au travers de ce nouveau modèle, Zotac réaffirme son intérêt pour les machines petits formats.
25/03 | Mini-PC
Amateurs de robots géants et de questions existentielles, réjouissez-vous : la mythique série animée Neon Genesis Evangelion arrive dans quelques mois sur Netflix !
25/03 | Netflix
Celui qui fut une véritable star du web il y a quelques années est aujourd'hui évincé de toute part.
scroll top