Des dessins animés sur YouTube contiennent des messages d'incitation au suicide

27 février 2019 à 17h11
21
YouTube Kids

Des parents ont découvert dans un dessin animé proposé par YouTube des passages dérangeants simulant une tentative de suicide. Cette affaire illustre une nouvelle fois les problèmes de modération rencontrés par la plateforme de Google.

Droit de réponse de YouTube :
« Nous travaillons sans relâche pour que YouTube ne soit pas utilisé dans le but d'encourager les comportements dangereux. Nous appliquons des règles strictes interdisant les vidéos encourageant l'automutilation. Nous nous appuyons sur le signalement des utilisateurs et des outils de détection automatisés afin d'identifier rapidement ces contenus et les soumettre à nos équipes pour une vérification humaine. Chaque trimestre, nous supprimons des millions de vidéos et chaînes qui enfreignent nos politiques. La majorité de ces vidéos sont supprimées avant même qu'elles ne soient visualisées. Nous nous efforçons d'améliorer nos systèmes dans le but de supprimer encore plus rapidement ces contenus illicites. »

Une mère de famille qui souhaite rester anonyme a fait une découverte absolument sordide en regardant des dessins animés avec son fils sur YouTube. Après sept minutes, le dessin animé s'est interrompu pour montrer un homme donnant des conseils sur la meilleure manière de se taillader les poignets. Après quelques secondes, le cartoon a repris comme si de rien n'était.

Un passage malsain caché dans un dessin animé tous publics

Dégoûtée par ce qu'elle a vu, la mère de famille a immédiatement supprimé l'application de ses appareils et interdit son utilisation à ses enfants. Elle a ensuite raconté son histoire sur le site Pedimom, un blog de conseils pédiatriques, pour alerter des dangers encourus par les plus jeunes à utiliser la version pour enfants de YouTube.

La vidéo incriminée a été retirée immédiatement de la plateforme de streaming, mais on peut constater que les premiers signalements ont débuté 8 mois auparavant.

YouTube modère souvent a posteriori, un problème pour le développement des plus jeunes

YouTube a répondu à la polémique dans un communiqué. Le service assure que « les vidéos signalées sont examinées manuellement 24 heures sur 24, 7 jours sur 7 et toutes les vidéos qui n'appartiennent pas à l'application sont supprimées ».

Ce n'est pas la première fois que la modération mise en place par le géant du streaming vidéo est pointée du doigt. Il y a quelques jours à peine, une sombre affaire de vidéos de jeunes filles dans des positions suggestives avait été dévoilée. Des annonceurs avaient aussitôt annoncés retirer leurs investissements publicitaires pour ne plus être associés à ces contenus contraires à leurs valeurs, malgré les décisions rapides prises par YouTube pour supprimer les contenus et les commentaires jugés indécents.

Mais pour Nadine Kaslow, ancienne présidente de l'Association américaine de psychologie, le simple retrait de ces vidéos n'est pas suffisant : « Pour les enfants qui ont été exposés, ils ont été exposés. Ils doivent être accompagnés désormais. C'est pourquoi cela ne va pas ». Elle rappelle que les plus jeunes pourraient également essayer de reproduire ce qu'ils ont vu dans les vidéos par curiosité.

Aux États-Unis, le suicide est la troisième cause de décès chez les jeunes de 10 à 24 ans, avec 157 000 passages à l'acte recensés chaque année.

Source : Ars Technica

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
21
0
nrik_1584
En lisant le titre je m’attendais à une polémique du même genre que l’arrivée de DBZ dans le Club Dorothée à l’époque…<br /> Mais là c’est carrément un acte malveillant. Du coup au-delà de la suppression de la vidéo, des recours ont été lancés contre la personne qui a uploadé ça ?<br /> Sinon concernant la modération 24/7 par visionnage manuel je serais curieux de connaître la procédure en question… S’il s’agit de passer les 2 premières minutes vite fait ça me semblerait un peu léger.
Startide
Ce n’est pas nouveau, comme l’indique l’article. Youtube gère systématiquement de la pire façon tout ce qui touche à la modération de sa plateforme de toute manière.<br /> Pour une plateforme “kids” c’est quand même excessivement malvenu que cela soit passé entre les mailles du filet, mais le pire est bien entendu l’inaction de la plateforme malgré les signalement répétés.<br /> D’une façon générale : ne laissez pas vos enfants regarder youtube sans vous. Pas facile à tenir je sais, sinon tournez vous vers des listes que vous avez prévalidées vous mêmes…
Wehrmicel
De mon temps avec les Tom &amp; Jerry et compagnie les dessins animés n’y allaient pas de main morte…<br /> Ah c’était le bon vieux temps, quand la télé valait encore le coup.
nirgal76
Ah mince, les parents vont être forcés de s’occuper de leur enfants et ne plus pouvoir les laisser livrés à eux même sur la tablette !
benben99
N’importe quel parent qui se respecte ne laisse pas ses enfants seuls avec un ipad que ce soit pour des jeux vidéos ou vidéos.
bmustang
google devrait penser à mieux payer ses employés et sous mains pour éviter de telles errances ou de déconnecter son IA ?
Saulofein
Au vu du nombre de vidéo chargée sur la plateforme, si tu veux qu’une personne regarde en entier chaque vidéo, il faut embaucher la moitié de l’humanité x)<br /> Plus sérieusement, c’est peut-être aussi aux parents de s’occuper de ce qu’ils mettent dans les mains de leurs enfants…
benben99
Oui j’ai des enfants et je m’occupe d’eux plutôt que les laisser devant un écran tout seul à faire n’importe quoi. Il y a tellement de parents indignes…
Monkey_D_Luffy707
Certes, ces vidéos n’avaient pas leur place ici.<br /> Mais est-ce correct de dire : « Pour les enfants qui ont été exposés, ils ont été exposés. Ils doivent être accompagnés désormais. C’est pourquoi cela ne va pas » il y a du vrai, mais de la à aller jusqu’a dire que les enfants doivent être accompagnés… Si ils ont étaient choquée, c’est une bonne solution, mais ce n’es pas le cas de tout les enfants. Après, je n’ai peut être pas bien compris le sens de cette phrase.<br /> YouTube a encore commis une erreur, je n’essaie pas de défendre la communauté, je veux juste dire que c’est trop facile de dire, en quelque sorte, qu’ils font exprès…
fg03
J’espère qu’ils vont traquer ce genre de tarré et l’arrêter.
Sierro
“Il y a quelques jours à peine, une sombre affaire de vidéos de jeunes filles dans des positions suggestives avait été dévoilée.”<br /> Mais c’est une grosse blague ! Ça fait des années qu’il y a des vidéos qui parlent de ça, sur la plate-forme youtube, genre Le Roi Des Rats ! Sa première vidéo sur le sujet à été postée il y a deux ans, et le problème en lui même remonte à bien plus longtemps que ça. Mais non, c’est la grande découverte d’hier soir et personne ne savait avant, bien sûr. Bravo l’info.
3o6
Oui enfin là, justement y’avais la darone avec, sinon elle n’aurait pas pu s’en apercevoir
3o6
Bein non, pour YouTube Kids, avoir un visionage entier me semble la moindre des choses.
cmoileena
Il y a une quinzaine d’années aux US des dvd Disney avaient été pressé avec une scène de porno au milieu du dessin animé… bref<br /> Aujourd’hui un traitement de la vidéo avant la mise en ligne devrait être un’minimum. You tube kids est justement fait pour éviter d’aller sur le YouTube normal afin d’éviter ce genre de connerie.
Saulofein
Chaque mois, tu as 2.6 millions d’heures de vidéos chargées sur YouTube. Si 1% vont sur youtube kids, ça fait 26000 heures de vidéos. C’est impossible de faire regarder l’intégralité du contenu par des humains…
sophiucus
Mouais, à force de toujours vouloir accuser la plateforme de mal gérer son contenu et de crier au scandale on est juste en train de ligoter ses possibilités et paralyser les youtubeurs qui l’utilisent de manière appropriée ainsi que tous le reste de la communauté.<br /> Il faut simplement réaliser que la quantité de données sur youtube correspond à plusieurs milliards d’heures de visionnage, et que chaque année il s’en rajoute plusieurs millions. C’est juste inimaginable de disposer d’un contrôle pré-publication ou d’une censure parfaite qui ne pénalise pas les autres.<br /> Alors autant je suis pour la protection des enfants et ne leur souhaite aucun mal, c’est important de bien s’en occuper et de leur offrir un environnement sain; cependant je suis clairement d’avis que c’est aux parents de gérer le rapport de leurs enfants à internet, dont on oublie trop souvent qu’il est ouvert au tout venant et que n’importe qui peut y faire n’importe quoi (pour le mieux, mais pour le pire aussi par la même occasion).<br /> Or youtube fait partie d’internet, et oui tout le monde peut mettre ses vidéos dessus, donc en laissant les enfants y traîner sans contrôle parental strict on les expose à des risques. Et c’est normal. Il n’y a pas de raison pour que tout le monde soit pénalisé parce que quelques parents irresponsables sont incapables de ne pas s’indigner quand ils se rendent compte que le monde ne tourne pas autour du bien-être de leur gamin. Et surtout pas sur internet.<br /> D’ailleurs je dis “quelques” mais plus généralement les parents qui laissent leurs enfants naviguer librement sur la toile sous prétexte qu’ils ne vont que sur les sites que tout le monde connaît et bla et bla et bla sont très nombreux, alors que dit-on à ceux-là ?<br /> Ce sont les mêmes qui vont être poussés par leur instinct protecteur (aussi mal géré que l’accès à internet de leur enfant) à hurler au scandale, accuser les autres et à monter aux créneaux lorsque cette ingérence fait des dégâts.<br /> C’est à cause de ce genre de personnes (ce ne sont pas les seules ceci dit) qu’on permet petit à petit de réduire la liberté d’expression sur la toile. Et tout le monde subit.<br /> Alors moi je dis: vous avez laissé votre gamin utiliser internet sans prévoir le risque et il a vu un truc qu’il fallait pas ? Et bien que ça vous serve de leçon pour remettre vos méthodes éducatives en question, vous êtes en tort puisque vous êtes responsable de lui. C’est pas aux autres de pallier à ce problème. Bienvenue dans la réalité.
sophiucus
D’accord avec toi benben, youtube n’est pas un “support” comme les autres et effectivement en leur filant un écran dès qu’on a autre chose à faire on ne passe pas pour un parent très sain…
humty_dumpty
“on peut constater que les premiers signalements ont débuté 8 mois auparavant.”<br /> Rien de nouveau, quand ce n’est pas une paire de fesses youtube s’en cogne.<br /> ça fait des mois que je signale une vidéo où un artiste montre des photos pornos lors d’une expo, rien de flouté, aucune limite d’âge. Je l’ai signalé sur le forum youtube, on m’indique que c’est artistique donc ça passe. Par contre je sais faire la différence entre du nu artisitique et un cuni ou une pénétration en gros plan et c’est bien ce qu’on voit.<br /> Une fois j’ai signalé des extraits du film “a serbian film” (interdit au moins de 18 ans ou interdit tout court dans certains pays). Il s’agissait des scènes les plus trashs.<br /> Idem sur le forum, un “expert” a vite fait regardé et m’a dit que c’était juste gore.<br /> Ceux qui connaissent ce film savent que ce n’est pas que du gore.<br /> Au final, j’ai partagé mon message et ça a bien mis une semaine avant que la vidéo soit complètement retirée.<br /> Je comprends que youtube ne peut pas visionner toutes les vidéos qui sont postées mais il serait bien qu’ils prennent au sérieux les signalements.<br /> Si les parents savaient tout ce que j’ai pu voir sur cette plateforme, ils interdiraient leur gamin d’aller sur youtube. Il serait bien aussi que YT indique comme sur les sites porno qu’il faut avoir au moins 13 ans pour visionner des vidéos.
Voir tous les messages sur le forum

Actualités du moment

⚡️ Bon Plan : Clé USB Kingston DT100G3 - 128 Go - USB 3.1 à 16,49€ au lieu de 89,99€
Enermax présente sa REVOLUTION : une alim 80PLUS Gold avec technologie DFR
PCMark : deux nouveaux benchs sur l'autonomie et les apps Office à venir
Les PDG d'Activision et d'EA sont
MWC 2019 - Le récap' des smartphones qui nous ont tapé dans l’œil !
AMD fait aussi appel à Samsung pour fabriquer ses puces Polaris 30
Denon lance 2 platines vinyle, dont une pouvant numériser votre collection
Qu'est-ce que Sigfox, le réseau de télécom intégré à la Freebox Delta ?
Brave : les extensions Chrome débarquent sur le navigateur
Resident Evil 2 : 3 millions de copies distribuées en 3 jours (mieux que Resident Evil 7)
Haut de page