Modérateurs de YouTube et de Google : l'enfer c'est les autres

Stéphane Ficca
Spécialiste hardware & gaming
17 décembre 2019 à 15h40
33
Stress travail e-mail email

HYPERLIEN | De nombreux modérateurs pour Google et YouTube passent leurs journées à filtrer les messages les plus intolérables... Certains souffrent aujourd'hui d'un profond stress post-traumatique.

Lire l'article sur The Verge :
« The Terror Queue »


En quelques mots :

  • Google fait appel à plusieurs sociétés pour nettoyer ses plateformes (notamment YouTube), dont Accenture.

  • Les modérateurs ont différentes « spécialités », et si certains traquent les informations liées aux copyrights, d'autres sont confrontés tous les jours à des contenus violents, haineux, diffamatoires, voire pornographiques...

  • Une exposition quotidienne à des violences et autres abus souvent insupportables pour l'être humain, qui occasionne parfois de très graves séquelles sur les modérateurs...

L'Hyperlien est la base d'Internet. S'il y a des sujets à vous partager depuis d'autres médias, on vous écrit un Hyperlien.
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
33
23
Popoulo
« Certains souffrent aujourd’hui d’un profond stress post-traumatique. » lol merci pour cette blague. Je ne manquerai pas de la ressortir lors d’un repas de ces prochaines fêtes.
eaglestorm
en quoi ça serait étonnant ?<br /> tu crois que c’est simple de voir toute la journée des contenus violents ?
dredd
Oh boy, on va repatrtir avec un débat à base de « bandes de fragiles », « ils ont choisis ce travail, ils assument » et autre « je vois pire sur le net tous les jours et je suis pas traumatisé ».
SckyzO
Ouais ta réaction est complètement bête. Je suis d’accord avec @eaglestorm. A longueur de journées voir de la déferlante d’abrutis tous plus débiles les uns que les autres, profaner des horreurs … Je suis sur que beaucoup de personnes auraient des séquelles à faire la même chose. Vivement l’IA pour ça, même si elle existe, elle n’est pas assez intelligente encore.
dredd
Non mais sérieusement, tu penses que les enquêteurs, les magistrats et les travailleurs sociaux qui sont confrontés à de graves cas de violences, de viols sur mineurs et autres joyeusetés sont fomés et ont un soutient psychologiques en cas de choc ou difficultés à exercer leur métier ?<br /> Faut arrêter avec les stress post traumatic. C’est bien connu que tout un chacun est NATURELLEMENT doté de capacités à voir des images de viols, tortures et violences sans en subir aucun désagrément. On en retire même plutôt un peu de plaisir et c’est pourquoi tous les procès pour pédophilie ou pour violences avec tortures se passent au Stade de France en entrée libre et qu’on fourni un DVD des meilleurs moments à la famille et aux jurés à la sortie de l’audience.<br /> Édit: bon, malheureusement il semble qu’il faille préciser que ce post est rédigé de manière sarcastique et pas a prendre au premier degré.
Marvaxx
C’est une chose de devoir trancher dans le cadre des horreurs humaines, de désigner un coupable, de soutenir et accompagner socialement une personne victime de trucs moches etc.<br /> Oui, je gage que cela doit laisser de sacrées séquelles à moins d’être blasé de chez Blasé.<br /> Je ne vois aucun point de comparaison par contre avec le fait d’être spectateur impuissant, témoin priviligié, sans possiblité d’interagir, de toute la crasse humaine et ce, à longueur de journée.<br /> Alors oui, Post-Trauma (dans le sens où les effets pervers du visionnage ne manifestent leurs effets désagréables que bien après les visionnages) est le bon terme. Peu importe le sentiment que cela procure à un ou deux ici.<br /> Je ne pense pas que ce type d’emploi, sur un plan moral, soit tenable bien longtemps, peu importe l’épaisseur de la carapace du visionneur.
Mr_Fi
En fait, sur YouTube, il ne s’agit pas de modérer simplement des commentaires « trollesques », mais parfois (souvent) des vidéos insupportables (violence, torture, pédopornographie…)… et cela pendant de nombreuses heures chaque jour… <br /> Dans l’article, on peut notamment lire : « Peter a vu un de ses collègues s’effondrer au travail, en pleine détresse, tellement accablé par les vidéos qu’il avait vues qu’il a décidé de prendre deux mois de congé sans solde. »<br /> Pas sûr que cela fasse rire grand monde lors d’un repas de ces prochaines fêtes donc…
dredd
Tu penses que tous les enquêteurs qui doivent passer des semaines à tracker les preuves sur le net ou sur des supports de stockage, faire des constatations sur video et sur photos (pour les cas de pédophilie par exemple) sont tous en contact avec les victimes et leurs familles et sont ceux qui désignent les coupables et les jugent ?<br /> Ce n’est pas le cas, tu en conviendras. Déjà parce que bien souvent, il leur est impossible de retrouver les victimes et parce que c’est pas leur rôle de juger mais de faire un travail d’enquête et de collecte de preuves.<br /> Si tu penses que ça, c’est pas traumatisant alors je ne sais pas ce qu’il te faut pour te traumatiser. Et si tu penses que c’est traumatisant, alors je ne vois pas comment ne pas le penser pour un type lambda qui voit autant si ce n’est plus d’horreur qu’un enquêteurs de police et qui en plus n’a ni formation, ni soutient psychologique comme en ont ce qu’on appellent les intervenants qui englobent enquêteurs de terrain ou non, magistrats etc.<br /> Mon épouse est assistante sociale et criminologue et a un role de médiatrice dans une école très défavorisée. Elle est parfois confrontée indirectement ou directement à des cas très difficile avec des gamins qui peuvent lui rapporter des choses incroyablement glauques, des situation ou elle doit faire le lien entre l’enfant, les parents, les juges de la jeunesse, la police et les services sociaux. Crois moi que j’ai déjà vu dans ses yeux la détresse de celle qui assiste quais impuissante à un spectable d’une telle noirceur qu’il faut la ramasser à la petite cuillère.<br /> J’en ai des frissons dans le dos rien que d’imaginer que pauvre bougre dans la trentaine qui qui toute la journée vois le net lui vômir à la figure les pires propos mais aussi les pires images et les pires vidéo que des êtres malades sont capable de générer.
cirdan
Et sinon, modérateur chez Clubic c’est cool ?
juju251
Il y a bien quelques trolls velus et quelques éléments pour le moins véhéments, mais dans l’ensemble il n’y a pas trop à se plaindre.
dvaid
On ne connait pas encore la moitié des métiers que feront nos enfants et petits-enfants…<br /> Vaut peut-être mieux ne pas le savoir !
Maga83
cirdan:<br /> Et sinon, modérateur chez Clubic c’est cool ?<br /> Y’a pas de pédophiles ni de mecs de chez Daech qui découpent des gens mais un paquet de gens qui assassinent la langue française et qui racontent que des conneries… mais c’est pas modérable.
RaoulTropCool
Pour info, certains développeurs ayant travaillé sur le jeu Mortal Kombat ont eut des symptômes similaires. Même si ça peut paraitre supportable, l’accumulation de violence finit parfois par faire mal.
dredd
A une époque y’a eu quelques trolls WTF qui s’amusaient à balancer en pleine nuit des trucs bien bien dégueulasses mais les certains modérateurs était noctambules (j’en était) donc ça va, au petit matin personne ne tombait dessus
Blackalf
juju251:<br /> Il y a bien quelques trolls velus et quelques éléments pour le moins véhéments, mais dans l’ensemble il n’y a pas trop à se plaindre. <br /> +1<br /> Mais on gère
Maga83
M’en parle pas… j’ai été modérateur sur Tom’s Games pendant 3 ans… je faisais la modération entre 02 h 00 et 05 h 00 du matin pour que personne ne tombe sur des trucs gores.<br /> J’ai eu de tout… du Q, des nazis, des WTF, de la pub gentille genre Dr. M’bala qui fait revenir l’être aimé à coût de billets de 500.<br /> Hannn… c’était le bon temps.
Blackalf
Il y en a toujours, et nous supprimons beaucoup de choses du genre
Maga83
Ça me fait penser… sur Tom’s Games… on avez un forum interne et on faisait des captures d’écran pour voir qui avez eu le plus dégénéré de la semaine… vous avez la même chose ?
Blackalf
Secret professionnel, on ne va pas dévoiler non plus tous nos trucs
Maga83
Tsss, Tssss… qui ne dit mots… consent… vous devez bien rigoler.
onipif
Il y a eu un reportage cette année sur France 2 de Elise Lucet à ce sujet,<br /> -&gt; Recherchez par vous même et regardez le complètement.<br /> Je pense que très peu de lecteurs, vous et moi, serions capable de suporter ça :<br /> Regarder des humains en sang, en feu, avec écartelement, … tous les jours…pour 1100€/mois de mémoire, boite située en Espagne , qui emmène les futurs salariés français en Espagne pour éviter les coûts et les lois françaises .<br /> Et ce boulot payé par Facebook.<br /> …mais avec Google ou IAmachin, il y a pire encore…<br /> Quid des HighTech arrivent à faire le pire et traiter l’humain en inhumain ?<br /> -&gt; je vous laisse répondre et user ou non de leurs services.<br /> (pour ma part : presque pas de Google, pas de Facebook…et vivement un OS autre que Android)
AlexLex14
onipif:<br /> Il y a eu un reportage cette année sur France 2 de Elise Lucet à ce sujet,<br /> -&gt; Recherchez par vous même et regardez le complètement.<br /> Effectivement, nous en avions parlé ici sur Cluclu : https://www.clubic.com/internet/facebook/actualite-870782-facebook-cash-investigation-durete-tache-moderateurs-contenus.html
linkin440
Un modérateur de parti chez YouTube et un autre pour le remplacer. Avec la crise et le manque d’emploi suite à l’automatisation, c’est le jeu de la chaise musicale.
philouze
« Faut arrêter avec les stress post traumatic. C’est bien connu que tout un chacun est NATURELLEMENT doté de capacités à voir des images de viols, tortures et violences sans en subir aucun désagrément. On en retire même plutôt un peu de plaisir »<br /> Bon, écoutes, tu prends ça comme tu le veux, mais il est temps que tu te rendes comptes que si tu es vraiment sincère, tu as un grave problème empathie… en termes moins sympa… consulte quelqu’un a ce sujet.<br /> Voir des tortures effectuées sur de vrais gens, ça ne procure pas de plaisir mais ça choque profondément. Si ça ne te le fais pas, c’est que tu est un minimum psycho, et peut être sans le savoir.<br /> Ou peut être n’a tu pas saisi quels genres d’horreurs voyaient ces gens.
atahonfl
Je suis d’accord qu’ils doivent en voir des vertes et des pas mûres à longueur de journée, mais c’est le prix à payer quand au fond, on n’est qu’un petit robot censeur de ce qui est nécessaire, certes, mais hélas aussi censeur de ce qui ne plaît pas aux maîtres de la doxa et qui censure toute opposition au Système et à ceux qui le dirigent.
notolik
Ma femme a été institutrice à Grigny (91) - Grande Borne - Le Buffle. (A 100 m de l’endroit ou ils ont cramés des flics dans leurs voitures)<br /> Elle a été durablement traumatisée par la détresse de certain de ses élèves. On pense qu’un de ses signalement à permis d’en sauver un. Triste consolation, mais bon…<br /> Je pleins tous les gens qui sont obligés d’être confrontés à ça en permanence. (flic, assistante sociale,modérateur, …)<br /> Ca permet de bien relativiser les problèmes que l’on peut rencontrer au travail.
Termos
Cool ! Comme ça si ton collègue avait échappé à un truc gore, bein, pas de bol, il le voyait quand même ! <br /> Sympas les collègues, hein ?!
Termos
Son post me semblait ironique…
dredd
Il y a méprise, le sarcasme et l’ironie étaient pourtant clairement marquées dans mon message et si tu lis mes autres interventions c’est encore plus clair. Mais il faut aller jusqu’au bout du post aussi (Stade de France, DVD aux familles tout ça).
zmed
Désolé mais ta réaction est débile.
Peter_Vilmen
Okay je tente ma chance à résumer un peu la situation.<br /> Pour la partie psychologie :<br /> Tout le monde n’a pas la même personnalité, certaines personnes sont plus susceptibles que d’autres d’être traumatisés par ce genre d’images.<br /> Donc parmi les modérateurs, certains sont probablement très légèrement touchés, certains moyennement, et d’autres sont peut-être traumatisés.<br /> L’introspection est un art aléatoire, même la science de la psychologie est encore très imprécise. Il est probable que parmi les plaignants certains exagèrent leur symptômes n’ayant que peu de recul sur ce qu’est le syndrome post-traumatique tel qu’il est défini par les chercheurs. D’autres sont peut-être des opportunistes cherchant de l’argent en échange d’un témoignage.<br /> Pour la partie emploi :<br /> Ces emplois sont mal payés parce que c’est le jeu de l’offre et de la demande. Certains diront qu’il faut responsabiliser les citoyens, ceux qui acceptent ce genre de jobs devraient savoir qu’il y a des risques.<br /> D’autres diront qu’à cause des destructions massives d’emplois dues à l’automatisation, ces employés sont en quelque sorte forcés d’accepter ce genre de jobs de regard des des circonstances économiques.<br /> Il y a quelques questions en suspens dont les réponses sont importantes pour orienter le débat :<br /> les employés doivent-ils regarder les vidéos en entières, ou arrêtent-ils dès qu’ils ont une preuve (un screenshot, bout de texte ou d’audio) ?<br /> Ca changerait pas mal la donne qu’ils puisse s’arrêter à la première goûte de sang.<br /> quels horaires ? Sont-ils rémunérés à leur productivité ? A quoi ressemble une journée typique ? Combien de pauses ? Quelle alternation entre les différents types de contenus ?<br /> Si la journée est intense et qu’ils filtrent ce genre de contenus non-stop, même regarder des épisodes de mon petit poney ou des teletubbies pourrait en amener certains au burnout. Rien que de parser des pages webs, du code, ou des images en y cherchant des détails me fatigue sur de longues durées.<br /> Maintenant, il faut savoir que :<br /> plus de 99% du contenu est supprimé illico par des algos, la plupart des vidéos postées ayant déjà été postées et leur hash stockés. Y-a-t-il vraiment autant de vidéos traumatisantes qui apparaissent chaque jour sachant que leur nombre est limité ?<br /> les avancées en IA devraient assez rapidement (1-2 décennies) automatiser leur taff, les briques manquantes sont élémentaires et rien que les avancées en puissance de calcul générale et spécialisée (unités dédiées aux calculs de réseaux de neurones) devraient nous amener une technologie viable sous peu de temps.<br /> une personne qui est moyennement traumatisée par son taff vaut mieux que de laisser ces contenus circuler et de voir des millions de personnes traumatisées, on est donc en face d’un mal nécessaire.<br /> Au regard des faits, je dirais que le marché est encore immature et que les personnes qui se sont lancés dans ce genre de boulots n’ont pas ou ne pouvaient pas apprécier les potentiels effets néfastes, d’où les faibles rémunérations qu’ils ont acceptées.<br /> Le marché devrait s’adapter de lui-même, peut-être sans rien changer s’il s’avérait que beaucoup de personnes préfèrent regarder ce genre de vidéos que de nettoyer les rues ou bosser dans une cuisine.<br /> Peut-être qu’une avancée dans nos modèles neuropsychologiques pourraient permettre de détecter les profils à risques avec quelques tests.<br /> Mais on pourrait en bons socialistes y apposer un minimum de régulation, type sensibilisation obligatoire aux dangers liés à un tel métier sur la psyché humaine, et peut-être tentative d’étudier de potentiels effets à long terme.<br /> Je pense que les comparaison avec avocats, policiers, juges, … ne sont pas entièrement fondées. Le syndrome post-traumatique c’est une exposition à une ambiance stressante/traumatisante/anxiogène pendant longtemps, et c’est largement l’oeuvre de l’inconscient. Enquêter sur un infanticide est probablement assez loin de l’expérience d’un champ de bataille ou du travail de ces modérateurs, vous avez largement plus d’opportunités de relativiser, de trouver du réconfort auprès de vos proches ou de vos collègues. C’est beaucoup moins intense, et a donc moins l’opportunité de dérégler la partie réptilienne de notre cerveau.<br /> Mais bref, big up à ceux qui modèrent tout ça pour nos enfants et nos proches en attendant que l’IA, la vraie, s’en charge.
GRITI
Je pense qu’il y a aussi une différence entre lire des dossiers, écouter des témoignages (en présence ou pas du témoin) et voir toute la journée des vidéos trash, violentes etc. Le pouvoir et la puissance des images (et surtout de la vidéo) sont sans comparaison avec des discussions ou de la lecture. Quand en plus ces vidéos couvrent tout le spectre de ce que l’humain est capable de faire…<br /> Je n’aimerais vraiment pas faire ce boulot.
MisterGTO
C’est pas la même chose que de voir défiler des horreurs 10h par jour<br /> Mais alors absolument pas
dredd
Si tu me dis pas à quoi tu fais référence alors on va pas aller loin.
philouze
Au temps pour moi, je n’avais vraiment pas saisi l’ironie, vu qu’il y a effectivement des gens qui regardent avec plaisir ce genre de trucs (voir qui les provoquent, et d’autres qui les diffusent…)
Voir tous les messages sur le forum

Actualités du moment

En perte de vitesse en Europe, Nissan abandonne les SUV diesel pour l'hybride rechargeable
Disque SSD interne 2,5
PowerWatch 2 : la smartwatch alimentée par le soleil... et la chaleur corporelle
Promo de Noël chez pCloud : Stockage en ligne et sécurisé 2To à vie pour 400€
Vous pourrez bientôt ajouter (officiellement) deux boutons et un écran OLED à la manette PS4
Apple supprime l'application qui transformait virtuellement votre iPhone en iPod
Lee Sang-hoon, président de Samsung, condamné à 18 mois de prison pour « sabotage syndical »
Ma French Bank, la néobanque de La Banque Postale, annonce 100 000 clients
Un processeur Intel doté d'une nouvelle architecture fait son apparition dans un bench
Citroën : six véhicules électriques pour 2020, dont probablement trois utilitaires
Haut de page