Suite à une censure trop agressive de son IA, YouTube rappelle des modérateurs en chair et en os

22 septembre 2020 à 10h40
9
application youtube

Au cœur du confinement, YouTube avait remplacé ses modérateurs humains par une intelligence artificielle chargée de gérer les contenus sensibles.

YouTube vient toutefois de déclarer au Financial Times que son algorithme avait montré une modération trop agressive, celle-ci ayant entraîné une augmentation significative des suppressions de contenus et agacé certains utilisateurs. La plateforme de streaming entend par conséquent revenir à plus de modération humaine.

Chez YouTube, les suppressions avaient doublé

Selon le Financial Times, 11 millions de vidéos ont été supprimées de YouTube entre les mois d'avril et juin, soit environ deux fois plus qu'à l'accoutumée.

Sur ces 11 millions de suppressions, 320 000 ont fait l'objet d'une réclamation, et la moitié d'entre elles ont été remises en ligne. Là encore, ces taux de réclamations et de remises en ligne ont doublé par rapport à une situation « normale ».

Pour le Financial Times, mais aussi pour YouTube, c'est bel et bien le signe d'un algorithme un peu trop zélé. Dès le mois de mars, YouTube avait toutefois assumé cette décision en sachant qu'elle pourrait générer des erreurs.

Dans un communiqué, la plateforme avait alors déclaré : « Nous reconnaissons que cela peut perturber les utilisateurs et les créateurs, mais nous savons que c'est la bonne chose à faire pour les personnes qui travaillent pour assurer la sécurité de YouTube et pour la communauté en général ».

Les limites de l'IA

Les mesures de confinement généralisé ayant désormais tendance à s'éloigner, les modérateurs humains reviennent aujourd'hui dans les bureaux de YouTube.

Un relatif aveu d'échec, donc, qui témoigne des difficultés persistantes de l'IA à repérer les subtilités du langage : si les systèmes automatisés peuvent détecter un contenu manifestement choquant, ils peinent bien plus à repérer un discours raciste ou une thèse conspirationniste, des propos qui se sont largement développés depuis le début de la crise sanitaire. Pour cela, des modérateurs humains restent indispensables.

Si l'on accordera aux grands réseaux sociaux (YouTube, mais aussi Facebook et Twitter) d'avoir été sous pression ces derniers mois, l'IA a pourtant aussi supprimé des contenus plus facilement compréhensibles. En mai dernier, YouTube a ainsi reconnu avoir supprimé des commentaires critiques envers le parti communiste chinois. La société a par la suite accusé une « erreur dans ses systèmes d'application ».

Malgré tout, Neal Mohan dit rester confiant dans la place des systèmes automatisés sur la plateforme. Pour lui, la rapidité reste leur principal atout, précisant que « plus de 50% de ces 11 millions de vidéos ont été supprimées sans une seule vue par un utilisateur réel, et plus de 80% ont été supprimées avec moins de 10 vues ».

Source : The Verge

Modifié le 22/09/2020 à 10h54
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
9
10
cirdan
L’intelligence humaine aurait donc une capacité de réflexion supérieure à une intelligence artificielle ?<br /> Je me disais que tout espoir n’est pas perdu, mais je me demande plutôt si tout ça n’est pas qu’un vulgaire problème d’algorithme qu’une intelligence humaine va se faire un plaisir de remettre dans le droit chemin artificiel.
Sylvio84
En quoi une thèse «&nbsp;conspirationniste&nbsp;» devrait être modérée ??? Contrairement au racisme, cela n’a rien d’illégal de remettre en question les thèses officielles et étatiques. C’est complètement contraire à la liberté d’opinion et d’expression !!<br /> Si des machines nous censure, on est vraiment pas loin de Skynet…
ang1
D’accord avec Sylvio84 et cette censure glissante, entraîne l’incapacité d’usage de l’outil critique essentiel qu’est hypothèse ! En toutes circonstances, dans tout régime et en tout temps, le seul moyen de lutter contre la dictature est l’usage de l’hypothèse. Il suffit à tout pouvoir de décrire cette hypothèse comme «&nbsp;thèse conspirationniste&nbsp;» pour interdire l’usage de la pensée.
Mrpolnar
Donc si j’émets l’hypothèse que la terre est plate ou que les extra-terrestres dirigent le monde en secret je fais usage de ma pensée ? Il faut mettre des limites à la connerie ou vos gosses seront docilement soumis à une IA d’ici 20 ans.
cid1
l’intelligence artificielle n’est pas encore au point, j’avais lu ici meme qu’une boite avait remplacé 250 journalistes par des IA, reste a attendre pour voir quel boulot ils vont faire.
Popoulo
Juste une automatisation de la fonction Word Chercher/Remplacer. Ex. : meurtre -&gt; incivilité, viol -&gt; incivilité, agression -&gt; incivilité etc… etc…
Pronimo
Tant que c’est pas moi qui tombe sur du contenu choquant mais c’est pas cool non plus pour ceux qui modèrent… A part sur des plaisantins qui postait des photos de liveleak (dont je ne connaissais rien a l’époque) et quelques cauchemars depuis, bah j’ai du bol dans la vie d’un internaute ou c’est tendance choqué le plus de gens rapidement via les réseaux sociaux…
juju251
Sylvio84:<br /> En quoi une thèse «&nbsp;conspirationniste&nbsp;» devrait être modérée ???<br /> Parce que bien souvent les thèses conspi sont des excuses à des dérives sectaires, des propos dangereux ?<br /> Thèses anti-vax, guérir un cancer avec des jus de fruits, etc … en tête …<br /> ang1:<br /> En toutes circonstances, dans tout régime et en tout temps, le seul moyen de lutter contre la dictature est l’usage de l’hypothèse.<br /> La «&nbsp;fameuse&nbsp;» hypothèse érigée comme la seule vérité possible, parce que forcément les thèses officielles sont forcément des mensonges, c’est ça ?<br /> La «&nbsp;fameuse&nbsp;» hypothèse avancée sans aucun élément factuel, où l’on se fait insulter ou même menacer de mort si on ose demander des preuves ?<br /> Tellement pratique.
Helios
Je vois plusieurs problèmes :<br /> Qui fixe les limites ? Comment sont-elles définis ?<br /> Où commence la censure et où s’arrête-t-elle ?<br /> Comment définir une connerie ? A une époque la Terre ronde était une connerie. Il y a toujours des pensées religieuses qui interdisent de songer à l’impossible. Et pourtant, c’est de là que naissent les innovations et les processus d’émancipations.<br /> Je miserais plus sur l’éducation des gosses pour élever le niveau de réflexion mais ça n’a pas l’air d’être le projet de l’éducation nationale.
Sylvio84
Donc tu considères que les gens sont trop cons et qu’ils n’ont pas d’esprit critique, qu’ils ne sont pas capables de faire leur propre recherche et que BFM doit leur fournir de l’information prémâchée, en toute indépendance et sans idéologie bien sûr ?<br /> J’ai par exemple effectué 5 ans des recherches sur les attentats du 11 Septembre, des recherches basées sur les faits et sur la science. Si ces recherches vont en contradiction avec la version officielle qui a conduit à des guerres de conquête faisant 1 million de morts, je dois me taire et être censuré ?<br /> Tu as lu 1984, tu sais que des dictateurs comme Hitler ont pu arrivé au pouvoir en prenant le contrôle de l’information ? Tu sais que Hitler c’est pas du conspirationnisme.<br /> Ton discours est dangereux, très dangereux pour l’humanité, méprisant et infantilisant pour l’intelligence.
juju251
Sylvio84:<br /> Donc tu considères que les gens sont trop cons et qu’ils n’ont pas d’esprit critique, qu’ils ne sont pas capables de faire leur propre recherche et que BFM doit leur fournir de l’information prémâchée, en toute indépendance et sans idéologie bien sûr ?<br /> …<br /> Tu réponds à qui concrètement ?
Voir tous les messages sur le forum

Actualités du moment

La prochaine BlizzCon en ligne prend date en février 2021
Le hub d'actualités Steam se dope aux news et sources externes
Un Raspberry Pi 3 et un soupçon d'IA pour mieux trier vos déchets
Bon plan : la carte microSDXC SanDisk Extreme Pro 64 Go + adaptateur SD à moins de 20€
Xbox Series X et Series S : les précommandes sont lancées !
La prochaine BlizzCon en ligne prend date en février 2021
FIFA 21 : vous n'aurez pas droit à la moindre démo cette année
L'UFC-Que Choisir porte plainte contre Nintendo pour
Batteries de voitures : et si on allait plutôt chercher les matériaux au fond des océans ?
OnePlus Nord : un étonnant bug provoque la réinitialisation intempestive de certains smartphones
Haut de page