Des filtres de contenu pour censurer les insultes sur Xbox Live

Mathieu Grumiaux Contributeur
15 octobre 2019 à 15h27
0
Xbox One

Microsoft va intégrer dans toutes ses applications Xbox un système de détection automatique des propos offensants, pour protéger les plus jeunes mais également une grande partie des joueurs de comportements inappropriés et de harcèlement en ligne.

Les équipes d'Xbox modèrent le comportement des joueurs depuis près de 20 ans et connaissent les problèmes majeurs que peuvent engendrer les propos orduriers ou humiliants proférés par certains utilisateurs. Si Microsoft prend le sujet à bras-le-corps depuis plusieurs années, elle va aller plus loin en intégrant des filtres de contenu permettant de masquer les injures et autres termes offensants. L'entreprise teste actuellement son dispositif pour les messages textuels, mais prévoit de l'adapter par la suite aux échanges audio.

Des analyses de texte en temps réel, selon quatre niveaux de filtrage

Les joueurs pourront choisir parmi quatre profils : « Friendly » qui bloquera tous les propos insultants, « Medium », « Mature » et « Unfiltered » qui n'appliquera aucune protection. Le but de ces différents niveaux de filtrage est de permettre aux joueurs adultes de pouvoir se chambrer entre amis sans supprimer les quelques noms d'oiseaux qui fusent, mais de bloquer les propos les plus virulents pour l'ensemble des joueurs.

Les comptes Xbox Live appartenant à des enfants seront eux placés par défaut sur le réglage « Friendly » pour éviter toute exposition à un langage fleuri ou à des situations de harcèlement en ligne.

Dave McCarthy, responsable des opérations Xbox chez Microsoft, explique à nos confrères de The Verge que l'intelligence artificielle à l'œuvre derrière cette technologie aura pour mission de déceler le contexte dans lequel ces messages sont envoyés, et de bien faire la distinction entre une partie entre proches et un discours nauséabond.


« C'est une chose de dire que vous allez faire une folie meurtrière quand vous vous préparez pour une mission multijoueurs à Halo, et c'en est une autre quand c'est prononcé dans un autre contexte. Trouver des moyens de comprendre le contexte et les nuances est une bataille sans fin », explique-t-il.

Microsoft veut également modérer les chats audio

La détection des messages vocaux est une autre paire de manches, mais Microsoft semble avoir à sa disposition de nombreux outils technologiques pour réussir à intercepter le plus de commentaires offensants.

« Nous n'en sommes qu'au début, et il y a une myriade d'autres techniques et technologies d'intelligence artificielle que nous cherchons à empiler autour du problème de la voix, des choses comme la détection des émotions et la détection du contexte que nous pouvons y appliquer. Je pense que nous apprenons dans l'ensemble... nous prenons notre temps pour bien faire les choses », ajoute Dave McCarthy à ce sujet.

Microsoft veille également à ce que ces technologies respectent la vie privée et la confidentialité des utilisateurs, de sortie à ne conserver aucune donnée lors de l'analyse des messages textuels et vocaux des joueurs.


Les tests devraient prendre plusieurs mois avant que les premiers filtrages n'apparaissent dans les réglages des joueurs autour du globe.

Source : The Verge
Modifié le 15/10/2019 à 17h03
1 réponses
2 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

Porn : Macron veut
Émissions de CO2 : Bruno Le Maire milite pour le déplafonnement du malus automobile
Tesla Cybertruck, l’impressionnant pick-up électrique venu d’ailleurs
La loi d'orientation des mobilités (LOM) a été adoptée par le Parlement
Bill Gates est de nouveau l'homme le plus riche au monde devant Jeff Bezos
Mustang Mach-E : Ford lâche la cavalerie électrique… et ça va faire mal
Xavier Niel se dit prêt à investir 1,4 milliard de sa fortune personnelle dans Iliad-Free
Votre maison côtière sera-t-elle sous l’eau chaque année en 2050/2100 ?
Droit voisin : des éditeurs de presse français portent plainte
Pourquoi Stadia ne sera pas intéressant avant un an

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top