Des filtres de contenu pour censurer les insultes sur Xbox Live

Microsoft va intégrer dans toutes ses applications Xbox un système de détection automatique des propos offensants, pour protéger les plus jeunes mais également une grande partie des joueurs de comportements inappropriés et de harcèlement en ligne.

Les équipes d'Xbox modèrent le comportement des joueurs depuis près de 20 ans et connaissent les problèmes majeurs que peuvent engendrer les propos orduriers ou humiliants proférés par certains utilisateurs. Si Microsoft prend le sujet à bras-le-corps depuis plusieurs années, elle va aller plus loin en intégrant des filtres de contenu permettant de masquer les injures et autres termes offensants. L'entreprise teste actuellement son dispositif pour les messages textuels, mais prévoit de l'adapter par la suite aux échanges audio.

Des analyses de texte en temps réel, selon quatre niveaux de filtrage

Les joueurs pourront choisir parmi quatre profils : « Friendly » qui bloquera tous les propos insultants, « Medium », « Mature » et « Unfiltered » qui n'appliquera aucune protection. Le but de ces différents niveaux de filtrage est de permettre aux joueurs adultes de pouvoir se chambrer entre amis sans supprimer les quelques noms d'oiseaux qui fusent, mais de bloquer les propos les plus virulents pour l'ensemble des joueurs.

Les comptes Xbox Live appartenant à des enfants seront eux placés par défaut sur le réglage « Friendly » pour éviter toute exposition à un langage fleuri ou à des situations de harcèlement en ligne.

Dave McCarthy, responsable des opérations Xbox chez Microsoft, explique à nos confrères de The Verge que l'intelligence artificielle à l'œuvre derrière cette technologie aura pour mission de déceler le contexte dans lequel ces messages sont envoyés, et de bien faire la distinction entre une partie entre proches et un discours nauséabond.


« C'est une chose de dire que vous allez faire une folie meurtrière quand vous vous préparez pour une mission multijoueurs à Halo, et c'en est une autre quand c'est prononcé dans un autre contexte. Trouver des moyens de comprendre le contexte et les nuances est une bataille sans fin », explique-t-il.

Microsoft veut également modérer les chats audio

La détection des messages vocaux est une autre paire de manches, mais Microsoft semble avoir à sa disposition de nombreux outils technologiques pour réussir à intercepter le plus de commentaires offensants.

« Nous n'en sommes qu'au début, et il y a une myriade d'autres techniques et technologies d'intelligence artificielle que nous cherchons à empiler autour du problème de la voix, des choses comme la détection des émotions et la détection du contexte que nous pouvons y appliquer. Je pense que nous apprenons dans l'ensemble... nous prenons notre temps pour bien faire les choses », ajoute Dave McCarthy à ce sujet.

Microsoft veille également à ce que ces technologies respectent la vie privée et la confidentialité des utilisateurs, de sortie à ne conserver aucune donnée lors de l'analyse des messages textuels et vocaux des joueurs.


Les tests devraient prendre plusieurs mois avant que les premiers filtrages n'apparaissent dans les réglages des joueurs autour du globe.

Source : The Verge