🔴 LE BLACK FRIDAY EN DIRECT !

Des filtres de contenu pour censurer les insultes sur Xbox Live

15 octobre 2019 à 17h03
1
Xbox One

Microsoft va intégrer dans toutes ses applications Xbox un système de détection automatique des propos offensants, pour protéger les plus jeunes mais également une grande partie des joueurs de comportements inappropriés et de harcèlement en ligne.

Les équipes d'Xbox modèrent le comportement des joueurs depuis près de 20 ans et connaissent les problèmes majeurs que peuvent engendrer les propos orduriers ou humiliants proférés par certains utilisateurs. Si Microsoft prend le sujet à bras-le-corps depuis plusieurs années, elle va aller plus loin en intégrant des filtres de contenu permettant de masquer les injures et autres termes offensants. L'entreprise teste actuellement son dispositif pour les messages textuels, mais prévoit de l'adapter par la suite aux échanges audio.

Des analyses de texte en temps réel, selon quatre niveaux de filtrage

Les joueurs pourront choisir parmi quatre profils : « Friendly » qui bloquera tous les propos insultants, « Medium », « Mature » et « Unfiltered » qui n'appliquera aucune protection. Le but de ces différents niveaux de filtrage est de permettre aux joueurs adultes de pouvoir se chambrer entre amis sans supprimer les quelques noms d'oiseaux qui fusent, mais de bloquer les propos les plus virulents pour l'ensemble des joueurs.

Les comptes Xbox Live appartenant à des enfants seront eux placés par défaut sur le réglage « Friendly » pour éviter toute exposition à un langage fleuri ou à des situations de harcèlement en ligne.

Dave McCarthy, responsable des opérations Xbox chez Microsoft, explique à nos confrères de The Verge que l'intelligence artificielle à l'œuvre derrière cette technologie aura pour mission de déceler le contexte dans lequel ces messages sont envoyés, et de bien faire la distinction entre une partie entre proches et un discours nauséabond.


« C'est une chose de dire que vous allez faire une folie meurtrière quand vous vous préparez pour une mission multijoueurs à Halo, et c'en est une autre quand c'est prononcé dans un autre contexte. Trouver des moyens de comprendre le contexte et les nuances est une bataille sans fin », explique-t-il.

Microsoft veut également modérer les chats audio

La détection des messages vocaux est une autre paire de manches, mais Microsoft semble avoir à sa disposition de nombreux outils technologiques pour réussir à intercepter le plus de commentaires offensants.

« Nous n'en sommes qu'au début, et il y a une myriade d'autres techniques et technologies d'intelligence artificielle que nous cherchons à empiler autour du problème de la voix, des choses comme la détection des émotions et la détection du contexte que nous pouvons y appliquer. Je pense que nous apprenons dans l'ensemble... nous prenons notre temps pour bien faire les choses », ajoute Dave McCarthy à ce sujet.

Microsoft veille également à ce que ces technologies respectent la vie privée et la confidentialité des utilisateurs, de sortie à ne conserver aucune donnée lors de l'analyse des messages textuels et vocaux des joueurs.


Les tests devraient prendre plusieurs mois avant que les premiers filtrages n'apparaissent dans les réglages des joueurs autour du globe.

Source : The Verge
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
1
2
Bwaaazaaah
Microsoft devrait plutôt se concentrer sur l’efficacité et le bon fonctionnement des mises à jour de Windows et de la Xbox… l’idée est bonne mais il y a des priorités… surtout pour les utilisateurs
Cassin
C’est triste d’en arriver à des systèmes de censure automatique pour les discussions en ligne -_-<br /> Enfin c’est dans l’air du temps, y’a qu’à voir rien que sur le forum comment les noms d’oiseaux volent pas dès que quelqu’un n’a pas le même raisonnement
Voir tous les messages sur le forum

Actualités du moment

HP lance une Chromebox, mini PC sous Chrome OS, destinée aux entreprises
Cloud gaming : Google Stadia sera disponible le 19 novembre
Barre de son Samsung Harman Kardon HW-Q60R 5.1 Noir à 249,99€ au lieu de 499,99€
Made by Google 2019 : lancement des Pixelbook Go et modernisation des Pixel Buds
Xiaomi pose un brevet pour des modules photos
Le Blade 15 de Razer va bénéficier du premier clavier optique sur portable
La nouvelle clé de sécurité Titan de Google débarque en USB-C avec Yubico
Bouygues Telecom propose une nouvelle solution pour faire réparer son smartphone
Resident Evil 7 : une préquelle surprise en VR... jouable dès la fin du mois d'octobre !
Quand Qwant présente Qwant Junior à la radio (podcast)
Haut de page