Des filtres de contenu pour censurer les insultes sur Xbox Live

15 octobre 2019 à 15h27
0
Xbox One

Microsoft va intégrer dans toutes ses applications Xbox un système de détection automatique des propos offensants, pour protéger les plus jeunes mais également une grande partie des joueurs de comportements inappropriés et de harcèlement en ligne.

Les équipes d'Xbox modèrent le comportement des joueurs depuis près de 20 ans et connaissent les problèmes majeurs que peuvent engendrer les propos orduriers ou humiliants proférés par certains utilisateurs. Si Microsoft prend le sujet à bras-le-corps depuis plusieurs années, elle va aller plus loin en intégrant des filtres de contenu permettant de masquer les injures et autres termes offensants. L'entreprise teste actuellement son dispositif pour les messages textuels, mais prévoit de l'adapter par la suite aux échanges audio.

Des analyses de texte en temps réel, selon quatre niveaux de filtrage

Les joueurs pourront choisir parmi quatre profils : « Friendly » qui bloquera tous les propos insultants, « Medium », « Mature » et « Unfiltered » qui n'appliquera aucune protection. Le but de ces différents niveaux de filtrage est de permettre aux joueurs adultes de pouvoir se chambrer entre amis sans supprimer les quelques noms d'oiseaux qui fusent, mais de bloquer les propos les plus virulents pour l'ensemble des joueurs.

Les comptes Xbox Live appartenant à des enfants seront eux placés par défaut sur le réglage « Friendly » pour éviter toute exposition à un langage fleuri ou à des situations de harcèlement en ligne.

Dave McCarthy, responsable des opérations Xbox chez Microsoft, explique à nos confrères de The Verge que l'intelligence artificielle à l'œuvre derrière cette technologie aura pour mission de déceler le contexte dans lequel ces messages sont envoyés, et de bien faire la distinction entre une partie entre proches et un discours nauséabond.


« C'est une chose de dire que vous allez faire une folie meurtrière quand vous vous préparez pour une mission multijoueurs à Halo, et c'en est une autre quand c'est prononcé dans un autre contexte. Trouver des moyens de comprendre le contexte et les nuances est une bataille sans fin », explique-t-il.

Microsoft veut également modérer les chats audio

La détection des messages vocaux est une autre paire de manches, mais Microsoft semble avoir à sa disposition de nombreux outils technologiques pour réussir à intercepter le plus de commentaires offensants.

« Nous n'en sommes qu'au début, et il y a une myriade d'autres techniques et technologies d'intelligence artificielle que nous cherchons à empiler autour du problème de la voix, des choses comme la détection des émotions et la détection du contexte que nous pouvons y appliquer. Je pense que nous apprenons dans l'ensemble... nous prenons notre temps pour bien faire les choses », ajoute Dave McCarthy à ce sujet.

Microsoft veille également à ce que ces technologies respectent la vie privée et la confidentialité des utilisateurs, de sortie à ne conserver aucune donnée lors de l'analyse des messages textuels et vocaux des joueurs.


Les tests devraient prendre plusieurs mois avant que les premiers filtrages n'apparaissent dans les réglages des joueurs autour du globe.

Source : The Verge
Modifié le 15/10/2019 à 17h03
1
2
Partager l'article :
Voir tous les messages sur le forum

Les actualités récentes les plus commentées

La centrale nucléaire de Fessenheim va cesser définitivement ses activités cette nuit
Convention citoyenne pour le climat : Macron promet 15 milliards d'euros et des réponses
Vraiment efficace le toit solaire de Tesla ? Une famille fait le bilan après trois mois d'utilisation
Amazon : des hackers auraient réussi à contourner la double authentification
Les émissions de CO2 dues à l'automobile ont encore augmenté en 2019, la faute aux SUV
Aux États-Unis, la mortalité des abeilles depuis un an est inquiétante
L’iPhone 12, livré sans chargeur ni écouteurs ?
Pour Steve Sinofsky, ex boss de Windows, le Mac sous ARM sera
Reddit bannit un forum pro-Trump, accusé de promouvoir la haine, Twitch suspend sa chaîne
Selon Epic Games, la PS5 est
scroll top