Instagram prend des mesures contre le cyber-harcèlement

© Natee Meeplan

Instagram va désormais faire preuve de pédagogie et alerter les utilisateurs qui souhaitent publier un commentaire offensant en analysant leurs messages avant leur publication.

Le réseau social, propriété de Facebook a, comme toutes les plateformes communautaires sur Internet, fort à faire avec le harcèlement en ligne et les commentaires offensants tenus par une minorité d'utilisateurs.

Pour améliorer l'expérience de ses centaines de millions d'usagers, Instagram va intégrer deux nouvelles fonctionnalités à commencer par un dispositif d'analyse des commentaires.

Une détection automatiques des propos injurieux

Le système fonctionnera lors de la rédaction du message potentiellement injurieux. L'intelligence artificielle mise au point par les équipes du réseau social est capable, lors de la publication du commentaire, de détecter un champ lexical offensant.

L'application envoie alors un message à l'utilisateur, l'invitant à modérer ses propos et rester courtois, sous peine d'une suspension définitive de son compte. Selon les premiers résultats collectés par Instagram, cet encouragement à rester poli et respectueux porte ses fruits et le nombre de commentaires insultants a été réduit sensiblement.

Un système de modération pour éviter l'effet de meute dans les commentaires

L'application de partage de photos va également améliorer le filtrage des commentaires. Dans un post de blog, Instagram explique que certains utilisateurs, notamment les plus jeunes, hésitent à signaler ou bloquer un utilisateur de peur que cela aggrave la situation. La personne malintentionnée pourrait de fait créer de nouveaux comptes pour continuer à harceler sa victime, voire être agressif dans la vraie vie, si les utilisateurs se fréquentent, à l'école par exemple.

Avec Restrict, Instagram va permettre, d'un clic, de cacher les commentaires d'un utilisateur, qui ne seront visibles que par la personne qui les a rédigés et accessibles à tous seulement après une validation manuelle. L'effet nuisible de ces publications est dès lors limité, sans que la personne ne soit avertie ou bloquée. Instagram espère ainsi empêcher le harcèlement groupé qui peut très vite survenir sur le web.

Ces fonctionnalités sont d'ores et déjà en cours de déploiement à travers le monde et devraient être accessibles à tous dans les prochains jours.

Source : The Next Web