Pour lutter contre le cyberharcèlement, Instagram va prévenir quand une légende semble offensante

© Instagram

Instagram a annoncé le lancement d'une nouvelle fonctionnalité pour limiter les messages injurieux sur sa plateforme. À l'instar de ce qui a déjà été mis en place pour les commentaires, le réseau social utilisera désormais l'IA pour détecter si une légende peut paraître blessante et avertira l'utilisateur avant qu'il ne publie son post.

Le cyberharcèlement figure dorénavant parmi les préoccupations majeures des plateformes sociales. La semaine dernière, YouTube avait, par exemple, publié une série de modifications dans ses règles de modération. À présent, c'est au tour d'Instagram de renforcer son contrôle, poursuivant une politique déjà entamée l'été dernier.

Pas d'obligation de modifier le contenu

À cette époque, la filiale de Facebook avait en effet déployé une fonctionnalité pour limiter le nombre de commentaires offensants. L'idée était d'analyser le contenu du texte avant même sa publication et d'envoyer un message à son auteur, en l'invitant à modérer ses propos.

Ce système d'alerte préventive a semblé porter ses fruits, puisqu'Instagram a décidé de l'étendre aux légendes des posts, comme l'entreprise l'a expliqué sur son blog, lundi dernier. Le fonctionnement sera donc similaire : si la plateforme détecte du contenu ressemblant à d'autres ayant fait l'objet d'un signalement, à l'aide de ses algorithmes d'intelligence artificielle, elle préviendra l'utilisateur.

Celui-ci aura alors la possibilité de modifier son texte, mais sans aucune obligation. Il pourra également cliquer sur un bouton pour en savoir plus ou ignorer l'avertissement et mettre son post en ligne.

Un système qui aurait déjà fait ses preuves

D'après le réseau social, le simple fait d'alerter les utilisateurs sur le caractère potentiellement blessant de leurs propos aurait permis de réduire significativement le nombre de commentaires injurieux. Il espère donc que cette nouvelle initiative contribuera également à réduire le harcèlement en ligne, de la même façon que la fonction Restrict, qui permet de filtrer les commentaires d'une publication.

Mais il croit aussi aux vertus éducatives de ce système : les messages d'avertissement aideraient également les utilisateurs à prendre davantage connaissance des règles d'utilisation de la plateforme. Et à mieux comprendre ce qui est autorisé et ce qui doit être banni du réseau.

Dans un premier temps, l'outil sera mis en œuvre « dans certains pays », sans que l'entreprise ne précise lesquels. Puis, dans les prochains mois, il sera déployé à l'échelle mondiale.

Source : TechCrunch