Pour lutter contre le cyberharcèlement, Instagram va prévenir quand une légende semble offensante

19 décembre 2019 à 17h08
0
Alerte légende offensante Instagram
© Instagram

Instagram a annoncé le lancement d'une nouvelle fonctionnalité pour limiter les messages injurieux sur sa plateforme. À l'instar de ce qui a déjà été mis en place pour les commentaires, le réseau social utilisera désormais l'IA pour détecter si une légende peut paraître blessante et avertira l'utilisateur avant qu'il ne publie son post.

Le cyberharcèlement figure dorénavant parmi les préoccupations majeures des plateformes sociales. La semaine dernière, YouTube avait, par exemple, publié une série de modifications dans ses règles de modération. À présent, c'est au tour d'Instagram de renforcer son contrôle, poursuivant une politique déjà entamée l'été dernier.

Pas d'obligation de modifier le contenu

À cette époque, la filiale de Facebook avait en effet déployé une fonctionnalité pour limiter le nombre de commentaires offensants. L'idée était d'analyser le contenu du texte avant même sa publication et d'envoyer un message à son auteur, en l'invitant à modérer ses propos.

Ce système d'alerte préventive a semblé porter ses fruits, puisqu'Instagram a décidé de l'étendre aux légendes des posts, comme l'entreprise l'a expliqué sur son blog, lundi dernier. Le fonctionnement sera donc similaire : si la plateforme détecte du contenu ressemblant à d'autres ayant fait l'objet d'un signalement, à l'aide de ses algorithmes d'intelligence artificielle, elle préviendra l'utilisateur.

Celui-ci aura alors la possibilité de modifier son texte, mais sans aucune obligation. Il pourra également cliquer sur un bouton pour en savoir plus ou ignorer l'avertissement et mettre son post en ligne.

Un système qui aurait déjà fait ses preuves

D'après le réseau social, le simple fait d'alerter les utilisateurs sur le caractère potentiellement blessant de leurs propos aurait permis de réduire significativement le nombre de commentaires injurieux. Il espère donc que cette nouvelle initiative contribuera également à réduire le harcèlement en ligne, de la même façon que la fonction Restrict, qui permet de filtrer les commentaires d'une publication.

Mais il croit aussi aux vertus éducatives de ce système : les messages d'avertissement aideraient également les utilisateurs à prendre davantage connaissance des règles d'utilisation de la plateforme. Et à mieux comprendre ce qui est autorisé et ce qui doit être banni du réseau.

Dans un premier temps, l'outil sera mis en œuvre « dans certains pays », sans que l'entreprise ne précise lesquels. Puis, dans les prochains mois, il sera déployé à l'échelle mondiale.

Source : TechCrunch
Modifié le 20/12/2019 à 09h16
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
0
0

Actualités du moment

Firefox et Chrome suppriment les applications Avast et AVG de leur webstore
La Finlande fait cadeau d'un cours en intelligence artificielle au monde entier
Instagram interdit aux influenceurs la promotion de la vapoteuse et des armes
Forfait 4G Free : pour Noël, profitez des promos sur l'offre Free 50Go pour 9,99€/mois
Transportez vos photos et vidéos facilement grâce à cette clé USB PNY 512Go à 58,80€ chez Rakuten
Derniers instants pour recevoir le Fire TV Stick avant Noël, de retour à 24,99€ au lieu de 39,99€
Stadia est désormais compatible avec tous les Chromecast Ultra
Le rover Mars 2020 de la NASA a passé ses premiers essais sur route
Piaggio Group (Vespa) officialise Ape E-City, un véhicule électrique à trois roues
Valve dévoile la liste des nommés aux Steam Awards 2019
Haut de page