Pour lutter contre le cyberharcèlement, Instagram va prévenir quand une légende semble offensante

19 décembre 2019 à 17h08
0
Alerte légende offensante Instagram
© Instagram

Instagram a annoncé le lancement d'une nouvelle fonctionnalité pour limiter les messages injurieux sur sa plateforme. À l'instar de ce qui a déjà été mis en place pour les commentaires, le réseau social utilisera désormais l'IA pour détecter si une légende peut paraître blessante et avertira l'utilisateur avant qu'il ne publie son post.

Le cyberharcèlement figure dorénavant parmi les préoccupations majeures des plateformes sociales. La semaine dernière, YouTube avait, par exemple, publié une série de modifications dans ses règles de modération. À présent, c'est au tour d'Instagram de renforcer son contrôle, poursuivant une politique déjà entamée l'été dernier.

Pas d'obligation de modifier le contenu

À cette époque, la filiale de Facebook avait en effet déployé une fonctionnalité pour limiter le nombre de commentaires offensants. L'idée était d'analyser le contenu du texte avant même sa publication et d'envoyer un message à son auteur, en l'invitant à modérer ses propos.

Ce système d'alerte préventive a semblé porter ses fruits, puisqu'Instagram a décidé de l'étendre aux légendes des posts, comme l'entreprise l'a expliqué sur son blog, lundi dernier. Le fonctionnement sera donc similaire : si la plateforme détecte du contenu ressemblant à d'autres ayant fait l'objet d'un signalement, à l'aide de ses algorithmes d'intelligence artificielle, elle préviendra l'utilisateur.

Celui-ci aura alors la possibilité de modifier son texte, mais sans aucune obligation. Il pourra également cliquer sur un bouton pour en savoir plus ou ignorer l'avertissement et mettre son post en ligne.

Un système qui aurait déjà fait ses preuves

D'après le réseau social, le simple fait d'alerter les utilisateurs sur le caractère potentiellement blessant de leurs propos aurait permis de réduire significativement le nombre de commentaires injurieux. Il espère donc que cette nouvelle initiative contribuera également à réduire le harcèlement en ligne, de la même façon que la fonction Restrict, qui permet de filtrer les commentaires d'une publication.

Mais il croit aussi aux vertus éducatives de ce système : les messages d'avertissement aideraient également les utilisateurs à prendre davantage connaissance des règles d'utilisation de la plateforme. Et à mieux comprendre ce qui est autorisé et ce qui doit être banni du réseau.

Dans un premier temps, l'outil sera mis en œuvre « dans certains pays », sans que l'entreprise ne précise lesquels. Puis, dans les prochains mois, il sera déployé à l'échelle mondiale.

Source : TechCrunch
Modifié le 20/12/2019 à 09h16
0
0
Partager l'article :

Les actualités récentes les plus commentées

Covid-19 : Twitter connaît une hausse de 900% des discours racistes contre la Chine
Coronavirus : le traçage numérique
L'empreinte carbone issue de la consommation des Français a chuté de deux-tiers avec le confinement
Coup dur chez HPE : des SSD destinés aux entreprises pourraient se briquer après 40 000 heures
Le stockage d’énergie sous forme d’hydrogène fait un bond en avant
Xiaomi lancera la très attendue Mi TV 4S 65
Des Macbook propulsés par des processeurs ARM prévus pour l'an prochain
Office 365 devient Microsoft 365 et fait le plein de nouveautés
Folding@home dépasse l'ExaFLOP pour lutter contre le Coronavirus
Renault prête 1 300 véhicules au personnel soignant, dont 300 ZOE électriques
scroll top