Pour lutter contre le cyberharcèlement, Instagram va prévenir quand une légende semble offensante

19 décembre 2019 à 17h08
0
Alerte légende offensante Instagram
© Instagram

Instagram a annoncé le lancement d'une nouvelle fonctionnalité pour limiter les messages injurieux sur sa plateforme. À l'instar de ce qui a déjà été mis en place pour les commentaires, le réseau social utilisera désormais l'IA pour détecter si une légende peut paraître blessante et avertira l'utilisateur avant qu'il ne publie son post.

Le cyberharcèlement figure dorénavant parmi les préoccupations majeures des plateformes sociales. La semaine dernière, YouTube avait, par exemple, publié une série de modifications dans ses règles de modération. À présent, c'est au tour d'Instagram de renforcer son contrôle, poursuivant une politique déjà entamée l'été dernier.

Pas d'obligation de modifier le contenu

À cette époque, la filiale de Facebook avait en effet déployé une fonctionnalité pour limiter le nombre de commentaires offensants. L'idée était d'analyser le contenu du texte avant même sa publication et d'envoyer un message à son auteur, en l'invitant à modérer ses propos.

Ce système d'alerte préventive a semblé porter ses fruits, puisqu'Instagram a décidé de l'étendre aux légendes des posts, comme l'entreprise l'a expliqué sur son blog, lundi dernier. Le fonctionnement sera donc similaire : si la plateforme détecte du contenu ressemblant à d'autres ayant fait l'objet d'un signalement, à l'aide de ses algorithmes d'intelligence artificielle, elle préviendra l'utilisateur.

Celui-ci aura alors la possibilité de modifier son texte, mais sans aucune obligation. Il pourra également cliquer sur un bouton pour en savoir plus ou ignorer l'avertissement et mettre son post en ligne.

Un système qui aurait déjà fait ses preuves

D'après le réseau social, le simple fait d'alerter les utilisateurs sur le caractère potentiellement blessant de leurs propos aurait permis de réduire significativement le nombre de commentaires injurieux. Il espère donc que cette nouvelle initiative contribuera également à réduire le harcèlement en ligne, de la même façon que la fonction Restrict, qui permet de filtrer les commentaires d'une publication.

Mais il croit aussi aux vertus éducatives de ce système : les messages d'avertissement aideraient également les utilisateurs à prendre davantage connaissance des règles d'utilisation de la plateforme. Et à mieux comprendre ce qui est autorisé et ce qui doit être banni du réseau.

Dans un premier temps, l'outil sera mis en œuvre « dans certains pays », sans que l'entreprise ne précise lesquels. Puis, dans les prochains mois, il sera déployé à l'échelle mondiale.

Source : TechCrunch
Modifié le 20/12/2019 à 09h16
0
0
Partager l'article :

Les actualités récentes les plus commentées

Voiture électrique : combien coûte la recharge à domicile ? (MàJ Juillet 2020)
En réponse à des accusations de harcèlement des têtes tombent chez Ubisoft
Bosch dévoile son vélo concept électrique et tout suspendu
L'administration Trump va bientôt se passer des entreprises qui utilisent des appareils Huawei
L'Union européenne mise sur le développement d'un hydrogène propre
Far Cry 6 confirmé par Ubisoft, la présentation programmée au 12 juillet
Microsoft Flight Simulator sortira le 18 août sur PC
Thunderbolt 4 : 40 Gb/s ,mais Intel veut du 32 Gb/s en PCIe et la prise en charge double 4K
Taxe GAFA : 1,3 milliard de dollars de frais de douane pour la France... et 6 mois pour changer la donne
Apple recommande de ne pas fermer votre MacBook si vous en cachez la webcam… voilà pourquoi
scroll top