L’IA de Facebook va détecter les posts suicidaires

Par ,
le 28 novembre 2017
 0
Lorsqu'elles sont en dépression et qu'elles ont des envies suicidaires, de nombreuses personnes, en particulier les plus jeunes, lancent un appel au secours sur les réseaux sociaux. Cet appel peut prendre plusieurs formes et passe parfois inaperçu auprès des proches et des « amis ». Facebook a donc décidé de faire appel à la puissance de l'intelligence artificielle pour tenter d'identifier ces appels afin de prévenir les proches et les autorités.

Cette nouvelle fonctionnalité de l'intelligence artificielle va être déployée partout dans le monde par Facebook... sauf dans l'Union Européenne où la législation sur la protection des données des utilisateurs la rend inutilisable.

Analyser les posts et déceler les pensées suicidaires


La technique a déjà été testée aux Etats-Unis mais désormais, elle bénéficiera à quasiment tous les utilisateurs de Facebook : l'intelligence artificielle est capable de savoir si un post sur Facebook a une tendance suicidaire. De quoi rendre plus rapide le traitement de ces messages qui sont signalés et traités par des modérateurs humains. Jusqu'à présent, en effet, ces messages n'étaient signalés que par d'autres utilisateurs grâce aux options de signalement du réseau social.

Seul souci : lorsque la personne envoie son message à une heure tardive de la nuit, par exemple, ce dernier risque fortement de passer inaperçu. L'intelligence artificielle va permettre de traiter plus rapidement et plus efficacement ces messages de détresse et, surtout, de les prioriser : il y a une différence entre vouloir réellement mettre fin à ses jours et avoir juste une grosse déprime à cause, par exemple, d'une peine de coeur. L'IA devrait être en mesure de faire la différence et de prioriser le traitement des posts réellement dangereux.

01f4000008751762-photo-facebookbuilding.jpg


Facebook Live dans le collimateur de Facebook


Pour reconnaître les tendances suicidaires, l'intelligence artificielle se base en grande partie sur les signalements plus anciens, déjà réalisés par les utilisateurs Facebook dans le passé, ainsi que sur leurs commentaires. Une fois détecté, le post dangereux est donc signalé à l'équipe de modération qui se chargera de tenter d'entrer en contact avec la personne, de contacter des proches ou de prévenir les secours si le danger est imminent.

Facebook veut sauver des vies mais également tenter d'éviter de nouveaux suicides en direct sur Facebook Live. C'est déjà arrivé à plusieurs reprises et à chaque fois, Facebook est pointé du doigt. Une mauvaise publicité pour le réseau social qui semble avoir compris qu'il a une responsabilité et un rôle à jouer dans la prévention des comportements dangereux comme les suicides, mais également les viols ou le harcèlement.

Modifié le 01/06/2018 à 15h36
scroll top