Facebook utilise l'intelligence artificielle pour repérer arnaques et faux comptes sur Messenger

22 mai 2020 à 09h30
2
messenger mac

Le tout sans lire les messages échangés !

En quelques mots :

  • Repérer automatiquement les profils suspects. Facebook a mis au point une nouvelle technique pour repérer les comptes factices conçus pour piéger les utilisateurs. Employée sur Messenger , cette méthode recourt à l’intelligence artificielle. Le réseau social utilise des algorithmes qui, sans lire les messages échangés, analysent l’activité des différents comptes pour détecter des anomalies. Par exemple, si un profil ajoute rapidement un grand nombre de comptes sans liens les uns avec les autres, ou envoie une multitude de messages à la suite qui restent sans réponse, l'algorithme identifie un éventuel faux profil. Cette technique non intrusive permet ainsi de lutter contre les spams et les arnaques sans surveiller les conversations de tout le monde.

  • Une technique compatible avec le chiffrement de bout en bout. Lorsqu’elle repère un compte suspect, l’intelligence artificielle, au lieu de le bloquer directement, envoie une alerte à l’utilisateur, qui a ensuite la possibilité d’ignorer, bloquer ou signaler le compte. L’alerte s’accompagne de recommandations quant aux précautions à prendre pour éviter les arnaques, afin de protéger les utilisateurs les plus vulnérables. Ne reposant pas sur la lecture des messages, ce dispositif resterait compatible avec le chiffrement de bout en bout que Facebook affirme vouloir instaurer sur Messenger, afin de répondre aux critiques qui lui sont adressées quant au respect de la vie privée des utilisateurs. Il pourrait également être utilisé sur WhatsApp . Testé sur Android depuis mars, le dispositif arrive sur iOS la semaine prochaine.

  • Informer plutôt que censurer. Cette approche est similaire à celle employée pour lutter contre la désinformation concernant le coronavirus : les algorithmes d’intelligence artificielle de Facebook identifient certains contenus comme douteux et fournissent des liens vers des sources d’information plus fiables. Le réseau social, tantôt accusé de censurer ses utilisateurs, tantôt de participer à l’essor du conspirationnisme, espère ainsi trouver un difficile équilibre entre la lutte contre la désinformation et le respect de la liberté d’expression.
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
2
3
orionb1
L’idéal serait que le spammer soit bloqué sans qu’il ne soit au courant ! Si on veut détruire leur business, il faut les faire travailler un max pour rien.
Peter_Vilmen
Les spammer vont ensuite verifier leurs spam avec des comptes valides.
orionb1
et ça leur rendra donc la tâche plus difficile<br /> mais tant qu’à être «&nbsp;pervers&nbsp;», on peut encore prévoir que les messages vers une adresse IP similaire ne soient pas bloqués<br /> l’IA pourrait aussi découvrir ces comptes de vérification et en tenir compte<br /> c’est certes toujours le jeu du chat et de la souris et il n’y aura jamais de solution parfaite mais il y a quand même moyen de «&nbsp;s’amuser&nbsp;»
Peter_Vilmen
Tres vrai ! Mais il y a un mur auquel beaucoup d’entreprises web se heurtent : les faux-positifs. Tu veux les minimiser voir les garder a zero. FB demandent une piece d’identite quand ils suspectent que tu spam, donc les faux-positifs ne sont pas si mechant que ca. Google eux, ne demandent jamais de piece d’identite il me semble, donc tu as une marge de manoeuvre assez large avant de voir ton compte clos parce qu’il faut que leurs algos soient a 100 pourcent certains que tu es un utilisateur frauduleux.<br /> Les adresses IP c’est tricky, la plupart des ISPs les attribuent de maniere dynamique, donc se baser uniquement sur les IPs c’est un coup a bannir des utilisateurs legits.
Voir tous les messages sur le forum

Actualités du moment

Justice League : la version director's cut de Zack Snyder sera sur HBO Max en 2021 !
Serious Sam 4 pas avant 2021 sur PS4 et Xbox One, la faute à... Google Stadia !
Découvrez le premier rendu 3D du Samsung Galaxy Note 20
Twitter permet désormais de définir qui est en mesure de répondre aux tweets
Une faille de sécurité trouvée dans l'app de messagerie instantanée Signal
Nouveau venu sur le marché des taxis aériens, Archer effectuerait de premiers vols tests en 2021
Stockage en ligne : l'offre Famille pCloud à seulement 350€ !
Xiaomi : au premier trimestre, des résultats nettement supérieurs aux attentes
Android inaugure de nouvelles fonctionnalités d'accessibilité pour les sourds et malvoyants
Google Maps intègre une nouvelle fonction indiquant les accès handicapés des bâtiments
Haut de page