Désinformation en ligne : le MIT met au point une IA capable de détecter les réseaux de fake news

Alexandre Boero

Chargé de l'actualité de Clubic

02 juin 2021 à 08h44

Une équipe du Massachusetts Institute of Technology (MIT) est parvenue à mettre au point un système basé sur l'intelligence artificielle permettant de détecter les fake news, avec un très haut taux de précision.

Sur le chemin de la lutte contre la désinformation en ligne, une équipe de recherche du groupe Artificial Intelligence Software Architectures and Algorithms, rattachée au Lincoln Laboratory du célèbre MIT, s'était mise en tête de mieux comprendre les campagnes de désinformation, qui sévissent sur le Web et plus particulièrement sur les réseaux sociaux. Et les chercheurs en sont convaincus : à l'aide de l'intelligence artificielle, ils parviendront à contrer la propagation des fake news et à identifier ceux qui en sont à l'origine.

Une expérimentation durant les présidentielles françaises de 2017, avec une exceptionnelle précision dans la détection des comptes de désinformation

Tout a commencé en 2014 lorsque Steven Smith, membre du MIT Lincoln Laboratory, s'était lancé dans une quête visant à mieux comprendre l'essor des campagnes de désinformation en ligne. À cette époque, Smith et les autres chercheurs souhaitaient étudier la façon dont les groupes malveillants exploitaient les réseaux sociaux. Leur attention s'était portée sur des comptes qui selon eux avaient une activité inhabituelle. Ils semblaient alors pousser des informations pro-russes.

Curieuse d'en savoir plus et de se livrer à un cas pratique d'envergure, l'équipe de recherche a alors sollicité des financements supplémentaires pour étudier la campagne présidentielle française de 2017, et ainsi savoir si des techniques identiques pouvaient être utilisées.

En utilisant leur programme, baptisé RIO (pour Reconnaissance of Influence Operations), les chercheurs ont collecté une foule de données sur les réseaux sociaux, en temps réel, dans les 30 jours précédant les élections. Leur objectif était alors de rechercher et d'analyser la propagation des contenus assimilés à la désinformation. En un mois, ils étaient parvenus à compiler 28 millions de publications Twitter, provenant d'un million de comptes. Avec le programme RIO, ils furent en mesure de détecter les comptes relayant des fake news avec une précision de 96 %.

L'IA RIO peut détecter aussi bien les comptes robots que ceux gérés par des humains

Pour être d'une extrême précision, le système RIO combine plusieurs techniques d'analyse, afin de créer une sorte de toile de l'endroit et de la façon dont les news de désinformation sont diffusées. Et les spécialistes ne se contentent pas de se baser sur le nombre de tweets ou de retweets de chaque compte pour juger du pouvoir de désinformation de ce dernier. « Ce que nous avons constaté, c'est que dans de nombreux cas, ce n'est pas suffisant. Cela ne vous dit pas réellement l'impact des comptes sur le réseau social », explique l'un des membres de l'équipe RIO, Edward Kao.

Edward Kao a justement développé une approche statistique utilisée dans le programme RIO qui permet de savoir si un compte de réseau social se livre à de la désinformation, mais aussi à quel point le compte a un impact sur le réseau, et à quel degré ledit réseau amplifie le message diffusé. Autre membre de l'équipe, Erika Mackin, elle, a utilisé l'apprentissage automatique (machine learning) pour étudier le comportement de comptes, afin de savoir s'ils interagissent avec des médias étrangers, et la langue qu'ils utilisent. Cette approche a permis au programme RIO de détecter des comptes malveillants actifs aussi bien dans la campagne présidentielle française de 2017 que dans celle de désinformation sur la Covid-19.

L'un des grands avantages du programme RIO est qu'il peut détecter aussi bien des robots que des comptes gérés par des humains, ce qui le différencie grandement des systèmes automatisés habituels.

Si aujourd'hui le Lincoln Laboratory s'intéresse à la propagation des nouvelles de désinformation dans les médias européens, les chercheurs du programme RIO espèrent une utilisation future dans l'industrie des médias sociaux et même dans certains pays, à l'échelle gouvernementale. Un nouveau programme, visant à étudier les effets psychologiques et le changement de comportement occasionnés par la désinformation sur les utilisateurs, est en train d'être développé par les membres du MIT.

Source : Tech Xplore

Alexandre Boero

Chargé de l'actualité de Clubic

Lire d'autres articles

Journaliste, chargé de l'actualité de CLUBIC. Reporter, vidéaste, animateur et même imitateur-chanteur, j'ai écrit mon premier article en 6ème. J'ai fait de cette vocation mon métier (diplômé de l'EJCAM), pour écrire, interroger, filmer, monter et produire au quotidien. Des atomes crochus avec la Tech, certes, mais aussi avec l'univers des médias, du sport et du voyage. Outre le journalisme, la prod' vidéo et l'animation, je possède une chaîne YouTube (à mon nom) qui devrait piquer votre curiosité si vous aimez les belles balades à travers le monde, les nouvelles technologies et Koh-Lanta :)

Lire d'autres articles

Commentaires (21)

Cynian90

A noter que cet outil peut tout autant être utilisé pour surveiller l’opposition, ou bien pour mesurer et optimiser une campagne de propagande.

Guillaume1972

Lorsque les Fake newsers créé « leur propre tombe » parce qu’ils ont littéralement fournit le terreau a leur propre détection. Est-ce la fin des fake news? Assurément non, mais ils risquent d’avoir moins d’influence.Et ça, ce n’est pas une mauvaise nouvelle parce que les Fake news peuvent modifier le résultat d’élection mais également changer certains comportements mais également des façons de penser. mais l’on devrait aussi s’interroger pourquoi certains sont plus enclin à croire ses Fake news. Pour certains croirent n’importe quoi sans même rechercher les sources ou la contradiction du moment que ça rentre en corrélation avec leurs croyances. Peut-être y aurait-il un problème d’éducation, de culture, de manque de curiosité ou peut-être même par fainéantise intellectuelle.Alors oui, les Fake news et leurs conséquences sont des fléaux.Parmi ceux enclin à croire aux Fake News, on peut citer les platistes, les creusistes, les Antivacc, les adorateurs de Trump, ceux qui pensent que l’homme n’est jamais allé sur la Lune, ceux qui ont voté pour le Brexit parce qu’on leur a fournit de mauvaises informations, etc… Réfléchir est une bonne chose et me paraît même nécessaire mais il y a une différence entre réfléchir et croire des inepties sans même chercher la contradiction. Mais je suppose que ces gens cherchent avant tout des sites correspondant à leurs convictions.Piur ceux qui voudraient un exemple, je voudras vous conseiller la fabrique du mensonge sur le Brexit, c’est édifiant et prouve que les Fake news peuvent modifiées les résultats d’une élection, mais pour ceux qui seraient intéressés, je leur propose de faire leurs propres recherches.Je pourrai aussi proposer aux gens de s’intéresser à l’affaire du Pizzagate et de se demander quel aurait été le résultat de l’élection présidentielle américaine sans cette Fake news.

Voigt-Kampf

La chasse aux-dits « fake news » est devenu LA pierre angulaire d’un système et de son pouvoir pour accentuer la surveillance de masse et restreindre le plus possible les libertés. Il y en a un qui a dit « jetez une grenouille dans une casserole d’eau bouillante et elle va bondir pour s’échapper. Mettez-la dans une eau tiède, et chauffez progressivement la casserole, elle ne se rendra même pas compte qu’elle est en train de cuire ».

LeToi

Et tu as essayé, c’est vrai, l’histoire de la grenouille ?

Voigt-Kampf

Non, c’est vrai. Je peux tester sur toi STP ? J’en ai grandement envie ! Je suis sûr que ça va marcher.

toug19

tu n’as pas complètement tord, mais laisser se propager les fake news et on aura des guerres civiles, ils suffit de regarder l’assaut du Capitole.

Voigt-Kampf

La question est qui a le plus intérêt de propager des fake news ? Qui a dit que l’Irak avait des armes de « destructions massives » ? Qui avait intérêt de propager n’importe quoi sur la Libye pour qu’elle soit à feu et à sang ? Le problème (et ta réponse le soulève bien) c’est qu’on caricature une position comme venant de gens bas du front et qui sont montrés du doigt comme étant le danger ultime. Soyons honnête : ce n’est pas des individus accoutrés de peaux de bête qui risquent de déclencher une guerre, mais bien un gouvernement, un lobby, une organisation etc. qui disposent de moyen logistique et financier bien plus conséquent que ces rigolos dramatiques, aussi meurtriers soient-ils. Et c’est la grande force de nos « nouveaux pouvoirs » : avoir fait croire que la menace vient d’en bas.

carinae

Oui enfin on ne va pas se mentir non plus, un certain nombre de Fake News sont relayées par des gens qui ont une vision très étroite de certains sujets. Il suffit de voir les discours auxquels on a eu droit pendant la pandémie ou avec la 5G. Mais soyons honnêtes, certaines Fake News sont initiées et relayées par des gens qui y ont un intérêt politique ou économique. On l’a bien Vu ces dernières années, et même lors du brexit puisque bon nombre de chiffres présentés était faux ou sorti de leur contexte. La Fake New est devenue une arme. Tout le problème est d’avoir suffisamment de jugement pour savoir démêler le vrai du faux…et la ce n’est pas gagné parce que parfois ce n’est pas une chose aussi aisée que ça.

Voigt-Kampf

Ahem… « un certain nombre ». En fait, c’est ce « a-peu-près-isme » qui me gêne et que certains sont prompt à relever mais qui curieusement est toléré dans une certaine position. Ce que tu dis ne change rien à ce que j’évoque, bien au contraire. Hier, les gens qui dénonçaient le mensonge (aujourd’hui plus qu’avéré puisque même son auteur l’admet) sur les preuves d’armes de l’Irak se sont fait traité de « complotistes » même si ce mot n’existait pas réellement, ou en tout cas il n’était pas à la mode comme il l’est aujourd’hui. Maintenant avec ce genre de news, cela veut dire que l’autorité en place est capable de décider ce qui est « fake news » ou non (les médias ne font que suivre, c’est exactement leur fonctionnement aujourd’hui). Donc il n’est pas impossible de penser que de dire simplement que 2+2 est égal à 4 peut être catégorisé comme « fake news » si cela menace le système en place. Et si tu veux mon opinion perso, que des gens pensent et même le disent que 2+2 font 5, cela n’empêche nullement ma vie de se dérouler, de dormir la nuit, et mes pensées rester imperturbables. De même, je vois des gens étaler leur « expérience » (rien ne m’empêche de douter de leur véracité tu noteras, voilà pourquoi je met des guillemets) en tombant sur « un platiste, complotiste, ou nimportkoiïste » et font mousser leur histoire en humiliant et insultant au maximum ledit coupable, sans qu’il n’ait à y répondre… où l’art de briller en société à peu de frais. C’est devenu le sport à la mode. Tu sais, je rêverai de débattre avec un vrai platiste convaincu, au moins, je sais qu’il va sortir des arguments forts pour étayer sa thèse, ce qui veut dire qu’il va falloir que je redouble d’effort pour le contredire, soit repousser mes limites de mes connaissances. C’est peut-être ça le vrai « progrès ». Pas d’écouter un lambda qui va rire comme une hyène avec son doigt enfoncé dans l’orifice anal et qui va oser dire qu’on voit la courbure de la Terre rien qu’au sol, alors que des mecs beaucoup plus intéressant et sérieux comme « Balade Mental » te diront que même en avion de ligne avec l’œil humain il est impossible de voir la courbure de la Terre et qu’il faut encore monter en altitude avant d’espérer la voir.

Blackalf

@burnit message supprimé pour le motif hors-sujet aberrant. On se passera de prosélytisme religieux qui n’a rien à faire ici.

benben99

Le danger de ce système est que ça dépend de ce qu’on entend par Fake News… C’est ce qui est extrèmement dangereux. Par exemple, même dans certains médias internet, il y a de nombreuses fake news sur des sujets comme la Chine, le Myanmar, Israel, et la Palestine. Quand Facebook, Twitter et compagnie se mettent à décider de ce qui est une fake news ou non, ou de quels mots on a le droit d’utiliser ou non dans une discussion, on s’en va dans un chemin très dangereux. On l’a vu récemment, Facebook disait que telle chose était une fake news et finalement la semaine passée ils ont fait volte face pour dire que finalement ce n’était pas une fake news… Cela montre à quel point des médias internet peuvent manipuler l’opinion publique de façon volontaire ou non.

Cynian90

Un exemple, la thèse du Covid19 échappé d’un laboratoire de Wuhan fut pendant un temps désignée comme fake news, comme théorie du complot, les modérateurs de clubic aurait censuré toute personne osant l’énoncer, alors qu’aujourd’hui c’est la thèse la plus probable et défendue par de nombreux scientifiques.

FoxLeGoupil

C’est loin d’être « la thèse la plus probable » comme tu dis et il n’y a pas tant que ça de scientifiques qui le pense, c’est une thèse à ne pas écarter, certes, mais elle reste peu probable. A l’heure actuelle, dire que le virus vient de ce laboratoire sans la moindre preuve est une Fake news.

benben99

Donc, je pense que ce type de système décrit dans la news est dangereux. On l’a vu très bien dans d’autres news également, un système d’intelligence artificielle peut très bien devenir biaisé selon les données d’entrainement qui sont donné au modèle… Par exemple, tu donnes à un modèle des données qui sont discriminatoires selon la race ou selon le statut (ex.: immigrant vs non immigrant) et le modèle va apprendre à être raciste. Le meme principe s’applique évidemment aux fake news. Ce type de système facilite évidemment la modération a grande échelle. On pourrait par exemple remplacer des modérateurs sur des site webs par une IA pour censurer des messages qui rendraient potentiellement certains gens inconfortables. Mais est-ce que ce serait mieux? Les modérateurs humains ne sont pas objectifs non plus pour déteter les fake news (c<est la nature humaine) et le travail manuel prend un temps immense… Donc c’est quand même difficile de choisir quoi faire… IA vs HUMAIN? À mon avis la meilleure solution est d’avoir un commité externe du gouvernement qui supervise ce que les compagnies privées font. Facebook et Twitter ne devraient pas avoir le droit de censurer le president des US sans avoir de compte a rendre par exemple.

juju251

Cynian90: Un exemple, la thèse du Covid19 échappé d’un laboratoire de Wuhan fut pendant un temps désignée comme fake news, comme théorie du complot, les modérateurs de clubic aurait censuré toute personne osant l’énoncer, alors qu’aujourd’hui c’est la thèse la plus probable et défendue par de nombreux scientifiques. Tout dépend comment c’est énoncé en fait. Il est certain que lorsque certains ont brandi un brevet de 2003 lié à des recherches de l’institut pasteur sur Sars Cov (« premier du nom ») en affirmant que c’était LA preuve ultime d’un complot mondial … ben c’était clairement une thèse pleine de fumée si tu vois ce que je veux dire … Par contre, s’il y a clairement des arguments, ben ça reste une possibilité, MAIS contrairement à ce que tu affirmes, il ne me semble pas que ce soit « la plus probable ». Dernier point, il serait bien de cesser ta provocation contre l’équipe de modération, merci.

Popoulo

La revue américaine Science, publication du 14 mai dernier, fait référence à la demande de nombreux scientifiques pour effectivement relancer sérieusement l’enquête concernant ce laboratoire chinois après de nombreuses informations incriminant ledit labo. Seul soucis, l’OMS n’y tient pas.

LeToi

Faut pas croire tout ce que « un » a dit ^^ Je n’arrive pas à te mettre le lien, ça me dit « commentaire invalide », mais il suffit de chercher « Fable de la grenouille » sur Wikipedia

benben99

Popoulo: La revue américaine Science, publication du 14 mai dernier, fait référence à la demande de nombreux scientifiques pour effectivement relancer sérieusement l’enquête concernant ce laboratoire chinois après de nombreuses informations incriminant ledit labo. Seul soucis, l’OMS n’y tient pas. Il n’y a que des informations circonstancielles. Aucune preuves directes de cette théorie. L’OMS a déjà jugé que c’est extrèmement improbable. Et même si c’était vrai ou faux, personne ne va prouver cette théorie La Chine n’a aucun intérêt à accepter une enquête. Peu importe la conclusion, les gens vont tourné cela en négatif. Par exemple, si c’est faux, les gens vont tout de suite dire que l’enquête est manipulée… C’est la définition même de fake news ou de complot. Peut importe ce que tu fais pour démonter la théorie, les complotistes vont continuer d’y croire. Donc le mieux est d’arrêter d’alimenter les complotistes… C’est ce que la Chine fait et ce qui est le plus raisonable de faire.

Cynian90

Au temps pour moi, il n’y avait aucune provocation dans mon message, je donnais Clubic comme un exemple, tous les forums auraient fait de même. Pour ce qui est de la thèse de l’échappée de laboratoire, le problème c’est que tout pointe dans ce sens, et que absolument rien ne favorise l’émergence naturelle : L’émergence naturelle suppose un hôte intermédiaire, qui reste introuvable en presque 2 ans. Pour SARS1, on l’a trouvé en 4 mois, pour MERS, en 9 mois. Les plus proches cousins du virus qu’on connait se situent à 1500 km de Wuhan, ces chauve-souris volent dans un rayon de 50 km, et étaient de toute manière probablement en train d’hiberner. La plupart des permiers cas n’avaient absolument aucun lien avec le marché de Wuhan (ils ne l’ont même pas approché de loin). Les labos de Wuhan bossaient justement sur augmenter le potentiel des coronavirus à attaquer des cellules humaines (pour pouvoir prévenir une futur pandémie). Des documents officiels attestent en 2018 que des agents amércains trouvaient le personnel pas assez entrainé pour gérer un niveau de biosécurité 4, et le labo lui-même demandait plus d’aide des Etats-Unis. Le deuxième labo bossant sur des coronavirus a un niveau de biosafety 2. le virus du Covid était directement bien adapté pour attaquer les êtres humains. Pour SARS1, d’émergence naturelle, le virus était d’abord adapté aux civettes et peu aux humains, il a fallu 14 mutations supplémentaires pour qu’il commence à se propager chez les humains de façon acceptable, puis 4 autres pour que l’épidémie commence. Covid ? Optimisé dès le début. le code génétique qui code le site de clivage par la furine est composé de 4 acides aminés, une quadruple mutation opportune étant peu probable, il y a plus de chance d’une apparition par fusion avec un autre coronavirus. Or, nous ne connaissons aucun autre coronavirus avec un tel site, les coronavirus n’en ayant pas besoin pour infecter les chauve-souris. Dr. Zhengli Shi, la directrice du labo, a justement des papiers publiés sur ce thème de l’ajout d’un tel site de clivage. les nucléotides responsables de cette quadruple mutation contiennent un double codon de nucléotides CGG-CGG codant l’arginine, or les codons CGG ne représentent généralement que 5% des codons d’arginine chez les coronavirus, par contre, c’est un typique double codon utilisé pour rendre des coronavirus plus léthaux. Et puis y’a tout un tas d’autres news/analyses/leaks+/-sérieux qui vont dans ce sens : le premier cluster autour de la ligne de métro qui dessert un des deux labos, les thèses d’anciens doctorants bossant au labo, les employés du labo admis à l’hosto 1 mois avant l’épidémie… Oh, et puis le gouvernement Chinois qui refuse toute coopération au sujet des labos hi hi hi hi. C’est bien possible que le virus ait émergé naturellement, après tout, il n’y a que deux causes possibles, mais la thèse du labo remplit toutes les cases, alors que l’émergence naturelle laisse tous les enquêteurs perplexe et incapables de trouver les antécédents qu’on a trouvé lors des précédentes épidémies. PS : notons le message complètement creux de benben99 en dessous, qui faute d’argument pète un cable et écrit n’importe quoi, édite son message quinze fois dans une vaine dernière tentative de décrédibilisation, alors que la plupart des arguments sont purement objectifs et scientifiques. Ouh ça édite encore, benben99 s’excite en dessous. Il revient 30 minutes après pour rajouter une fausse correction encore une fois avec comme seul but non pas de commenter sur les arguments, mais de dénigrer la personne et la réponse dans son ensemble (on parle des chauve-souris avec les plus proches cousins du covid19). Ca a l’air de vraiment lui taper sur le système les commentaires qui vont à l’encontre de la narration du parti communiste Chinois, il bosse très dur pour les attaquer.

benben99

LOL Tu nous donne un bel exemple de théorie du complot. Des informations circonstantielles comme ceux qui pensent que la tuerie de Sandy Hook est une conspiration ou que le 9/11 est une machination ou que Bill Gates va nous injecté une puce 5G. Ils sont tous aussi convaincu que toi et ont plein de « preuves » circonstantielles comme toi à nous montrer pour nous convaincre que c’est hautement probable, mais quand tu regardes de prêt et tu utilises un peu ton jugement tu rend compte qu’il n’y a rien de solide. En passant, des chauves souris, il y n’y en a pas juste dans un rayon de 50 km en Chine. Il y en a partout du sud jusqu’au nord. C’est le genre d’information ridicule qui ne tient juste pas la route. Mais bon comme je dis plus haut, inutile d’essayer de démonter la théorie d’un complotiste, il ne va pas le croire.

EnLighter

Une information est le fruit d’une analyse de données, qui ne peut être que fausse ou vraie. Comme tout le monde a la flemme de rechercher les données pour vérifier l’analyse, on se remet aux médias pour certifier les informations. L’outil du MIT permet juste de trouver les comptes/profils et de suivre les fils entre les entités qui partagent l’information. Donc la « véracité » de l’information dépendra uniquement du point de vu de celui qui l’utilisera. Le simple fait de marquer son scepticisme par rapport à des informations délivrées par des médias traditionnels suffit à se faire taxer de « complotiste » ou de fabriquant de « fake news » sans jamais que quelqu’un s’interroge sur l’origine de ces mots. Et pire, l’utilisation de ces termes marque immanquablement son appartenance à un camp : celui du pouvoir en place (qui à priori fera partie de ceux qui pourront utiliser l’outil présenté dans l’article). Je vais tenter de donner un exemple volontairement polémique pour étayer mon propos : Info 01 = Chloroquine est dangereuse Info 02 = Chloroquine n’est dangereuse que si le dosage est mal fait Info 03 = Chloroquine n’est pas dangereuse Seule l’Info 02 est vraie. Pourtant, en fonction du point de vu de l’utilisateur d’un outil de détection, il y aura l’Info 01 ou 03 qui sera marquée comme « fake news ». Donc un outil supplémentaire pour obtenir du n’importe quoi dans une société où l’appartenance à un gouvernement ne peut plus garantir l’honnêteté intellectuelle.

Voir tous les messages sur le forum

Désinformation en ligne : le MIT met au point une IA capable de détecter les réseaux de fake news

Une expérimentation durant les présidentielles françaises de 2017, avec une exceptionnelle précision dans la détection des comptes de désinformation

L'IA RIO peut détecter aussi bien les comptes robots que ceux gérés par des humains

A découvrir en vidéo

Commentaires (21)

Top app & logiciels

Sur le même sujet