Désinformation en ligne : le MIT met au point une IA capable de détecter les réseaux de fake news

Alexandre Boero
Par Alexandre Boero, Journaliste-reporter, responsable de l'actu.
Publié le 02 juin 2021 à 08h44
© Shutterstock.com
© Shutterstock.com

Une équipe du Massachusetts Institute of Technology (MIT) est parvenue à mettre au point un système basé sur l'intelligence artificielle permettant de détecter les fake news, avec un très haut taux de précision.

Sur le chemin de la lutte contre la désinformation en ligne, une équipe de recherche du groupe Artificial Intelligence Software Architectures and Algorithms, rattachée au Lincoln Laboratory du célèbre MIT, s'était mise en tête de mieux comprendre les campagnes de désinformation, qui sévissent sur le Web et plus particulièrement sur les réseaux sociaux. Et les chercheurs en sont convaincus : à l'aide de l'intelligence artificielle, ils parviendront à contrer la propagation des fake news et à identifier ceux qui en sont à l'origine.

Une expérimentation durant les présidentielles françaises de 2017, avec une exceptionnelle précision dans la détection des comptes de désinformation

Tout a commencé en 2014 lorsque Steven Smith, membre du MIT Lincoln Laboratory, s'était lancé dans une quête visant à mieux comprendre l'essor des campagnes de désinformation en ligne. À cette époque, Smith et les autres chercheurs souhaitaient étudier la façon dont les groupes malveillants exploitaient les réseaux sociaux. Leur attention s'était portée sur des comptes qui selon eux avaient une activité inhabituelle. Ils semblaient alors pousser des informations pro-russes.

Curieuse d'en savoir plus et de se livrer à un cas pratique d'envergure, l'équipe de recherche a alors sollicité des financements supplémentaires pour étudier la campagne présidentielle française de 2017, et ainsi savoir si des techniques identiques pouvaient être utilisées.

En utilisant leur programme, baptisé RIO (pour Reconnaissance of Influence Operations), les chercheurs ont collecté une foule de données sur les réseaux sociaux, en temps réel, dans les 30 jours précédant les élections. Leur objectif était alors de rechercher et d'analyser la propagation des contenus assimilés à la désinformation. En un mois, ils étaient parvenus à compiler 28 millions de publications Twitter, provenant d'un million de comptes. Avec le programme RIO, ils furent en mesure de détecter les comptes relayant des fake news avec une précision de 96 %.

L'IA RIO peut détecter aussi bien les comptes robots que ceux gérés par des humains

Pour être d'une extrême précision, le système RIO combine plusieurs techniques d'analyse, afin de créer une sorte de toile de l'endroit et de la façon dont les news de désinformation sont diffusées. Et les spécialistes ne se contentent pas de se baser sur le nombre de tweets ou de retweets de chaque compte pour juger du pouvoir de désinformation de ce dernier. « Ce que nous avons constaté, c'est que dans de nombreux cas, ce n'est pas suffisant. Cela ne vous dit pas réellement l'impact des comptes sur le réseau social », explique l'un des membres de l'équipe RIO, Edward Kao.

Edward Kao a justement développé une approche statistique utilisée dans le programme RIO qui permet de savoir si un compte de réseau social se livre à de la désinformation, mais aussi à quel point le compte a un impact sur le réseau, et à quel degré ledit réseau amplifie le message diffusé. Autre membre de l'équipe, Erika Mackin, elle, a utilisé l'apprentissage automatique (machine learning) pour étudier le comportement de comptes, afin de savoir s'ils interagissent avec des médias étrangers, et la langue qu'ils utilisent. Cette approche a permis au programme RIO de détecter des comptes malveillants actifs aussi bien dans la campagne présidentielle française de 2017 que dans celle de désinformation sur la Covid-19.

L'un des grands avantages du programme RIO est qu'il peut détecter aussi bien des robots que des comptes gérés par des humains, ce qui le différencie grandement des systèmes automatisés habituels.

Si aujourd'hui le Lincoln Laboratory s'intéresse à la propagation des nouvelles de désinformation dans les médias européens, les chercheurs du programme RIO espèrent une utilisation future dans l'industrie des médias sociaux et même dans certains pays, à l'échelle gouvernementale. Un nouveau programme, visant à étudier les effets psychologiques et le changement de comportement occasionnés par la désinformation sur les utilisateurs, est en train d'être développé par les membres du MIT.

Source : Tech Xplore

Alexandre Boero
Par Alexandre Boero
Journaliste-reporter, responsable de l'actu

Journaliste, responsable de l'actualité de Clubic. En soutien direct du rédacteur en chef, je suis aussi le reporter et le vidéaste de la bande. Journaliste de formation, j'ai fait mes gammes à l'EJCAM, école reconnue par la profession, où j'ai bouclé mon Master avec une mention « Bien » et un mémoire sur les médias en poche.

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !
Commentaires (0)
Rejoignez la communauté Clubic
Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.
Commentaires (10)
Cynian90

A noter que cet outil peut tout autant être utilisé pour surveiller l’opposition, ou bien pour mesurer et optimiser une campagne de propagande.

Guillaume1972

Lorsque les Fake newsers créé « leur propre tombe » parce qu’ils ont littéralement fournit le terreau a leur propre détection. Est-ce la fin des fake news? Assurément non, mais ils risquent d’avoir moins d’influence.Et ça, ce n’est pas une mauvaise nouvelle parce que les Fake news peuvent modifier le résultat d’élection mais également changer certains comportements mais également des façons de penser. mais l’on devrait aussi s’interroger pourquoi certains sont plus enclin à croire ses Fake news. Pour certains croirent n’importe quoi sans même rechercher les sources ou la contradiction du moment que ça rentre en corrélation avec leurs croyances. Peut-être y aurait-il un problème d’éducation, de culture, de manque de curiosité ou peut-être même par fainéantise intellectuelle.Alors oui, les Fake news et leurs conséquences sont des fléaux.Parmi ceux enclin à croire aux Fake News, on peut citer les platistes, les creusistes, les Antivacc, les adorateurs de Trump, ceux qui pensent que l’homme n’est jamais allé sur la Lune, ceux qui ont voté pour le Brexit parce qu’on leur a fournit de mauvaises informations, etc… Réfléchir est une bonne chose et me paraît même nécessaire mais il y a une différence entre réfléchir et croire des inepties sans même chercher la contradiction. Mais je suppose que ces gens cherchent avant tout des sites correspondant à leurs convictions.Piur ceux qui voudraient un exemple, je voudras vous conseiller la fabrique du mensonge sur le Brexit, c’est édifiant et prouve que les Fake news peuvent modifiées les résultats d’une élection, mais pour ceux qui seraient intéressés, je leur propose de faire leurs propres recherches.Je pourrai aussi proposer aux gens de s’intéresser à l’affaire du Pizzagate et de se demander quel aurait été le résultat de l’élection présidentielle américaine sans cette Fake news.

Voigt-Kampf

La chasse aux-dits « fake news » est devenu LA pierre angulaire d’un système et de son pouvoir pour accentuer la surveillance de masse et restreindre le plus possible les libertés. Il y en a un qui a dit « jetez une grenouille dans une casserole d’eau bouillante et elle va bondir pour s’échapper. Mettez-la dans une eau tiède, et chauffez progressivement la casserole, elle ne se rendra même pas compte qu’elle est en train de cuire ».

LeToi

Et tu as essayé, c’est vrai, l’histoire de la grenouille ?

Voigt-Kampf

Non, c’est vrai. Je peux tester sur toi STP ? J’en ai grandement envie ! Je suis sûr que ça va marcher.

toug19

tu n’as pas complètement tord, mais laisser se propager les fake news et on aura des guerres civiles, ils suffit de regarder l’assaut du Capitole.

Voigt-Kampf

La question est qui a le plus intérêt de propager des fake news ? Qui a dit que l’Irak avait des armes de « destructions massives » ? Qui avait intérêt de propager n’importe quoi sur la Libye pour qu’elle soit à feu et à sang ?
Le problème (et ta réponse le soulève bien) c’est qu’on caricature une position comme venant de gens bas du front et qui sont montrés du doigt comme étant le danger ultime. Soyons honnête : ce n’est pas des individus accoutrés de peaux de bête qui risquent de déclencher une guerre, mais bien un gouvernement, un lobby, une organisation etc. qui disposent de moyen logistique et financier bien plus conséquent que ces rigolos dramatiques, aussi meurtriers soient-ils. Et c’est la grande force de nos « nouveaux pouvoirs » : avoir fait croire que la menace vient d’en bas.

carinae

Oui enfin on ne va pas se mentir non plus, un certain nombre de Fake News sont relayées par des gens qui ont une vision très étroite de certains sujets. Il suffit de voir les discours auxquels on a eu droit pendant la pandémie ou avec la 5G.
Mais soyons honnêtes, certaines Fake News sont initiées et relayées par des gens qui y ont un intérêt politique ou économique. On l’a bien Vu ces dernières années, et même lors du brexit puisque bon nombre de chiffres présentés était faux ou sorti de leur contexte. La Fake New est devenue une arme.
Tout le problème est d’avoir suffisamment de jugement pour savoir démêler le vrai du faux…et la ce n’est pas gagné parce que parfois ce n’est pas une chose aussi aisée que ça.

Voigt-Kampf

Ahem… « un certain nombre ». En fait, c’est ce « a-peu-près-isme » qui me gêne et que certains sont prompt à relever mais qui curieusement est toléré dans une certaine position.
Ce que tu dis ne change rien à ce que j’évoque, bien au contraire. Hier, les gens qui dénonçaient le mensonge (aujourd’hui plus qu’avéré puisque même son auteur l’admet) sur les preuves d’armes de l’Irak se sont fait traité de « complotistes » même si ce mot n’existait pas réellement, ou en tout cas il n’était pas à la mode comme il l’est aujourd’hui.
Maintenant avec ce genre de news, cela veut dire que l’autorité en place est capable de décider ce qui est « fake news » ou non (les médias ne font que suivre, c’est exactement leur fonctionnement aujourd’hui). Donc il n’est pas impossible de penser que de dire simplement que 2+2 est égal à 4 peut être catégorisé comme « fake news » si cela menace le système en place.
Et si tu veux mon opinion perso, que des gens pensent et même le disent que 2+2 font 5, cela n’empêche nullement ma vie de se dérouler, de dormir la nuit, et mes pensées rester imperturbables. De même, je vois des gens étaler leur « expérience » (rien ne m’empêche de douter de leur véracité tu noteras, voilà pourquoi je met des guillemets) en tombant sur « un platiste, complotiste, ou nimportkoiïste » et font mousser leur histoire en humiliant et insultant au maximum ledit coupable, sans qu’il n’ait à y répondre… où l’art de briller en société à peu de frais. C’est devenu le sport à la mode.
Tu sais, je rêverai de débattre avec un vrai platiste convaincu, au moins, je sais qu’il va sortir des arguments forts pour étayer sa thèse, ce qui veut dire qu’il va falloir que je redouble d’effort pour le contredire, soit repousser mes limites de mes connaissances. C’est peut-être ça le vrai « progrès ». Pas d’écouter un lambda qui va rire comme une hyène avec son doigt enfoncé dans l’orifice anal et qui va oser dire qu’on voit la courbure de la Terre rien qu’au sol, alors que des mecs beaucoup plus intéressant et sérieux comme « Balade Mental » te diront que même en avion de ligne avec l’œil humain il est impossible de voir la courbure de la Terre et qu’il faut encore monter en altitude avant d’espérer la voir.

Blackalf

@burnit message supprimé pour le motif hors-sujet aberrant.

On se passera de prosélytisme religieux qui n’a rien à faire ici.