🔴 Soldes : jusqu'à - 70% sur le high-tech 🔴 Soldes d'hiver : jusqu'à - 70% sur le high-tech

Meta lance un système de modération en open source pour lutter contre la diffusion d'images terroristes

13 décembre 2022 à 15h55
2
facebook hacker © Michael Vi / Shutterstock.com
© Michael Vi / Shutterstock

Dans un article publié sur le blog de Meta, un cadre dirigeant de l'entreprise a annoncé la mise en place d'un système coopératif afin de lutter plus efficacement contre les contenus terroristes sur Internet.

Si Meta, comme beaucoup d'entreprises de la tech en 2022, a licencié une large partie de ses effectifs, elle ne fait pas partie de celles qui délaissent la modération. Loin d'être irréprochable en la matière, l'entreprise de Mark Zuckerberg y consacre tout de même des ressources importantes. Alors que le groupe va occuper à partir du mois prochain la présidence du Forum internet mondial de lutte contre le terrorisme (GIFCT en anglais), il dévoile aujourd'hui un projet pour appréhender autrement la modération, appelé Hasher Matcher Actioner (HMA).

Le GIFCT et le bilan 2022 de la modération chez Meta

Nick Clegg, l'un des cadres dirigeants de Meta, a publié un article de blog dans lequel il présente cet outil à l'occasion de la future présidence du GIFCT de l'entreprise. Ce forum est une ONG née en 2017 d'un partenariat entre YouTube, Microsoft, Twitter et Meta. Son objectif est clair : lutter contre la diffusion de contenus terroristes, violents et extrémistes sur Internet. D'autres entreprises, des associations et des gouvernements s'y impliquent activement.

Dans son billet, Clegg présente les chiffres de la modération chez Meta : plus de 40 000 personnes travailleraient à sa bonne application, et l'entreprise y aurait investi plus de 5 milliards de dollars l'année dernière. Il explique également que l'expérience accumulée depuis des années permet d'être plus efficace en la matière et permet la création de nouveaux outils tels que le HMA.

Comment fonctionne le HMA ?

Clegg explique que le HMA repose sur un système et une technologie déjà existants et utilisés par la plupart des grandes plateformes. Concrètement, dès qu'un modérateur repère un contenu qui enfreint les règles, il le supprime et le renseigne dans une base de données. Celle-ci, plutôt que de stocker les images ou les vidéos concernées, n'en garde qu'un « hash », une sorte d'empreinte numérique unique et propre à chaque contenu. Tout média posté sur la plateforme est ensuite comparé à ces « hash » et supprimé ou signalé à la modération si le système trouve une concordance. Cela permet, en plus d'utiliser considérablement moins d'espace de stockage, de ne pas conserver d'images ou de vidéos terroristes, violentes ou pédocriminelles dans sa base de données.

Le système que présente Meta n'est donc pas révolutionnaire, mais sa forme l'est. En effet, la grande innovation ici repose sur sa mise en open source, ce qui permet d'une part aux plus petites entreprises qui en étaient jusqu'ici dépourvues d'avoir accès à cette technologie. Et surtout, cela rend possible la mise en commun des « hash » de toutes les entités qui participent au programme. En effet, comme le rappelle l'auteur du billet, les personnes qui postent ce type de contenu ne se contentent que rarement de le faire sur un unique support. Le succès du HMA reposera donc largement sur son adoption ou non par les plateformes de contenu, quelle que soit leur taille.

Source : Meta

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
2
3
qotzo
j’espère que l’algorithme de hash sera efficace : car avec un hash classique il suffit que j’ajoute un point à l’image pour que le hash change.<br /> Mais comme l’algo sera en open source, on va savoir comment c’est calculé… et donc avoir un programme qui contourne ces règles.
ABC
Un point ajouté sur l’image ne devrait pas tromper les algorithmes. Par exemple avec Google Image, ça retrouve les photos identiques et aussi les photos similaires.
Voir tous les messages sur le forum

Derniers actualités

Lara Croft bientôt de retour dans une série Tomb Raider !
Samsung dévoile le premier écran plat Mini-LED pour joueurs, et il ne fait pas les choses à moitié
Profitez dès maintenant de ce kit RAM Corsair à son prix le plus pendant les soldes d'hiver !
Epic fail : un voleur se prend en selfie avec un iPhone fraîchement dérobé… et se fait arrêter
Vous avez vu ? L'app Google se fait une beauté sur Android !
Surveillance : comment ces vêtements peuvent vous invisibiliser aux yeux de la reconnaissance faciale
Faites vos valises ! Des hôtels e-sport en Chine s'équipent en GeForce RTX 4090
Sous la pression d’avocats humains, l'intelligence artificielle ne pourra finalement pas plaider
Xavier Niel : pourquoi le fondateur de Free veut investir dans Brut
Comprendre les avantages d'un VPN : voici un guide pour les débutants
Haut de page