Dans la foulée du filigrane invisible Content Seal, Meta a présenté un outil de détection de ses propres images générées par IA. Mais ce détecteur ne repère que 45 % des visuels recadrés, alors que l’Union européenne imposera une obligation légale de marquage similaire dès le 2 août prochain.
On vous a parlé récemment de Muse Image, un générateur d’images intégré à Instagram, WhatsApp et Meta AI qui puise aussi dans les comptes Instagram publics pour composer certains visuels. Meta a aussi présenté un outil de détection destiné à identifier les images produites par ce modèle, associé à un filigrane invisible, Content Seal.
Reuters a mis Content Seal sur le grill en testant quarante images générées par Muse Image. L’outil a reconnu la totalité des visuels non modifiés. Mais après un recadrage qui a réduit les images à un tiers ou une moitié de leur taille d’origine, le détecteur n’a plus reconnu que 45 % des mêmes visuels.
Il a suffi d'un simple recadrage pour tromper le filigrane Content Seal
Siwei Lyu est professeur d’informatique à l’université d’État de New York à Buffalo et spécialiste de la criminalistique des images IA. S’il n’a pas testé l’outil de Meta, il identifie néanmoins une limite structurelle commune aux systèmes fondés sur un filigrane invisible. Un recadrage, une forte compression ou un redimensionnement peuvent affaiblir ou effacer le signal embarqué dans l’image, selon lui.
Meta rappelle que son outil de détection n’existe encore qu’en préversion, ce qui pourrait expliquer qu'il ne soit pas encore totalement fiable. Mais sur son site, comme l’a relevé notre confrère Phonandroid, l’entreprise affirme que le filigrane reste détectable après un recadrage, une compression, un redimensionnement ou une capture d’écran. Elle précise malgré tout que le signal peut disparaître lors d’un recadrage important.
C'’est ce dont préviennent également Google et OpenAI pour leurs propres outils de détection. Les deux entreprises reconnaissent que leurs systèmes ne résistent pas à toutes les techniques d’altération d'’image.
L'’Oversight Board, organe d’experts qui rend des décisions contraignantes sur la modération des contenus des plateformes de Meta, a demandé à l'entreprise d’investir dans des outils de détection plus robustes face à la circulation de contenus IA trompeurs.
Pour Sarah Barrington, chercheuse en IA et doctorante à la UC Berkeley School of Information, le marquage numérique n'est certes pas parfait, mais représente un potentiel pour l’avenir des contenus générés par IA. Elle compare la méthode aux mesures de cybersécurité préventives, jamais totalement étanches mais utiles dès qu’elles interceptent une partie des cas.
L’obligation européenne de marquage entre en vigueur le 2 août 2026
Les fournisseurs de systèmes IA générative doivent marquer leurs contenus synthétiques dans un format lisible par une machine, dès le 2 août prochain, en vertu de l'article 50 du règlement européen sur l’intelligence artificielle. Ce texte concerne les images, l’audio, la vidéo et le texte produits par une IA. Les négociateurs de l’accord « AI Omnibus », conclu en mai 2026, repoussent toutefois cette obligation de marquage technique au 2 décembre pour les systèmes déjà commercialisés avant août, sans toucher aux autres obligations de transparence de l’article 50. La Commission européenne a publié le 10 juin 2026 un code de bonnes pratiques volontaire sur le marquage et la détection des contenus manipulés.
Le filigrane Content Seal ne communique avec aucun des deux standards concurrents, SynthID chez Google et C2PA, porté par une alliance regroupant Adobe et Microsoft. Une image marquée par Content Seal échappe donc aux outils bâtis sur ces deux protocoles, et inversement. Le filigrane de Meta opère seulement dans les applications du groupe, Instagram, WhatsApp et Meta AI.
Le code de bonnes pratiques du 10 juin 2026 fonctionne comme un dispositif volontaire, sans sanction associée à ce stade.
Source : Reuters (accès payant)
