La jeune fille à la pancarte bourrée de fautes n’a jamais défilé, et la Panthère rose devant un camion de CRS est une création d’IA. Depuis la mi-octobre, des comptes très suivis mêlent aux vraies photos des manifestations des images fabriquées ou retouchées par IA, que des élus et un syndicat de police relaient sans vérifier.
Les lycéens bloquent leurs établissements depuis le 17 septembre et publient des photos de cortèges à chaque journée de mobilisation. Avant l’« acte V » du 13 octobre, le compte « La France et ses trésors », suivi par plus de 700 000 personnes sur Facebook, a publié le portrait d’une jeune fille et de sa pancarte « On veux juste étudié, mais on ait pas écouter ». Sur X, la photo a été vue plus de 100 000 fois, en pleine polémique sur l’orthographe des manifestants. Mais d’après les vérifications des Observateurs de France 24, la photo vient d’un générateur d’OpenAI. Et là où ça devient dangereux, au-delà du fait que les internautes qui ont vu la pancarte peuvent garder en mémoire une scène fictive, c’est la propagation d’une image générée par IA qui devient une fake news, partagée par les masses, malgré les avertissements d’internautes et les détecteurs de contenus artificiels.
Le filigrane SynthID et ses angles morts
Pour démasquer la pancarte, les Observateurs ont soumis la photo à SynthID. Google DeepMind a mis au point ce filigrane invisible, adopté en mai par OpenAI pour les images de ChatGPT, et Google a ouvert son détecteur au public le 7 octobre, sur synthid.com, avec un compte Google, Apple ou OpenAI. La photo d’une seconde pancarte, brandie par une étudiante aux cheveux teints, porte elle aussi la signature d’OpenAI.
Les vérificateurs espagnols de Newtral ont obtenu un résultat positif sur les deux photos de la Panthère rose avec SynthID Detector, le 16 octobre, et CheckNews a obtenu pour chacune le verdict « ce média a été créé ou édité avec Google AI ». Libération a retrouvé leur première apparition, le 8 octobre, chez un internaute artiste, utilisateur assumé de l’IA, dont les publications servent de vitrine à la plateforme Klek Studio. Aucune des images ne se passait alors à Paris. La Panthère qui fait un doigt d’honneur aux policiers sort d’une photo Reuters prise à Erevan, en Arménie, en juin 2015, et le camion lanceur d’eau vient d’une manifestation à Nairobi, au Kenya, le 25 juin 2025. Quelqu’un a ensuite retouché la scène du camion afin de la situer à Paris, avec des panneaux de direction parisiens et un écusson de CRS au texte illisible.
Avec un détecteur, vous savez donc quel outil a produit une image, mais pas quelle scène réelle a servi de point de départ. Google prévient sur la page de l’outil qu’« il ne s’agit pas d’un détecteur d’IA généraliste ». Une image produite par un modèle sans SynthID est invisible pour lui. Au lendemain de la journée « contre la vie chère » du 17 octobre, CheckNews a soumis au détecteur de Google la photo d’un couple âgé en sous-vêtements, vue près d’un million de fois sur X. SynthID Detector est conçu pour repérer aussi bien les images créées par Gemini que les photos retouchées avec lui, et CheckNews parle donc d’un cliché « généré ou modifié par IA ». À l’œil nu, la main gauche de la femme ne compte que quatre doigts, et le personnage de gauche a apparemment deux têtes pour un seul corps.
De fausses images partagées par des élus et un syndicat de police
Jean-Louis Masson, conseiller régional Rassemblement national du Grand-Est, a repris la photo de la pancarte sur Facebook le 12 octobre, avec un commentaire acide, « Elle a raison… Elle a vraiment besoin d’étudier ». Isabelle Balkany a partagé une autre pancarte en signalant l’IA, ce qui n’a pas empêché des internautes de commenter la scène au premier degré.
Le journaliste Dominique Rizet a lancé l’information le 17 octobre au soir, en direct sur BFMTV, en évoquant « des informations de police » sur un couple de 80 ans agressé place de la République. Relancé par CheckNews, il n’a pas confirmé la nouvelle. Le lendemain, un compte X basé en Israël a publié la photo, sans répondre ensuite aux questions de CheckNews, et le syndicat des officiers et commissaires de police SCSI l’a repartagée sur son compte. Le site Entrevue a raconté l’agression des octogénaires sans le moindre conditionnel, avec deux personnes âgées en sous-vêtements « comme le montrent les images diffusées sur les réseaux sociaux ».
Depuis le 2 août, l’AI Act oblige les fournisseurs d’IA à marquer les contenus générés, et le filigrane d’OpenAI était bien dans la photo de la pancarte. Devant une photo de manifestation douteuse, vous pouvez la soumettre à synthid.com, puis chercher le cliché d’origine par recherche d’image inversée. La préfecture de police de Paris n’avait pas répondu à CheckNews au moment de sa publication, et l’agression du couple n’est donc ni confirmée ni démentie. La photo censée la montrer est, au mieux, retouchée par IA.
