Des fermes à contenus au Pakistan ont généré jusqu'à 20 000 dollars en diffusant de fausses images de camps de concentration sur Facebook. Le 13 janvier, plusieurs mémoriaux allemands ont réclamé la suppression de la monétisation de ces contenus.
Astrid Homann pointe du doigt une photo censée montrer le camp de Sachsenhausen. « Regardez, les baraquements et les miradors sont faux. Les barbelés sont présentés dans le mauvais sens. Les prisonniers allongés sur le sol portent des bottes de soldats et les cheminées des fours crématoires fument encore à la libération du camp. Tout est faux », explique la collaboratrice du département Éducation au mémorial qui accueille 500 000 visiteurs par an au nord de Berlin. Elle détecte immédiatement les images générées par IA, mais s'interroge sur les adolescents. « Comment arrivent-ils à faire la différence ? C'est d'autant plus problématique que leur premier contact aujourd'hui avec la Shoah se fait sur les réseaux », ajoute-t-elle.
L'image de Hank, soit-disant violoniste tchèque à Auschwitz, a circulé massivement avant que le musée du camp ne dénonce le faux. Celle d'Hannelore Kaufmann, fillette berlinoise de 13 ans prétendument morte à Auschwitz, a connu un succès viral. or, aucune victime de ce nom n'a été recensée dans le camp. Un homme aveugle, pieds nus dans la neige à Flossenbürg ? Encore un faux. Il suffit de taper « Auschwitz » sur TikTok, Instagram ou Facebook pour tomber sur des dizaines d'images générées par intelligence artificielle. Une enquête de la BBC publiée cet été a retracé le parcours d'une partie de ces contenus jusqu'à des « usines à contenus » basées au Pakistan.
20 000 dollars de revenus publicitaires grâce aux images générées par l'IA
Via les outils de monétisation de Facebook, ces fermes auraient généré jusqu'à 20 000 dollars, soit 16 900 euros. Le compte qui a diffusé la fausse photo du prisonnier de Flossenbürg affirmait « partager des histoires vraies, humaines, des chapitres les plus sombres de l'histoire ». L'émotion attire les clics, les clics génèrent des revenus publicitaires. Fin 2025, Iris Groschek a observé que « certains comptes publiaient des photos truquées à la minute ». Cette historienne étudie le camp de Neuengamme et d'autres sites mémoriels près de Hambourg.
Jens-Christian Wagner dirige quant à lui la fondation qui gère les sites de Buchenwald et de Mittelbau-Dora. Il identifie deux motivations distinctes. D'un côté, des fermes exploitent la charge émotionnelle à faible coût pour obtenir des recettes publicitaires. De l'autre, des groupes diffusent des faux « pour brouiller les faits historiques et diffuser des récits révisionnistes ». L'historien cite des images montrant des détenus « bien nourris, censées suggérer que les conditions dans les camps de concentration n'étaient, au fond, pas si mauvaises ».
Le centre éducatif Anne Frank à Francfort dénonce des contenus où « la Shoah s'y retrouve niée et relativisée ou les victimes sont tournées en ridicule ». L'escroquerie fonctionne car il n'existe pas de photos de la vie dans les camps à part celles de la propagande nazie. Les Alliés ont filmé et photographié les camps à la Libération pour documenter le crime, mais ces archives sont strictement réglementées et soumises à des droits d'auteur. Les faussaires remplissent ce vide tout en profitant des algorithmes qui favorisent les contenus à forte charge émotionnelle.
Saluts hitlériens et graffitis dans les mémoriaux
« En déformant l'Histoire, ces images ont des conséquences très concrètes sur la représentation que les gens se font de la période nazie », alerte Iris Groschek. Jens-Christian Wagner reçoit des jeunes visiteurs, en particulier ceux « des régions rurales d'Allemagne de l'Est, où la pensée d'extrême droite est devenue largement hégémonique ». Remarques provocatrices, rires, poses irrespectueuses. Les signes de rejet viennent d'une minorité, certes, mais celle-ci « se montre de plus en plus sûre d'elle », regrette l'historien.
Iris Groschek a constaté « une hausse du nombre des incidents » à Neuengamme. Saluts hitlériens, graffitis de croix gammées. Astrid Homann s'alarme aussi pour les descendants des déportés. « Ils sont bouleversés d'apprendre qu'on fait de l'argent en manipulant l'histoire de leur famille ». Elle redoute un basculement. « On finira par ne plus pouvoir faire la différence entre le vrai et le faux si bien qu'au bout du compte on ne croira plus à rien ». Il n'y aurait alors plus qu'un pas à franchir pour affirmer qu'Auschwitz n'était qu'un mensonge.
Le 13 janvier dernier, plusieurs mémoriaux et associations mémorielles ont publié une lettre ouverte. Ils alertent sur le « nombre croissant » de contenus « entièrement inventés » et demandent aux réseaux sociaux d'exclure des programmes de monétisation les comptes qui diffusent ces faux. Le ministre allemand de la Culture, Wolfram Weimer, rappelle que le DSA « oblige les plateformes à assumer leurs responsabilités ». Mais à la veille de la commémoration du 27 janvier, aucun géant américain, notamment Meta qui possède Facebook et Instagram, n'avait répondu aux mémoriaux.
TikTok a réagi différemment. Andrea Rungg, directrice de la communication pour l'Allemagne, affirme que la plateforme a « mis en place un processus de modération en trois étapes comprenant la technologie, des modérateurs et la possibilité pour les utilisateurs de signaler des contenus ». Iris Groschek confirme que TikTok veut exclure les comptes incriminés de la monétisation. Astrid Homann note que « TikTok cherche le dialogue ». Rüdiger Mahlo, représentant en Europe de la Jewish Claims Conference, insiste sur un point. « Si quelqu'un demande à ChatGPT combien de personnes ont péri à Auschwitz, l'IA fournira la bonne réponse si les archives de Yad Vashem, du Mémorial de la Shoah et des musées sont en ligne. L'IA se nourrit de ce qui existe sur Internet ». Pour Astrid Homann, le choix est simple. « Si nous n'écrivons pas nous-mêmes l'histoire des camps, d'autres le feront à notre place ».
Source : FranceInfo, Libération (accès payant)
