Une fonctionnalité de génération d’images par intelligence artificielle, intégrée cette semaine à Google Earth, recompose des vues satellites et aériennes réelles à partir d’une simple description. Un chercheur spécialisé en vérification de faits a produit des visuels trompeurs malgré les protections annoncées par Google.
Il n’aura pas fallu attendre bien longtemps avant que le ciel se couvre pour Google Earth. Mountain View a déployé, en début de semaine, une nouvelle fonction dans la version web de Google Earth. Nano Banana 2 fait appel au modèle d’image de Gemini pour transformer un lieu réel en scène inédite, à partir d’une invite textuelle.
Comme nous nous en faisions l’écho cette semaine, l’outil est, selon Google, un moyen de visualiser des sites historiques ou des projets immobiliers, mais Henk van Ess, chercheur du site Digital Digging spécialisé dans la vérification de sources, a testé les limites de la fonction. Il a produit une scène évoquant des réfugiés à la frontière mexicaine, puis une autre montrant un cratère de bombe près d’un hôpital à Gaza, deux images fabriquées à partir de fonds satellites authentiques. Un œil averti repère sans peine certains résultats, comme un Sphinx fusionné à la Statue de la Liberté, mais l’expert a aussi livré des versions plus convaincantes, capables de tromper un regard moins attentif. Vous sentez tourner le temps à l’orage ?
SynthID, le filigrane censé trahir les images truquées
Le procédé technique intègre un filigrane numérique dans les pixels mêmes de chaque visuel, une technologie que Google a développée sous le nom de SynthID plusieurs années avant son intégration à Google Earth. Une porte-parole de Google a réagi aux images produites par Henk Van Ess en assurant que l’entreprise prend la désinformation « très au sérieux », et en rappelant que chaque visuel issu de Nano Banana embarque ce filigrane. Elle recommande l’usage de l’application Gemini ou de Lens, via le tag « @verifyai », pour vérifier une image suspecte. Le spécialiste conseille, de son côté, de comparer une vue douteuse à celles d’autres plateformes satellites, Sentinel-2 ou Landsat, et de contrôler les données orbitales, telles que la date ou le nom du satellite d’origine. Le filigrane de Google résiste pourtant mal à certains contournements. Digital Digging a trompé le détecteur d’IA de Hive avec une vidéo modifiée depuis Google Earth, malgré la présence du marquage SynthID.
Une obligation européenne de marquage entre en vigueur dès dimanche
L’Union européenne encadre par ailleurs ces pratiques dans son règlement sur l’intelligence artificielle. L’article 50 de ce texte contraint les fournisseurs de systèmes d’IA générative à un marquage technique lisible par une machine pour tout contenu synthétique, une obligation qui s’applique aux nouveaux systèmes dès demain le 2 août. Les négociateurs de l’accord « AI Omnibus » ont repoussé cette échéance au 2 décembre pour les outils déjà commercialisés avant cette date, sans toucher aux autres obligations de transparence du même article. La Commission européenne a, de son côté, publié le 10 juin un code de bonnes pratiques volontaire sur le marquage et la détection des contenus manipulés. D’autres géants du secteur ont développé leur propre filigrane, avec des résultats inégaux. Meta a présenté Content Seal pour ses images produites par le générateur Muse Image. Un test mené par Reuters sur quarante visuels recadrés n’a permis d’identifier que 45 % d’entre eux comme générés par IA.
Source : The Verge (accès limité)
