Déjà connu pour traquer les textes générés par IA, Pangram étend son analyse aux photos et aux vidéos. Image 1.0 promet de repérer les retouches et de résister à la compression avec des performances annoncées comme spectaculaires par son éditeur.
Une photo n’a pas besoin d’être entièrement générée par IA pour tromper son monde. Avec Image 1.0, annoncé le 4 novembre, Pangram veut aussi repérer les éléments synthétiques glissés dans une prise de vue authentique. L’éditeur accompagne cette sortie d’un modèle plus rapide, Image Flash 1.0, destiné notamment aux vidéos.
Une carte de chaleur pour situer les retouches
Image 1.0 promet de montrer où l’IA s’est glissée dans une photo. Lorsqu’un objet généré a été ajouté à un cliché authentique, l’outil affiche une carte de chaleur, ou heatmap, qui colore la zone suspecte. On peut ainsi examiner l’élément signalé sans considérer d’emblée toute la photographie comme artificielle.
Pangram a aussi abaissé la définition minimale acceptée, de 512×512 à 256×256 points. Les petits formats restent toutefois plus délicats à analyser : sous les 512 pixels, un avertissement signale une confiance réduite dans le résultat. Le modèle a également été entraîné à reconnaître les images après compression, ajout de flou ou de bruit, des transformations susceptibles d’effacer les indices recherchés par les détecteurs.
Un score presque parfait, à replacer dans son contexte
Pour évaluer Image 1.0, l’entreprise a demandé à douze générateurs de reproduire le sujet de 100 photographies réelles à partir de descriptions proches des originaux. Elle a ainsi constitué un ensemble de 1 200 images synthétiques sur lequel elle annonce une précision de 99,96% dans ses tests.
En comparant de vraies photos à des créations qui en reprennent le sujet, Pangram cherche à vérifier que son détecteur reconnaît les traces laissées par l’IA, plutôt qu’un type d’image particulier. Le chiffre de 1 200 images mérite toutefois une précision. Il s’agit de variations autour de 100 photos choisies par l’entreprise, chacune recréée par douze générateurs. La réussite annoncée sur cette sélection demande donc à être confirmée face aux images bien plus variées que l’on croise chaque jour en ligne.
La vidéo passe à l’analyse image par image
Pour les séquences animées, Pangram s’appuie sur Image Flash 1.0, une version allégée qui examine les images successives afin de signaler les passages suspects. Le service accepte l’envoi de vidéos directement dans son application Web.
Pangram met en avant un score de 98,7% pour Flash 1.0 sur DF26, un ensemble de vidéos de personnes prenant la parole. Ce test avait pourtant donné du fil à retordre aux humains comme aux détecteurs évalués par ses concepteurs qui peinaient à séparer les séquences authentiques des productions de l’IA. Là aussi, les chercheurs n’ont pas testé Flash 1.0. C’est Pangram qui a soumis son modèle à ce test et publié le résultat en assurant devancer plusieurs concurrents dans une comparaison portant sur 1 529 vidéos réelles et synthétiques.
Côté pratique, Image 1.0 rejoint l’extension Chrome de Pangram pour repérer les images suspectes au fil de la navigation. Les développeurs peuvent aussi intégrer les deux modèles à leurs applications ou à leurs sites grâce à une API, qui permet de leur soumettre automatiquement les contenus à analyser.
Google, pour sa part, aborde le problème sous un autre angle avec SynthID Detector, disponible pour le grand public depuis octobre. Cet outil recherche un filigrane invisible intégré dès la création du contenu par les outils compatibles de Google et de ses partenaires. Ce marquage à la source complète les détecteurs qui recherchent des indices de génération dans les images elles-mêmes. Avec une limite essentielle : l’absence de filigrane ne prouve pas qu’une photo ou une vidéo est authentique, puisque toutes les IA n’utilisent pas ce filigrane…
- Détection IA détaillée
- Interface simple à utiliser
- Détection des reformulations
