OpenAI modifie la génération de certaines images liées aux élections pour limiter leur utilisation dans des opérations de désinformation. L’entreprise veut préserver la possibilité d’illustrer ces sujets, tout en évitant que des scènes inventées passent pour des photographies authentiques.
À l’approche des élections américaines de mi-mandat du 3 novembre, les protections des générateurs d’images sont particulièrement scrutées. Une fausse photo montrant une fraude dans un bureau de vote peut alimenter la défiance envers le scrutin. OpenAI tente de compliquer sa fabrication en intervenant directement sur le rendu proposé par ChatGPT.
Une illustration plutôt qu’un faux cliché
Dans une mise à jour publiée le 20 octobre, OpenAI indique appliquer une stylisation aux demandes d’images représentant une ingérence électorale ou susceptibles de décourager le vote. Le résultat doit prendre la forme d’un dessin, plutôt que d’une image photoréaliste. L’objectif est de réduire le risque qu’une scène imaginaire soit interprétée comme une preuve de ce qui se serait réellement passé.
Le test réalisé par CNET détaille le mécanisme : ChatGPT accepte de générer une image « dépeignant une ingérence électorale ou susceptible de décourager le vote », à condition qu’elle ne viole aucune autre règle, mais la rend en style illustré ou cartoon. Les demandes de rendu photoréaliste sont ignorées. Les journalistes ont demandé des agents de l’ICE, la police de américaine de l’immigration, devant un bureau de vote : chaque tentative a produit un dessin. Un autre essai, visant une image de reportage montrant une machine à voter enregistrant le mauvais choix, a échoué lui aussi.
Josh Lawson, responsable des élections chez OpenAI, résume la logique : « Le problème des deepfakes n’est pas le commentaire social, c’est la tromperie » L’objectif est de dégrader la valeur probante d’une image tout en préservant la place des illustrations et du commentaire, et d’ajouter une couche de friction pour les acteurs malveillants. Concrètement, une scène imaginaire a moins de chances de passer pour un document.
En France, la frontière reste poreuse
Le filtre fonctionne aussi hors des États-Unis, d’après les essais relayés par Next. Un cordon de CRS bloquant l’entrée d’un bureau de vote en France ressort en dessin de presse ou en BD, même en insistant pour obtenir du réalisme. Résultat attendu, donc.
En revanche, la requête d’une urne bourrée de bulletins par un assesseur dans une mairie française produit d’abord un dessin, puis une image photoréaliste dès que l’utilisateur la réclame. Autrement dit, la ligne entre ce qui passe et ce qui bloque n’est pas lisible de l’extérieur. Et le sujet n’a rien d’abstrait : une image générée par IA, montrant un couple d’octogénaires « dépouillés » par des casseurs après la manifestation du 17 octobre, a été largement partagée sur des réseaux d’extrême droite.
Avec un dessin, cette confusion devient moins immédiate et laisse aussi une place à la satire et à l’illustration, sans leur donner l’apparence d’un reportage sur le terrain.
OpenAI indique en outre un partenariat avec Associated Press pour le décompte en direct des bulletins au Brésil et aux États-Unis, et ouvre son programme Daybreak aux fabricants de systèmes de vote électronique qui travaillent avec les autorités américaines.
Côté concurrence, Google renvoie vers sa politique électorale, qui évoque des protections supplémentaires contre les images trompeuses sans en détailler le fonctionnement. Anthropic ne propose pas de générateur d’images, et précise que tout usage de Claude pour tromper les électeurs enfreint ses règles.
Pour les internautes, le style d’une image ne permettra donc toujours pas de trancher la véracité du message qui l’accompagne. Une accusation de fraude devra être vérifiée auprès de sources fiables, même lorsqu’elle arrive dans le fil d’actualité sous les traits d’une illustration.
