En Chine, des fraudeurs ont compris qu'utiliser l'intelligence artificielle pour générer de fausses preuves pouvait suffire à se faire rembourser par les sites de e-commerce. Une arnaque qui se propage désormais partout dans le monde.
Un crabe à neuf pattes, ça n'existe pas. Une tasse en céramique fendue comme du papier, encore moins. Pourtant, ces images ont atterri chez des vendeurs en ligne chinois. Depuis plus d'un an et demi désormais, une nouvelle fraude se développe. Des clients génèrent, par IA, des photos de produits abîmés pour obtenir des remboursements à gogo. Les plateformes de vente en ligne peinent à détecter ces images truquées qui leur coûtent des millions. Et le phénomène prend de l'ampleur.
Quand les acheteurs font inventer à l'IA des crabes morts et des tasses déchirées
Sur RedNote, réseau social chinois, les marchands partagent leurs mésaventures. Des draps soi-disant lacérés avec des étiquettes d'expédition aux caractères incompréhensibles, des mugs fissurés en couches comme du carton... Les catégories les plus visées par les malfrats restent les produits frais, les cosmétiques discount et, évidemment, tous les articles fragiles. Pour ces marchandises, les vendeurs n'exigent généralement pas de retour avant remboursement, ce qui ouvre grand la porte aux arnaques.
Comme l'explique Wired, l'affaire Gao Jing a tout fait basculer. Cette vendeuse de crabes vivants qui exerce sur Douyin (la version chinoise de TikTok) a reçu en novembre des vidéos montrant ses crustacés arrivés morts, deux autres ayant réussi à s'échapper. Sauf que chez elle, on élève des crabes depuis plus de trente ans. Son œil expert a instantanément détecté l'arnaque derrière ces images générées par IA.
« On n'a jamais vu un crabe mort avec les pattes pointées vers le haut », explique-t-elle dans une vidéo postée ensuite. Entre les deux clips envoyés par la cliente, le ratio mâles-femelles avait change mystérieusement. L'un des crabes allait même jusqu'à arborer neuf pattes, alors qu'un crabe dispose de cinq paires de pattes. La police a confirmé le faux contenu, et l'acheteuse a écopé de huit jours de détention. Ce fut la première sanction officielle d'une escroquerie aux images IA en Chine.
Une fraude en expansion, qui peut rapporter gros
Le phénomène ne s'arrête pas aux frontières chinoises. Forter, un spécialiste new-yorkais de la détection de fraudes, mesure une explosion de 15% des images IA truquées dans les demandes de remboursement depuis le mois de janvier. Son PDG, Michael Reitblat, explique que « cette tendance a commencé mi-2024, mais s'est accélérée car les outils de génération d'images sont devenus largement accessibles et incroyablement faciles à utiliser. »
Les équipes qui traitent les remboursements manquent, qui plus est, cruellement de temps pour examiner chaque cliché en détail. L'intelligence artificielle n'a ainsi même pas besoin d'atteindre la perfection absolue pour tromper des employés débordés. Une vraie opportunité pour les fraudeurs, qui s'en donnent à cœur joie.
Des groupes criminels s'organisent même pour en faire une spécialité. Michael Reitblat décrit un cas où plus d'un million de dollars ont été réclamés grâce à des images qui montraient des fissures inventées sur des ustensiles ménagers. Les demandes arrivent généralement groupées, sur une court laps de temps, pour submerger le système, avec rotation des adresses IP pour masquer les identités.
Les commerçants tentent de riposter… avec l'IA
Du côté des vendeurs, on se préparer à contre-attaquer. Un marchand chinois de jouets a montré à Wired son arme secrète, à savoir un chatbot IA qui analyse les photos suspectes pour repérer les manipulations. L'idée de départ est bonne, sauf que ces détecteurs restent très imparfaits, et les plateformes ne leur accordent que peu de crédit dans les litiges.
Michael Reitblat anticipe une réaction en chaîne, avec des retailers qui vont probablement durcir leurs politiques de retour. Les clients honnêtes, eux, risquent de trinquer et de voir l'expérience d'achat se dégrader pour tout le monde.
L'ironie de la situation saute aux yeux. Hier, les acheteurs se plaignaient des vendeurs qui utilisaient des photos trompeuses, fabriquées par l'intelligence artificielle, pour embellir leurs produits. Aujourd'hui, les rôles s'inversent, et ce sont les clients qui génèrent de fausses images pour arnaquer les commerçants. L'e-commerce vacille, d'autant que les filigranes IA restent facilement contournables.
