Des chercheurs viennent d'effectuer une étude dans laquelle ils cherchent à identifier à quel point les watermarks pouvaient aider à identifier du contenu généré par l'IA. Et l'on est pour le moment loin du compte.
L'intelligence artificielle fait peur depuis l'émergence en début d'année de ChatGPT, avec sa capacité à produire des éléments qui semblent avoir une origine humaine. Depuis, de nombreux géants du secteur ont proposé des solutions pour distinguer la création humaine de celle de l'IA. Mais pour le moment, la plus connue, le watermark (ou filigrane) ne parait pas offrir des garanties de sécurité suffisante.
Un watermark pour la réalité ?
Ils ont ainsi utilisé, selon l'étude communiquée à la fin du mois de septembre, une technique appelée « purification par diffusion » qui leur permettait de supprimer le watermark intégré aux contenus produits par l'intelligence artificielle. Et ils ont réussi à effacer ce signe de distinction !
Rien n'est sûr à ce jour
Les chercheurs, qui ont réussi à montrer que les filigranes n'étaient pour le moment un moyen sûr, ne jettent pourtant pas cette méthode à la poubelle. « D'après nos résultats, la conception d'un filigrane robuste est une tâche difficile, mais pas nécessairement impossible », indique ainsi le papier publié en preprint par les chercheurs.
En attendant, ils s'en remettent au discernement du public pour éviter de laisser ces contenus inonder le web et altérer la réalité. « Nous devons veiller à éduquer les gens pour qu'ils soient sceptiques quant à l'authenticité des contenus, qu'il s'agisse de textes, d'images ou de vidéos qui peuvent être diffusés... » ont-ils professé dans cette idée .
