Des chercheurs viennent d'effectuer une étude dans laquelle ils cherchent à identifier à quel point les watermarks pouvaient aider à identifier du contenu généré par l'IA. Et l'on est pour le moment loin du compte.
L'intelligence artificielle fait peur depuis l'émergence en début d'année de ChatGPT, avec sa capacité à produire des éléments qui semblent avoir une origine humaine. Depuis, de nombreux géants du secteur ont proposé des solutions pour distinguer la création humaine de celle de l'IA. Mais pour le moment, la plus connue, le watermark (ou filigrane) ne parait pas offrir des garanties de sécurité suffisante.
Un watermark pour la réalité ?
L'intelligence artificielle va-t-elle nous condamner comme le pense le Pape à une nouvelle époque où il nous est impossible de savoir si l'on a face à soi une production de l'IA ou non ? C'est ce que semble affirmer une étude de chercheur de l'université du Maryland. Ils ont, en effet, cherché à tester la robustesse desdits watermarks disponibles à ce jour.
Ils ont ainsi utilisé, selon l'étude communiquée à la fin du mois de septembre, une technique appelée « purification par diffusion » qui leur permettait de supprimer le watermark intégré aux contenus produits par l'intelligence artificielle. Et ils ont réussi à effacer ce signe de distinction !
Rien n'est sûr à ce jour
Les chercheurs, qui ont réussi à montrer que les filigranes n'étaient pour le moment un moyen sûr, ne jettent pourtant pas cette méthode à la poubelle. « D'après nos résultats, la conception d'un filigrane robuste est une tâche difficile, mais pas nécessairement impossible », indique ainsi le papier publié en preprint par les chercheurs.
En attendant, ils s'en remettent au discernement du public pour éviter de laisser ces contenus inonder le web et altérer la réalité. « Nous devons veiller à éduquer les gens pour qu'ils soient sceptiques quant à l'authenticité des contenus, qu'il s'agisse de textes, d'images ou de vidéos qui peuvent être diffusés... » ont-ils professé dans cette idée .
L'émergence de l'intelligence artificielle comme outil grand public a ouvert de nombreuses possibilités pour tous les producteurs de contenus. Texte, image, son… Cette nouvelle technologie à la mode peut maintenant apporter son assistance dans de très nombreux domaines, et faciliter le travail dans les étapes les plus ingrates de la création. Et avec une offre qui ne cesse de s'accroître, il est important de distinguer quels outils apportent une véritable valeur ajoutée. Histoire de ne pas perdre des heures à essayer tout ce que proposent les pages de résultats de Google !
Lire la suite
Source : Emergingtechbrew, Techradar
Journaliste tech, spécialisé dans l'impact des hautes technologies sur les relations internationales. Je suis passionné par toutes les nouveautés dans le domaine (Blockchain, IA, quantique...), les questions énergétiques, et l'astronomie. Souvent un pied en Asie, et toujours prêt à enfiler les gants.
Lire d'autres articles
