Stability AI, entreprise qui finance et diffuse l’IA de génération d’images Stable Diffusion, a annoncé la mise à jour de cette dernière qui est passée en V2. Parmi les nouveautés, on retrouve l’impossibilité de générer du contenu pour adulte, au grand dam de certains utilisateurs…
Plus tôt cette année, les créateurs de Stable Diffusion regrettaient que leur plateforme soit utilisée pour générer de la pornographie, ils ont donc décidé d’y remédier.
Une décision contestée
En effet, l’intelligence artificielle a notamment permis à certains utilisateurs de créer des images pornographiques ressemblant à de véritables personnes, ainsi que des visuels pédopornographiques. Pour éviter que cela ne se reproduise, les images pornographiques ou nues ont tout bonnement été retirées des données qui permettent d’entraîner l’intelligence artificielle.
Or, contrairement à sa rivale Dall-E, Stable Diffusion est un modèle open source permettant à des personnes d’améliorer l’outil et aux développeurs de l'intégrer gratuitement dans leurs produits. Or, la nature ouverte de l’IA constitue un argument pour critiquer la décision de bannir les contenus pour adultes selon certains utilisateurs. Sur Reddit, un internaute a déclaré que cette décision était de la « censure » et allait « à l'encontre de la philosophie de la communauté open source ».
Pour l’heure, il est difficile de savoir si les filtres ajoutés à Stable Diffusion pour éviter la production de contenu pornographique seront efficaces ; comme le rappelle un autre utilisateur, le fait que l’IA soit open source signifie que les données sur lesquelles elle s’entraîne peuvent facilement être modifiées dans ses versions tierces.
Stable Diffusion s’attaque aussi aux problèmes de violation des droits d’auteur
À travers sa mise à jour, Stable Diffusion a également décidé de s’attaquer à un second problème de taille posé par les IA génératrices d’images : la violation des droits d’auteur. Les images qui ressemblent trop à l’œuvre de certains artistes sont désormais « ringardisées » afin de ne plus pouvoir être apparentées au style de ces derniers. C’est par exemple le cas de l’artiste numérique Greg Rutkowski, souvent utilisé en tant que source d’inspiration par les utilisateurs de cette technologie. Par le passé, Rutkowski a critiqué l’usage de ces intelligences artificielles, à l’instar de plusieurs communautés artistiques en ligne qui combattent leur démocratisation.
La V2 de Stable Diffusion amène bien entendu des améliorations, notamment une qualité accrue des images générées par la V1, ainsi que des fonctionnalités plus poussées en général. Le logiciel peut par exemple produire du contenu correspondant à la profondeur d'une image existante tout en étant bien différent de celle-ci.
