Les images politiques pourraient bientôt être bannies sur Midjourney. C'est David Holz, P.-D.G de la plateforme, qui l'a annoncé lors d'une session en direct sur Discord.
Alors que les Américains se rendront aux urnes à la fin de l'année, les experts sont de plus en plus nombreux à s'inquiéter de l'impact de l'intelligence artificielle (IA) générative sur la désinformation. L'année dernière, avec les mises à jour de Midjourney notamment, de plus en plus d'images photoréalistes ont fait surface sur la toile, certaines mettant en scène Joe Biden et Donald Trump. La technologie ne cessant de se perfectionner, David Holz envisage d'interdire la création de visuels des candidats présidentiels.
Les cadres de l'IA préoccupés
« Je sais que c'est amusant de faire des photos de Trump, je fais des photos de Trump. Il est esthétiquement très intéressant. Cependant, il est probablement préférable de se retirer un peu pendant cette élection. Nous verrons bien », a notamment déclaré le dirigeant.
Midjourney dispose déjà de normes communautaires visant à limiter la création d'images trompeuses ou nuisibles, mais des inquiétudes persistent quant au contournement de ces restrictions par les utilisateurs. La publication de fausses images compromettantes de l'un des candidats pourrait avoir des effets catastrophiques et influencer le vote de certains. Si Holtz n'a pas formellement annoncé l'interdiction de ce type de contenu, il est probable que Midjourney la mette en place discrètement, a-t-il suggéré.
Il ne s'agit pas du seul acteur éminent de l'IA générative préoccupé par l'année électorale. Sam Altman, P.-D.G d'OpenAI, s'est inquiété du réalisme des deepfakes, bien plus sophistiqués qu'en 2020. Mustafa Suleyman, dirigeant d'Inflection AI, a pour sa part indiqué que le chatbot de son entreprise ne serait pas autorisé à défendre un candidat politique.
Une très vaste problématique
Cette semaine, plusieurs entreprises d'IA ont annoncé des mesures allant aussi dans ce sens. Meta, Google et OpenAI intégreront par exemple un filigrane dans toutes les images générées par leurs modèles d'IA.
Les experts estiment que ces nouvelles réglementations répondent à des problématiques temporaires, mais ne solutionnent pas le problème plus vaste de la désinformation politique, à l'origine d'incidents dramatiques aux États-Unis en 2020. Le mois dernier, un deepfake audio de Joe Biden exhortait des électeurs à ne pas voter pour les primaires démocrates. Un événement qui a mis en lumière la pluralité de méthodes employées pour affecter les élections.
- Droits commerciaux inclus dans tous les forfaits payants
- Pertinence dans la compréhension des prompts
- Tarifs accessibles
Source : Bloomberg
