Midjourney envisage des actions concrètes pour éviter la propagation de fausses images des candidats aux élections présidentielles américaines

09 février 2024 à 16h30
5
Une image générée par Midjourney de Trump en train d'être arrêté. © Midjourney
Une image générée par Midjourney de Trump en train d'être arrêté. © Midjourney

Les images politiques pourraient bientôt être bannies sur Midjourney. C'est David Holz, P.-D.G de la plateforme, qui l'a annoncé lors d'une session en direct sur Discord.

Alors que les Américains se rendront aux urnes à la fin de l'année, les experts sont de plus en plus nombreux à s'inquiéter de l'impact de l'intelligence artificielle (IA) générative sur la désinformation. L'année dernière, avec les mises à jour de Midjourney notamment, de plus en plus d'images photoréalistes ont fait surface sur la toile, certaines mettant en scène Joe Biden et Donald Trump. La technologie ne cessant de se perfectionner, David Holz envisage d'interdire la création de visuels des candidats présidentiels.

Les cadres de l'IA préoccupés

« Je sais que c'est amusant de faire des photos de Trump, je fais des photos de Trump. Il est esthétiquement très intéressant. Cependant, il est probablement préférable de se retirer un peu pendant cette élection. Nous verrons bien », a notamment déclaré le dirigeant.

Midjourney dispose déjà de normes communautaires visant à limiter la création d'images trompeuses ou nuisibles, mais des inquiétudes persistent quant au contournement de ces restrictions par les utilisateurs. La publication de fausses images compromettantes de l'un des candidats pourrait avoir des effets catastrophiques et influencer le vote de certains. Si Holtz n'a pas formellement annoncé l'interdiction de ce type de contenu, il est probable que Midjourney la mette en place discrètement, a-t-il suggéré.

Il ne s'agit pas du seul acteur éminent de l'IA générative préoccupé par l'année électorale. Sam Altman, P.-D.G d'OpenAI, s'est inquiété du réalisme des deepfakes, bien plus sophistiqués qu'en 2020. Mustafa Suleyman, dirigeant d'Inflection AI, a pour sa part indiqué que le chatbot de son entreprise ne serait pas autorisé à défendre un candidat politique.

Cette année, les Américains éliront leur nouveau président. © Andy.LIU / Shutterstock
Cette année, les Américains éliront leur nouveau président. © Andy.LIU / Shutterstock

Une très vaste problématique

Cette semaine, plusieurs entreprises d'IA ont annoncé des mesures allant aussi dans ce sens. Meta, Google et OpenAI intégreront par exemple un filigrane dans toutes les images générées par leurs modèles d'IA.

Les experts estiment que ces nouvelles réglementations répondent à des problématiques temporaires, mais ne solutionnent pas le problème plus vaste de la désinformation politique, à l'origine d'incidents dramatiques aux États-Unis en 2020. Le mois dernier, un deepfake audio de Joe Biden exhortait des électeurs à ne pas voter pour les primaires démocrates. Un événement qui a mis en lumière la pluralité de méthodes employées pour affecter les élections.

Midjourney
  • Droits commerciaux inclus dans tous les forfaits payants
  • Pertinence dans la compréhension des prompts
  • Tarifs accessibles

Midjourney s'impose comme un pionnier dans le domaine de la génération d'illustrations via l'intelligence artificielle. Accessible à tous, indépendamment du niveau de sensibilité artistique, l'utilisateur a simplement à saisir un prompt textuel décrivant l'image désirée. Midjourney utilise ensuite ses algorithmes d'intelligence artificielle pour analyser cette entrée textuelle et générer une image qui s'aligne sur les descriptions fournies. Ce mécanisme d'analyse et de génération d'art offre une expérience utilisateur riche, ouvrant les portes de la créativité à une large palette d'utilisateurs.

Midjourney s'impose comme un pionnier dans le domaine de la génération d'illustrations via l'intelligence artificielle. Accessible à tous, indépendamment du niveau de sensibilité artistique, l'utilisateur a simplement à saisir un prompt textuel décrivant l'image désirée. Midjourney utilise ensuite ses algorithmes d'intelligence artificielle pour analyser cette entrée textuelle et générer une image qui s'aligne sur les descriptions fournies. Ce mécanisme d'analyse et de génération d'art offre une expérience utilisateur riche, ouvrant les portes de la créativité à une large palette d'utilisateurs.

Source : Bloomberg

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (5)

Sodium
Rachat de Midjourney par Elon Musk pour le rendre moins « woke » et permettre des fakes embarrassants pour les démocrates (mais pas les républicains, faut pas déconner non plus) dans trois, deux, un…
MattS32
Sodium:<br /> permettre des fakes embarrassants pour les démocrates (mais pas les républicains, faut pas déconner non plus)<br /> En même temps, y a-t-il vraiment besoin de fakes pour embarrasser les républicains ?
Sodium
Certes, d’autant plus que plus ils font des trucs stupides, insensés ou les deux, plus leur électorat semble les trouver géniaux.
cid1
Trump est quand même champion pour les photos embarrassantes, comme celle-ci photo de trump/Elvis - Recherche Google<br /> sur laquelle il se compare à Elvis
pecore
Je vois pas ce que la photo a de bizarre. Je n’ai jamais vu une photo de Trump plus réaliste que celle-là.
tfpsly
Nouveau fake sur Trump, -364M$… Ah on me signale que ce n’est pas un fake, il a bien été condamné (entre autre) à payer cela. Et pour faire appel, il faut bloquer cette somme. Ça va lui faire bien mal <br /> image741×1200 79.5 KB
Voir tous les messages sur le forum