Ce pape en doudoune est un deepfake, mais classe, mais deepfake, mais...

28 mars 2023 à 10h30
20
Pape en doudoune © © Midjourney
© Midjourney

Des images du pape portant une doudoune blanche sont devenues virales en ligne. Si beaucoup ont cru que le pontife s'était mis à la mode, ce visuel a en réalité été généré par l'intelligence artificielle Midjourney.

« Je pensais que la doudoune du pape était réelle et je n'y ai pas réfléchi. Je ne survivrai jamais à l'avenir de la technologie », a tweeté, en plaisantant, la célébrité américaine Chrissy Teigen. Ses propos reflètent le ressenti de beaucoup d'internautes.

La mise à jour de Midjourney affole le Web

Pourtant, si l'on y regarde de plus près, certains détails comme les angles arrondis du crucifix autour de son cou prouvent que la « photographie » est fausse. Avant de faire le tour de la Toile, l'image a été postée dans le subbredit consacré à l'IA génératrice d'art Midjourney, laissant donc penser qu'elle avait bel et bien été créée par une intelligence artificielle.

Midjourney a bénéficié d'une mise à jour à la mi-mars, et depuis, ses créations sont partagées en masse sur les réseaux sociaux. Cette nouvelle version génère des images bien plus photoréalistes que ses prédécesseurs tandis que ses données d'entraînement contiennent de nombreuses photos de célébrités. En conséquence, des images très réalistes de personnes connues ont circulé sur Internet ces dernières semaines.

Parmi elles, on trouve un visuel d'Elon Musk tenant la main de la députée démocrate Alexandria Ocasio-Cortez, d'Emmanuel Macron courant à travers des nuages de gaz lacrymogène et de Donald Trump en train d'être interpellé par la police.

Fausse arrestation Trump © © Midjourney
© Midjourney

Les IA vont produire du contenu toujours plus réaliste

Pour l'heure, certains défauts, à l'instar de détails qui apparaissent flous, sont discernables sur les images. Cependant, la manière dont nous consommons souvent le contenu, c'est-à-dire en scrollant à travers un flux d'informations ou d'images, peut nous empêcher de les distinguer. C'est exactement ce qu'il s'est produit avec la « photographie » du pape et de sa doudoune. À noter également que certains internautes s'inspirent de l'actualité pour générer des images, les rendant encore plus plausibles.

L'intelligence artificielle générative est une technologie qui s'améliore incroyablement rapidement. Il est donc certain que les images générées par ces systèmes vont devenir de plus en plus réalistes, rendant de plus en plus complexe la distinction entre la fiction et la réalité. L'âge d'or des deepfakes semble se rapprocher à grands pas…

Midjourney v5 © Midjourney
Quelques exemples d'images générées par l'IA © Midjourney
Midjourney
  • Crée des images sublimes
  • Les images générées pour les autres utilisateurs sont visibles

Il s'agit certainement de l'IA qui crée actuellement les plus belles images, ou en tout cas les plus artistiques. Midjourney propose pour un prompt (ou invite) plusieurs images légèrement différentes qui pourront être retravaillées à la demande de l'utilisateur. L'intelligence artificielle produit à la fois des formats 2D et 3D.

Il s'agit certainement de l'IA qui crée actuellement les plus belles images, ou en tout cas les plus artistiques. Midjourney propose pour un prompt (ou invite) plusieurs images légèrement différentes qui pourront être retravaillées à la demande de l'utilisateur. L'intelligence artificielle produit à la fois des formats 2D et 3D.

Source : The Verge

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (20)

Doss
Flippant, même Saint Thomas ce serait fait avoir
Kriz4liD
2023 , l année des fakes News !<br /> Avec chatgpt4 , l IA de Facebook qui se retrouve sur 4chan et qui fonctionne sur un pc , midjournez qui retrourne le cerveau , on ne va bientôt plus croire à aucune info !
Popoulo
Kriz4liD:<br /> on ne va bientôt plus croire à aucune info !<br /> Ca date pas d’hier
a-snowboard
Vu ce qui tourne sur le web et discussion de comptoir au pmu, il fallait toujours être sur de ses infos.<br /> La ou ça sera problématique, c’est quand les médias tomberont dans le panneau. Déjà que ça arrive de temps en temps (ou souvent), la ça risque d’empirer.
Bondamanmanw
Le pape mieux vaut qu’il soit en doudoune qu’à poil et en présence de qui vous savez, si vous voyez ce que je veux dire.
Bombing_Basta
Midjourney… Untill dawn…
crush56
Oula, une attaque envers les chrétiens ?<br /> Attention à la subversivité, tu prends des risques
xryl
Quand on entend ce qu’on entend, et qu’on voit ce qu’on voit, on a raison de penser ce qu’on pense.
Muggsy68
Rien n’est vrai. Tout est possible.
Bondamanmanw
« Attention à la subversivité »<br /> Faut revoir ta définition : Qui est de nature à troubler ou à renverser l’ordre social ou politique<br /> Première nouvelle, les chrétiens garants de l’ordre social !<br /> Ce n’est pas l’état ?<br /> J’ai certes un esprit subversif mais dans ce cas précis on en est loin <br /> « Oula, une attaque envers les chrétiens ? »<br /> Je suis charlie euh pardon je voulais dire charrieur
Duben
Mais penses tu vraiment ce que tu penses ? Ou est ce une IA qui t’a généré une pensée ?
kplan
Gageons qu’ayant compris que toute image étant potentiellement fausse à cause de ce genre d’IA, nous aurons tous à cœur de vérifier nos sources avant de propager une information.<br /> Avant, un trucage demandait un minimum de compétence, maintenant même ma grand-mère peut générer une image de Neymar en train de marcher sans béquille.
Blap
Alors petite precision, Midjourney ce n’est pas du deepfake
xryl
Jean ?
Korgen
Je ne cautionne pas la prolifération des utilisation douteuses des IA, mais ces fakes sont tout aussi simples à réaliser sans IA.
Peggy10Huitres
L’image de Trump est magique !
nemesis_als
Et si la réforme des retraites n’était qu’une énorme fake des IA complotiste…
ABC
À un moment ou un autre, il va falloir légiférer. Le temps que les institutions se mettent en branle. Et ça va se faire. Sinon on aura 2 types de médias, ceux officiels « certifiés » (ou qui essaieront) sans fausses images et autres deepfakes générées par les IA (Le Monde, France Info, Libération, CNN, Le Figaro… ), et les médias « poubelle » dont les informations n’auront plus aucune valeur.<br /> Sans règles, les grands perdants seront les lecteurs, les utilisateurs et les créateurs de contenu qui ont une éthique. Les gagnants seront tous les nuisibles, les trolls, les auteurs de fake news, les propagandistes, les états criminels ou les illuminés.<br /> Même les réseaux sociaux ont tout à perdre avec ces faux contenus. Si leur crédibilité est déjà bien entachée par les scandales et les polémiques à répétition, nourrir les clics avec des contenus encore plus toxiques ne ferait que les décrédibiliser complètement. Avec le risque que le public finisse par se détourner complètement.<br /> Autre point, ces IA n’ont d’intelligente que la lettre « I ». Leurs contenus sont en grande partie basés sur le vol. Voir complètement basés sur le vol. Là aussi il va falloir légiférer et siffler la fin de la récré pour ceux qui ne respectent rien. Par exemples, les images d’illustration de l’article avec le Pape ou Trump n’ont pas été conçues à partir de rien. La source, ce sont des images piratées, bidouillées à coups d’algorithmes et régurgitées. L’IA n’invente rien, elle vole des images sans se soucier du copyright et de l’éthique. Si certains croient que la tête de Trump à été créée sur la base de savants calculs mystérieux, ils se gourent, tout est volé et trafiqué.<br /> Donc soit les entreprises à la tête de ces IA reversent l’intégralité de leurs profits aux représentants divers des auteurs, soit elles finissent devant les tribunaux.<br /> Dernier point, les créateurs de contenus visuels (photographes, illustrateurs… ) ont déjà sorti une parade pour tromper les IA génératives quand elles viennent pirater leur contenu; avec un logiciel baptisé « Glaze ».<br /> Franceinfo – 27 Mar 23<br /> Face au pillage de l'intelligence artificielle, un logiciel baptisé "Glaze"...<br /> Alors que l'Intelligence artificielle dite "générative" s'approprie le travail des artistes sans leur consentement, des étudiants américains ont mis au point une parade pour protéger les œuvres en attendant une future régulation.<br /> Les IA sortiront une contre parade… Actuellement, c’est histoire de gagner un peu de temps avant que les institutions ne légifèrent. Il le faudra, sinon la liberté d’expression va devenir une vaste blague et les fakes conçus par les tarés de tous bords prendront autant de valeur que les contenus authentiques. On connait le résultat, quand tout se vaut, plus rien n’a de valeur. Et ça, c’est ce que recherchent les ennemis de la démocratie.
jean-le-petit
Prochaine étape, des tas de faux profils gérés par des IA qui posteront des commentaires sur les réseaux sociaux. Si ça inonde le web de fausses infos, de faux commentaires, peut-être ça nous détournera de tous ça pour retrouver une vie meilleure ? Socialiser pour de vrai, avec de vrais humains ?
philumax
Ça ne s’arrange pas.<br /> Bientôt, tout ce qui apparaitra sur la toile, sera faux.<br /> Est-ce qu’on va revenir aux journaux papier ?
Juju74
Ah ouais,quand même super cool la nouvelle robe de bure du Pape !!!
Blackalf
IA ou non, deep fake ou non, on en revient toujours à la même chose : croiser les sources et chercher par soi-même.<br /> Les seuls qui s’y sont trompés , ce sont ceux qui n’ont vu que la photo en buste, mais quand on cherche la photo entière, on voit immédiatement le problème : les bras sont beaucoup trop longs.
Voir tous les messages sur le forum