La popularité inquiétante des applis "Nudify" qui déshabillent les femmes grâce à l'IA sans leur consentement

Ils peuvent pas faire la même chose pour gratter virtuellement les tickets de la FDJ ?

Sinon, habitant à quelques minutes d’un centre naturisme, il faudrait plutôt une appli pour rhabiller certaines personnes… ou bien porter des lunettes avec les verres en bois… ^^

Donc dessiner un femme toute nue ce serait la déshabiller sans son consentement ? On peut le faire aussi avec du collage et du découpage. Alors attention, je vais reformuler. Je ne trouve pas ça très sain comme pratique, je vais pas rentrer dans les détails. Mais je trouve les termes assez mal choisi. D’autant que je pense que le vrai probleme n’est pas la création d’image en soi (On pourra pas empecher ça), mais plutot sa diffusion, principalement si cette image est assez réaliste pour faire croire qu’elle est vraie. Là oui, ça peut etre très problématique, mais le problème se limite pas au nude.

Ah ben si, ils peuvent. Mais ça sera bien la même chose : un truc totalement « imaginaire », pas du tout la réalité de ce qu’il y a sous les « habits » Pas sûr que ça permette de trouver les tickets gagnants

Disons qu’effectivement, les questions qui se posent sont la licéité de l’acquisition de l’image d’origine (dont le droit d’utiliser la photo qui a servi au paramétrage), puis le droit de diffusion de l’image finale.

Mais à partir du moment où l’on diffuse la photo sans consentement de la personne reconnaissable, j’aurai tendance à dire que ça devient assez immédiatement a minima de la diffamation. Et ça, que ce soit une image d’IA ou une vraie photo.

En revanche la question se pose dans un cadre « individuel » de savoir si c’est légalement répréhensible ou pas. Je pense qu’on est pas à l’abri de voir débarquer un détraqué qui sera accusé d’avoir agressé une personne dont il aura édité des « variantes » sur un outil génératif pour alimenter son fantasme, et là il pourrait y avoir un retour de bâton pour l’outil.

Si des gens générent des fausses photos pour nuire à une personne, je pense qu’on a déjà un systeme de loi qui permet ça à ma connaissance. Et une plateforme pourrait effectivement être puni pour avoir participé indirectement à cela.
Reste que pour moi c’est pas juste le probleme de générer des nudes sans consentement, qui pour moi est un phénomène qui innonde de toute manière déjà un certain internet et qui la majorité du temps ne va pas plus loin que la génération d’une image. L’IA pose un probleme c’est sur, mais je pense qu’on va arriver un temps où quand tu verras une photo sur internet, il faudra d’abord se demander si elle est vraie ou non (Bon en fait c’est déjà le cas)

Malheureusement, la connerie humaine est sans limite. Donc à chaque fois qu’une nouveauté peut être détournée, des troupeaux d’andouilles sautent dessus pour se faire plaisir.
Mais que peut on faire contre ces troupeaux d’imbéciles ?

Ou vivre les volets fermés.

Ha ça c’est sûr qu’il y a un vrai sujet sur ce point. Et pour moi c’est assez lié aussi à la façon dont le partage des contenus multimédias aujourd’hui passe principalement par la duplication : quand tu « repartages » quelque chose, tu réalises en fait souvent une copie sans perte plutôt qu’une diffusion de l’image d’origine. Donc, tu perds le lien qui garanti son authenticité.

Si on changeait notre façon de gérer le média pour mutualiser son stockage, on pourrait les diffuser sans pour autant les copier, pour en garantir l’origine et pour garder le contrôle dessus (je supprime, ça disparait sur tous les supports relais). Ça n’éviterait pas évidemment la possibilité pour quelqu’un de « pirater » le contenu pour le rediffuser, mais ça permettrait au moins de pouvoir garantir l’origine d’un média.

En gros, partager ses médias comme un lien Teams ou Dropbox, mais que ça puisse s’intégrer de façon fluide n’importe où (post Facebook, site web, etc.), un peu à la Gravatar, mais dans un usage beaucoup plus large.
J’ai jamais trop compris pourquoi les GAFAM se sont jamais penchés sur le sujet, surtout vu le gain considérable en espace de stockage qu’on pourrait attendre à arrêter de copier la copie de la copie copiée. Peut-être parce qu’on a pas de fournisseur de réseau social qui soit intéressé aussi à vendre du stockage cloud. Ça aurait pu être une évolution de Google+ et Google Photos par exemple.

On travaille bien sur des « hash » de signature (C2PA), mais ça n’a pas forcément les mêmes avantages. Pour supprimer un contenu, il faudrait scanner le web à la recherche de la signature…

Je dis pas que sur le papier y a pas une bonne idée. Mais je pense que le problème c’est surtout déjà se poser la question de l’origine de la source. Et là malheureusement, une attestation de véracité ne suffira pas. C’est déjà un reflexe qu’il faut prendre. On se fait d’ailleurs tous berner à un moment ou à un autre (certains plus souvent que d’autres), mais c’est bien d’avoir le reflexe de juste de se poser la question : est ce que c’est vrai ?

Sauf que même quand on se pose la question, ça devient de plus en plus « comment puis-je savoir si c’est vrai ? », et le seul moyen c’est de pouvoir remonter facilement à la source.

Quand je vois par exemple les cas qu’on a eu avec des photos dramatiques d’explosion qui sont authentiques mais utilisées complètement hors de leur contexte (genre l’explosion a bien eu lieue, mais c’était il y a 10 ans et dans un autre pays). Avoir une philosophie quasi permanente de garder le lien avec le fichier d’origine, ça a une vraie pertinence justement. Et ça peut aussi aider les futures IA qui vont scruter le web à nos côtés pour nous alerter sur les fakes news justement.