Gemini de Google semble avoir quelques soucis d'exactitude historique...

Mathilde Rochefort

22 février 2024 à 14h29

Gemini est le LLM le plus sophistiqué de Google. © Google DeepMind

Le modèle d'intelligence artificielle (IA) de Google, Gemini, fait l'objet de nombreuses critiques sur les réseaux sociaux pour l'inexactitude de la représentation de personnages historiques. Pour la firme de Mountain View, il est primordial de corriger les failles de son système.

Avec Gemini, l'entreprise a souhaité rattrapé son retard sur OpenAI et Microsoft. L'agent conversationnel, déployé il y a quelques jours, est capable de générer des images comme ses concurrents, bien que cette fonctionnalité ne soit, pour le moment, pas disponible au sein de l'Union européenne. C'est justement cet outil qui est pointé du doigt par de nombreux internautes.

En voulant bien faire, l'entreprise a créé une nouvelle problématique

Plusieurs exemples d'inexactitudes historiques de Gemini ont été partagés sur X, anciennement Twitter. Par exemple, l'IA générative a représenté un « soldat allemand en 1943 » par un homme noir. Elle a également généré des visuels des Pères fondateurs mettant en scène des hommes blancs, mais aussi noirs ou amérindiens…

Twitter tweet

Ces erreurs sont majoritairement dénoncées par des sympathisants d'extrême droite, qui insinuent que Google souhaite « effacer » les personnes blanches. La réalité est bien plus nuancée. Depuis plusieurs années, les experts alertent en effet sur les biais discriminatoires, qu'ils soient racistes ou sexistes, dont font preuve les IA. Des études ont également mis en exergue ce phénomène, poussant les éditeurs à agir pour le contrer.

A découvrir

On n'arrête plus Google et ses modèles d'IA : après Gemini, voici Gemma avec 7 milliards de paramètres et la puissance de feu de NVIDIA

21 févr. 2024 à 16:58

News

Certains dénoncent le fait que Gemini génère des femmes noires ou asiatiques pour représenter « une femme américaine ». Au contraire, il s'agit d'une illustration réelle de la diversité présente aux États-Unis, prouvant que Google a tenté de trouver une solution. Dans un souci d'empêcher son modèle d'amplifier les biais raciaux, la société semble plutôt avoir engendré une autre problématique. En générant, par exemple, l'image d'une femme noire pour répondre à un prompt lui demandant de dessiner un « sénateur américain des années 1800 », l'IA efface une histoire réelle de discrimination raciale et sexuelle. La première femme sénatrice aux États-Unis était blanche, et a officié à partir de 1922.

Twitter tweet

Google fait son mea culpa

Google a fait part de son erreur dans une publication sur X. « Nous travaillons à améliorer immédiatement ce genre de représentation. La génération d'images par l'IA de Gemini produit une grande variété de personnes, ce qui est généralement une bonne chose car les gens du monde entier l'utilisent. Mais elle rate le coche ici », écrit l'entreprise.

Elle a pris la décision de « suspendre la génération d'images de personnes », et travaille sur une version améliorée de son modèle.

A découvrir

Les meilleures IA pour générer vos contenus

31 janv. 2023 à 18:03

Comparatifs services

Source : The Verge

Mathilde Rochefort

Après mes études de journalisme, j’ai décidé de m’orienter vers les domaines qui me passionnent : nouvelles technologies, jeu vidéo, ou encore astronomie. J’adore partager autour de ces sujets mais ma...

Lire d'autres articles

Commentaires (86)

Ccts

En fait c’est basique, une ia ne réfléchit pas. Elle apprend à partir de textes. Si on écrit pas dans les textes que les pères fondateurs sont blancs, l’ia va se représenter toutes les possibilités (car pour le coup elle a été programmée pour éviter de ne représenter que des hommes ou que des femmes, des petits des gros ou des origines ethniques). Et je pense que si on écrivait en gros dans les textes que les pères fondateurs sont blanc ou que les nazis ne sont pas noirs… ça ferai bizarre en lisant le texte. Imaginez que vous expliquez à un enfant une scène. Et qu’ensuite il vous la dessine… vous seriez étonné. Et pour avoir tous les détails il faudrait une sacré quantité d’informations auxquelles vous ne penseriez même pas. Bref… faut arrêter d’attendre des ia qu’elles réfléchissent.

Alby

J’utilise des IA génératrices d’images depuis un bon moment. L’un des problèmes est qu’elles ne savent pas ou peu représenter des métisses. Le manque de diversité dans les données d’entraînement peut-être?

bizbiz

On voit bien que ces IA ne sont pas encore au point. Le soldat noir n’a, ni les cheveux blond, ni les yeux bleus . Plaisanterie mise à part, il y avait bien des soldats à la « peau sombre » dans la wehrmarcht mais ils étaient Indiens et composaient la Legion 55 ( Légion Freies Indien) .

Sodium

Elinyhs: C’est du wokisme si Google rajoute dans le prompt des concepts woke ce qui est la suspicion ici. Déjà « concepts woke » ne veut rien dire. Ensuite, oui il y a des milliers de paramètres manuels pour essayer d’avoir les meilleurs résultats possibles. Les IAs ont naturellement des biais très racistes et sexistes et on essaye d’y remédier, avec des résultats plus ou moins bons. Proutie66: Bien sur que si une « IA » fait ce qu’on lui dit. Tu n’as visiblement absolument aucune idée de comment fonctionne une IA génératrice de contenu. Une IA ne fait pas « ce qu’on lui dit » car elle ne comprend pas ce qu’on lui. Elle ne sait pas ce qu’est un soldat, un nazie, de quelle couleur de peau et de quel sexe ils doivent être. Ce sont des moulins à tirer des statistiques depuis des sources, pas des robots qui comprennent le sens lexical, historique d’une requête pour répondre exactement ce qu’un humain aurait répondu. D’ailleurs, même les concepteurs de ces IAs ne savent pas exactement comment elles fonctionnent. Proutie66: Accessoirement, je te laisse à ta définition du Cancer Quel est précisément le mal engendré ici ? Ah oui, choquer quelques fachos. Pauvre chous. D’un côté, on a des gens racisés à qui on refuse des jobs, des logements, qui sont pauvres, qui se font parfois tabasser voir tuer à cause de leur couleur de peau et de l’autre, des blancs bas du front qui ont été exposés à une image d’un nazie noir. Je comprends, c’est vraiment dur pour vous. hellcat1944: Justement, le wokisme ne pleure ni ne rêve du passé, il l’abhorre et tente de le détruire à l’aide d’un révisionnisme complètement dément et surtout mensonger. 9a4cc56bb19f2d04b0bd8d7269e48952f72609af9b09e0f1bcbe9c3832c9cccc_1750×834 105 KB Je me réjouis tellement que ce terme passe de mode, que les dégénérés soient obligés de réfléchir un peu plus avant de s’exprimer plutôt que de balancer des mots qui ne veulent rien dire sans les comprendre.

Sodium

MattS32: Parce que ton identité, c’est ce que des gens qui pour la plupart n’ont aucun lien de parenté avec toi on fait il y a des dizaines ou des centaines d’années ? Non, il semble que leur identité soit la glorification d’un passé colonisateur et esclavagiste.

Mel92

MattS32: Si tu veux une famille à la peau blanche, demande une famille à la peau blanche. Aussi tôt dit, aussi tôt fait. Demande « dessine une famille à la peau blanche », réponse : famille à la peau blanche1920×1487 190 KB Sodium: vous en êtes encore à penser qu’elles sont suffisamment intelligentes pour tirer un sens de ce qu’on leur demande dans le prompt Je ne pense rien. Je réalise juste que cette IA fait n’importe-quoi. Enfin, pas exactement, ses résultats reflètent les biais que ses concepteurs ont introduit, volontairement ou non. En réalité, j’ai tendance à penser que c’est plutôt volontaire. C’est assez évident si je lui demande de me dessiner une famille française : famille française1920×1517 177 KB

Palou

Sodium: On vous engage réellement pour faire du troll d’extrême-droite ? Première chose : apprendre la traduction, tu pourras revenir plus tard … De plus, je cherche où est l’extrême droite dedans, mais comme tu es un master dans ce domaine je te laisse avec ton opinion. Dernière chose, je suis membre avant d’être modo !

Sodium

Palou: Première chose : apprendre la traduction, tu pourras revenir plus tard … La traduction de quoi ? Il n’y avait a priori aucun sous-discours dans le t-shirt que tu as posté. Il y a quinze ans, oui, peut-être, on aurait pu peut-être éventuellement avoir un doute. Dans un 2024 où de plus en plus de gouvernements dans le monde sont passés à l’extrême-droite et où les racistes, masculinistes etc n’ont plus aucune gêne à exprimer publiquement leurs idées moisies, quand je vois un truc qui a première vue paraît d’extrême-droite, je pars du principe que c’est un message d’extrême-droite. Palou: De plus, je cherche où est l’extrême droite dedans, mais comme tu es un master dans ce domaine je te laisse avec ton opinion. Le mot woke est utilisé exclusivement par l’extrême-droite pour critiquer toute idée progressiste. Personne d’autre ne l’emploie jamais. Donc oui, c’est un message d’extrême-droite.

Palou

Sinon, à part les mots « extrême droite », tu en as d’autres dans ton répertoire monsieur Jesaistout ? une petite tisane et ça ira mieux …

Sodium

Palou: Sinon, à part les mots « extrême droite », tu en as d’autres dans ton répertoire monsieur Jesaistout ? La montée de l’extrême-droite partout dans le monde est probablement la plus grande menace qui vise actuellement l’humanité et la survie de nos civilisations. On pourrait croire que cette médaille reviendrait au changement climatique… sauf que justement, ce sont les représentants des partis d’extrême-droite qui sont quasi unanimement climatosceptiques et ne feront donc rien contre. Excuse-moi d’être inquiet pour l’avenir.

Sodium

Mel92: Ça doit être la raison car lorsque je lui demande en anglais (correct), ça donne ça : Ca n’est pas de l’anglais correct. La formulation correcte est « white-skinned ». Mel92: la blondeur est plutôt rare chez les blancs, bizarre que tous les personnages soient plus ou moins blonds. Quoi, il y a un problème de wokisme pro-blonds maintenant ? Mel92: une famille c’est à la base : un papa, une maman, un ou plusieurs enfants. Après, on peut en rajouter ou innover, mais restons simples. Sur ces 4 images, où y a t-il une famille ? Pour la trouzilième fois, une IA ne sait pas ce qu’est une famille, un blanc, un nazie, ou n’importe quoi d’autre. MattS32: Encore une fois, là tu raisonnes en humain. Je rajouterais même en humain Christine Boutin-compliant…

MattS32

Tiens voilà ce que àa donne avec un prompt bien plus détaillé : image1660×1038 172 KB À peu près tout est respecté. Juste le côté malheureux qui est pas forcément très bien rendu, ils auraient pu un peu plus tirer la tronche. Une autre avec le même prompt, cette fois le côté malheureux est mieux fait, mais le côté pauvre est moins bon et la fille n’a pas la bonne couleur de cheveux : image1668×1046 160 KB Du coup je lui ai demandé ça en plus : « Ils sont dans un logement insalubre. Et la petite fille a les cheveux noirs. », qu’il a traduit en un prompt plus complet (« Le salon est dans un logement insalubre, avec des murs sales, des meubles cassés et des fenêtres brisées. »). Et là on y est, j’ai obtenu tout a fait ce que je voulais : image1675×1048 154 KB Mais en choisissant la mieux parmi les 4 proposées… sur la première il manque carrément un enfant (ce qui montre bien à quel point l’IA n’a aucune « compréhension » de ce qu’on lui demande), sur la deuxième le père n’est pas assez roux et la mère pas assez asiatique, sur la 4ème les cheveux de la mère sont plus gris que blonds : Et si on regarde plus en détail, même celle que j’ai sélectionnée nécessiterait encore pas mal d’amélioration pour être vraiment au point (les mains du garçon et de la mère, l’étagère en haut à gauche qui a une cassure, la jambe de la mère qui est bizarre sur le bas, son oreille aussi qui est étrange, les deux tasses de gauche qui sont mal faites, les parents qui sont assis trop bas par rapport à la hauteur du canapé…), mais pour vraiment arriver à un bon résultat il faudrait un outil plus avancé, qui permette de cibler des zones précises de l’image pour les modifier). Il est illusoire d’imaginer qu’à partir d’un prompte simple une IA générative peut comprendre exactement ce que tu attends d’elle avec ta pensée complexe d’être humain, qui ne peut pas être transcrite en 3 mots.

Martin_Penwald

Le problème n’est pas tout-à-fait le mot ”woke”, mais surtout qu’il est utilisé comme une insulte, et que ceux qui l’utilisent sont incapables d’en donner une définition claire, puisque justement, ils l’emploient en temps qu’insulte et pas dans son sens premier. Comme on le voit ici, quand on demande ce qu’ils entendent par ”woke”, ils vont directement vers une rhétorique liées aux discours d’extrême-droite. Et après ils viennent chouiner qu’on leur dit qu’ils sont d’extrême-droite. Qu’ils assument !

Sodium

Martin_Penwald: Le problème n’est pas tout-à-fait le mot ”woke”, mais surtout qu’il est utilisé comme une insulte Je n’ai jamais vu une personne de gauche employer ce terme pour ce décrire elle ou les idées auxquelles elle adhère.

MattS32

tfpsly: Un LLM fonctionne (description très grossière/grosse louche) en interpolant des textes intégrés pendant l’entraînement. Il ne sait pas comment il fonctionne, donc il va répondre n’importe quoi quand tu le lui demande. Tout a fait. D’ailleurs, si on demande à Copilot Designer, il fait une réponse très différente sur le sujet : image1064×490 101 KB

Martin_Penwald

Oui, sauf que c’est là qu’est l’os : Je me définirais comme humaniste (donc ”woke”), progressiste (donc ”woke”), antifa (donc ”woke”), en faveur des droits des minorités sexuelles, d’expression de genre, éthniques (donc ”woke”) … Or, rien de tout ça n’est une insulte, c’est pour ça que j’essaie toujours de savoir ce que quelqu’un qui utilise le terme veut dire. Et, en effet, les gens qui sont contre ces choses sont fondamentalement d’extrême-droite, mais n’osent pas l’assumer.

Sodium

Proutie66: Tu as d’autres question ou bien ? Des questions non, par contre demander à une IA comment elle fonctionne c’est là encore anthropomorphiser l’IA et ne pas comprendre leur principe

Nmut

J’ajouterais que le problème existe partout. Demande à un graphiste ou un photographe de te faire une affiche avec seulement un descriptif de 50 lignes, il n’y a aucune chance d’obtenir quelque chose qui te plait et/ou qui est adapté à ton besoin (d’ailleurs il y a de grandes chances que ton image mentale soit elle-même biaisée, voir inadaptée). Et même après « recadrage », si il n’y a pas de discussion devant l’affiche pour comprendre tous les impératifs, cela risque de continuer longtemps à ne pas correspondre! Et c’est la même chose dans plein de domaines, les spécifications sont la base du travail et doivent être précises élaborées via un dialogue entre un spécialiste (requirement manager, c’est un métier difficile mais indispensable) et les utilisateurs pour un projet réussi.

paulposition

@tous: Il serait bon que ce sujet, comme beaucoup d’autre, n’entraîne pas systématiquement l’utilisation du mot « woke » , ce qui amène d’office des débats sans fin, chacun ayant SA vision de l’utilité/utilisation de ce mot (ou plutôt de cet Anglicisme). Donc, merci de revenir au sujet .

juju251

Ce message est le DERNIER rappel : Ce sujet N’EST PAS un prétexte à déverser votre haine des personnes différentes, que ce soit par leur couleur de peau ou autre. Je rappelle également à toutes fins utiles à ceux qui viennent pleurer « OuIn, OuIn, lEs MéChAnTs PrOgReSsiSteS » que soutenir des thèses et mouvements qui vont dans le sens de « telle couleur ou idéologie » est supérieure aux autres", on sait très bien où ça mène : Du harcèlement, des menaces de morts, voir pire, : Ai-je besoin de rappeler ce qui s’est passé dans les années 30 et jusqu’à 1945 en Europe ? Et ce n’est malheureusement qu’un TROP NOMBREUX exemple parmi d’autres. Encore une fois, il est regrettable de voir qu’il est encore nécessaire de faire un rappel là-dessus. Il va vraiment falloir que certains arrêtent de balancer leur haine et leurs idées racistes / LGBTphobes (et autres, bref vous m’aurez compris, sans peine) ici. Ce n’est pas une lubie de la modération de Clubic, c’est juste la Loi. Le RESPECT de l’être humain DEVRAIT être quelque chose de sacré, mais visiblement, ce n’est pas le cas pour trop de monde. PS : Je vous considère comme prévenus, si déconnez, il ne faudra pas venir se plaindre si des sanctions tombent.

Mel92

MattS32: Il est illusoire d’imaginer qu’à partir d’un prompte simple une IA générative peut comprendre exactement ce que tu attends d’elle avec ta pensée complexe d’être humain, qui ne peut pas être transcrite en 3 mots. Je vois bien ce que tu veux dire: il faut une description détaillée pour que l’IA réalise quelque-chose de raisonnable. Autrement-dit, si la description n’est pas assez détaillée, on aura n’importe-quoi. C’est une vision optimiste, je pense plutôt qu’on a le plus souvent n’importe-quoi, même lorsque la demande est claire et parait bien « comprise ». Par exemple, une demande qui ne nécessite pas beaucoup d’explications ni de raffinements, qui ne soit ni ambiguë ni sujette à interprétation : « Dessine-moi la place de l’Étoile à Paris, le 15 aout 1982 à 3h du matin. » Il répond par un texte qui me semble correct : « Je vais essayer de créer ça. Voici la place de l’Étoile à Paris, le 15 aout 1982 à 3h du matin. C’est une vue aérienne de la célèbre place où se trouve l’Arc de Triomphe, entouré de douze avenues rayonnantes. On peut voir les lumières des voitures et des bâtiments dans la nuit. C’était un jour férié en France, donc il n’y avait pas beaucoup de circulation. » J’étais plein d’espoir, jusqu’à ce qu’il me fasse 4 propositions : étoile1148×1137 449 KB Ça fait longtemps que je n’ai pas été à Paris, mais aucune des 4 images ne correspond à la description. C’est quoi cette fontaine ? Une des propositions ressemble à un grand magasin (la Samaritaine ?) J’étais né en 1982, je me souviens que les voitures ne ressemblaient pas à ça. À 3h du matin, on est en pleine nuit. C’est quoi cette foule dehors à 3h du matin un 15 août ? etc… Donc là, l’IA qui dessine (Dall-E 3) est nettement moins « intelligente » qui celle qui répond par du texte (ChatGPT). Ne « comprenant » rien, elle n’est même pas capable de se raccrocher fermement à des images qu’elle aurait vu passer. Elle « improvise » et part dans le n’importe-quoi. J’en déduis que ces IA génératives, ça ne marche pas au sens où il faut un travail conséquent pour obtenir avec un peu de chance, un résultat attendu. Je me demande si on est pas simplement en train de voir une bulle se gonfler.

MattS32

Encore une fois, ce n’est pas parce que le prompt te semble évident et précis pour toi, qui raisonne comme en humain, qu’il l’est forcément aussi pour une IA générative, qui ne fonctionne pas du tout de la même façon… Une date, c’est quelque chose de très précis pour toi. Mais pas pour une IA générative, il faut être très descriptif. Parce que en gros, en simplifiant à l’extrême, le fonctionnement d’une IA générative d’image, c’est de produire une représentation numérique du prompt d’après sa base de connaissance, puis partir d’un bruit blanc, et de le modifier « aléatoirement » pour que la « signature » de l’image (éventuellement obtenue en demandant à un modèle de reconnaissance de faire une description de l’image) converge vers celle du prompt. Il n’y a pas une véritable compréhension des notions qui sont exprimées dans le prompt, juste une distance sémantique entre le prompt et l’image produite. Et pour un modèle, la distance sémantique entre « place de l’étoile » et « une place avec une statue » n’est pas forcément grande, donc ça peut converger… Et plus tu met de détail dans le prompt, plus tu vas l’éloigner sémantiquement d’images trop génériques. Mais il faut aussi que ça soit des détails qui aient du sens par rapport aux labels qu’il y a dans sa base d’apprentissage… Et il y a probablement pas d’images labellisées « 15 août 1982 » ou « 3h du matin » dans sa base d’apprentissage, donc pour lui ça n’a aucun sens (et s’il y en a, ça sera pas la place de l’Étoile… ça sera sans doute des photos de calendriers et d’horloges )… Cela dit, tu as dû être particulièrement mal chanceux, parce que avec ton prompt perso j’ai bien obtenu directement 4 images avec l’Arc de Triomphe de nuit : image875×646 120 KB Pour ce que tu veux, voici par exemple un prompt qui me donne une bien meilleure première approche : « Dessine moi l’Arc de Triomphe, au milieu de la place de l’Etoile, à Paris, une nuit d’été, dans les années 1980, avec très peu de voitures qui circulent. » Et le résultat, c’est 4 images avec l’Arc de Triomphe, toutes de nuit. Peut-être encore un peu trop de voitures, et surtout, des voitures trop modernes pour les années 80. Et besoin d’un gros travail sur le ciel, pour éliminer cette voie lactée beaucoup trop visible (à noter qu’il a justement ajouté à mon prompte « et un ciel étoilé »… image488×531 92.5 KB Je lui ai donc fait la demande complémentaire suivante : « Les voitures doivent être des modèles plus anciens, ceux qui circulaient dans les années 80. Il faut également beaucoup moins d’étoiles dans le ciel. On ne doit pas voir la voie lactée. ». Ce qu’il a converti en « ’Arc de Triomphe, au milieu de la place de l’Etoile, à Paris, une nuit d’été, dans les années 1980, avec très peu de voitures qui circulaient, et un ciel étoilé. Les voitures sont des modèles plus anciens, comme des Renault 5, des Peugeot 205 ou des Citroën 2CV. Le ciel est plus sombre et moins étoilé que dans l’image précédente. On ne voit pas la voie lactée » Et hop, on a bien, à quelques exceptions près, des voitures des années 80, mais toujours cette voie lactée qui fait de la résistance. Et les plaques des voitures ne sont pas des années 80 (logo européen…), mais ça ça doit être difficile à éviter sans faire un affinage par zone, ce que Copilot Designer ne permet pas, parce que même pour les voitures des années 80, sa base d’apprentissage contient sans doute surtout des photos assez récentes, donc avec des plaques modernes… image486×536 88.2 KB Du coup, j’insiste, je réclame un ciel noir avec seulement quelques étoiles : image487×539 85.9 KB En passant en anglais et en insistant sur la réduction du nombre de voitures, j’obtiens finalement ça : image684×683 47.3 KB (prompt : “The Arc de Triomphe in the middle of the Place de l’Étoile in Paris. The scenes takes place during a summer night. The sky is totally dark, with only very few stars. There are only one or two cars from the 80’s on the road, for instance Renault 5, Peugeot 205 or Citroen 2CV.”) Il y aurait encore des améliorations à faire, mettre les voitures dans une position plus réaliste, avec un conducteur, diversifier un peu les modèles de voiture et mettre seulement des voitures qui existent (là sur la gauche on a par exemple un joli croisement entre une 2CV et une 4L ), mais on atteint les limites de Copilot Designer, qui ne permet pas de modifier précisément une partie de l’image en conservant le reste. Pour info, une conf à laquelle j’avais assisté il y a quelques temps, qui explique dans les grandes lignes comment ça marche et comment on peut travailler petit à petit une image avec des outils qui permettent de retravailler par zone : https://www.youtube.com/watch?v=oVMROk-Z5T4 On y voit aussi un point intéressant, la fameuse génération progressive de l’image à partir d’un bruit blanc, l’outil utilisé (le bot de Midjourney sur Discord) affichant les images intermédiaires au fil de la génération.

Sebastian-Kammerer

les ia de génération d’images fonctionnent comme ceci pour leur entraînement : Tu lui donne un texte, la plupart du temps en anglais et ensuite tu associe le texte à une image. Par exemple : Personne italienne. Photo d’une personne italienne. Si quand tu demandes une famille italienne il te génère plusieurs personnes métissées ou noir, alors on lui a donné dans l’entraînement ceci : Personne italienne. Photo d’un personne métissée.

Sodium

Oui mais non, absolument pas. Tu crois vraiment qu’on s’est amusé à fournir des millions de photos de telle ou telle pays ou ethnie pour que l’IA ressorte une bonne petite famille bien comme il faut quand on lui donne un prompt ? L’IA a d’abord appris à reconnaître des humains, quelle que soit la couleur de peau. On lui a appris qu’une famille, c’est généralement plusieurs humains, éventuellement un chien. Enfin, elle a différents exemples de choses qui sont typiques d’un pays. Quand on lui donne un prompt, elle va faire un mix statistiques d’absolument tout ce qu’elle a ingurgité et ça sera plus ou moins pertinent. Ce qu’est un italien, elle s’en fout. Ce qu’est un blanc ou un noir, elle s’en fout. Dans ses données, elle a vu plus d’enfants blancs de parents blancs, mais ça ne veut pas dire que statistiquement ces enfants ne peuvent pas être noirs puisqu’elle ne se soucie absolument pas de génétique. Tout comme elle ne se soucie pas de socio-politique, de géographie ou d’histoire. Arrêtez juste d’essayer de donner des leçons sur des concepts que vous ne comprenez absolument pas, ça ira beaucoup mieux.

MattS32

Sebastian-Kammerer: Tu lui donne un texte, la plupart du temps en anglais et ensuite tu associe le texte à une image. Par exemple : Personne italienne. Photo d’une personne italienne. Sauf que y a aucune raison que celui qui fait les labels des photos indique que la personne est italienne, parce que quand quelqu’un est italien, c’est pas marqué sur son visage… Les seuls cas où ça sera labellisé comme personne italienne, c’est si par exemple la personne sur la photo arbore des signes très distinctifs, comme un drapeau (et encore, si le gars fait correctement son boulot de labeliseur, il mettra pas « personne italienne », mais « personne avec un drapeau italien »)… Et dans ce cas, ce sont ces signes distinctifs qui vont être les éléments significatifs de distinction que l’IA va finir par apprendre à distinguer, pas la couleur de peau (qui n’est pas un élément distinctif entre « personne italienne » et « personne »…).

Sebastian-Kammerer

Faut arrêter d’être autant mondialiste, faudrait un jour comprendre qu’un français, qu’un italien, qu’un australien, ou qu’un congolais ont tous un physique différent. Et non, les IA de génération d’images n’ont pas d’intelligence, ils se contentent de générer/dessiner ce qu’on leur a appris, si lors de l’entraînement on lui a dis : Femme Allemande. Et on lui met beaucoup d’images de blondes aux yeux bleus. Elle va générer la plupart du temps une femme blonde avec les yeux bleus quand on va lui dire une femme allemande. Pour l’IA, si on l’a entraîné pour le prompt famille avec des images avec seulement 2 personnes, l’IA ne va jamais te générer des images avec 4 personnes lors ce que tu vas utiliser le mot famille. Donc ces ia n’ont pas d’intelligence, elles se contentent de répéter ce qu’on leur a donné. C’est un peu comme un moteur de recherche d’images mais qui peut mélanger les images. Si tu dis que les ia ne font pas la distinction des origines comment explique tu que si tu demandes à midjourney de générer l’image d’un allemand il va te générer quelqu’un de blond aux yeux bleus ? J’attends ta réponse.

MattS32

Sebastian-Kammerer: faudrait un jour comprendre qu’un français, qu’un italien, qu’un australien, ou qu’un congolais ont tous un physique différent Faudrait un jour comprendre qu’il n’y a pas de lien direct entre éthnicité et nationalité… Un français, un italien, un australien et un congolais n’ont pas nécessairement un physique différent. Et ce d’autant plus qu’une même personne peut tout a fait cumuler plusieurs de ces nationalités en même temps… Sebastian-Kammerer: Et on lui met beaucoup d’images de blondes aux yeux bleus. Elle va générer la plupart du temps une femme blonde avec les yeux bleus quand on va lui dire une femme allemande. Et donc elle va perpétuer des stéréotypes débiles, parce que non, les allemandes sont très loin d’être toutes des blondes aux yeux bleus, et inversement, les blondes aux yeux bleus sont très loin d’être toutes allemandes… Génétiquement, la blondeur n’est d’ailleurs très vraisemblablement pas originale d’Allemagne, mais plutôt de Scandinavie… La nationalité ou la citoyenneté ne se lit pas sur un visage, apprendre à une IA de reconnaissance ou de génération d’images à reconnaitre une nationalité, c’est totalement absurde. Tiens, quelques petites illustrations pour te montrer l’absurdité qu’il y a à juger de la nationalité sur la base d’une simple photo : 594×653 144 KB ^ Cette jeune fille est chinoise. ^ 1300×957 135 KB ^ Ces deux là sont russes. ^ ^ Lui est italien. Et membre d’un parti d’extrême droite anti-immigration… ^ 1600×1100 135 KB ^ Et lui, c’est un Kenyan. ^ Sebastian-Kammerer: si tu demandes à midjourney de générer l’image d’un allemand il va te générer quelqu’un de blond aux yeux bleus Tout simplement parce que les images d’entrainement qui ont été labellisées « allemand » sont sans doute des images hyper stérotypées… Sinon elles n’auraient pas été labellisées « allemand », même s’il y a des allemands dessus. Mais c’est du coup un très mauvais entrainement, car ce n’est pas du tout représentatif de la réalité, les allemands sont très loin d’être tous des blonds aux yeux bleus (même le taré qui a voulu que les allemands soient tous des blonds aux yeux bleus ne l’était pas lui même ). D’ailleurs, si je demande à Copilot Designer de me générer un allemand, sur les 4 photos ils me sort un mec en tenu traditionnelle de sud Bavière avec une chope de bière à la main… Du stéréotype pure et dur, et au final ce qui fait qu’on va se dire que c’est effectivement un allemand sur la photo, ce n’est pas le physique du bonhomme, mais bel et bien le fait qu’il est en tenu traditionnelle d’une région du sud de l’Allemagne et qu’il tient une choppe de bière… Juste à cause de stéréotypes bien éloignés de la réalité en fait… Il y avait sans doute dans les données d’apprentissage de Dall-E beaucoup d’allemands qui ne sont pas blonds aux yeux bleus en tenue bavaroise avec une choppe de bière à la main… Sauf que eux n’ont tout simplement pas été labellisés « allemand », parce que justement il n’y avait pas de signe distinctif permettant de les qualifier d’allemand…

glaude.denree

J’ai hâte de voir le résultat d’une famille Camerounaise, mais je doute que ce soit des blonds ou des asiatiques… (ce qu’il serait tout à fait normal)

glaude.denree

La réalité ce n’est pas mettre le focus sur une personne mais de voir l’ensemble. Si pour toi le kenyan moyen est blanc, je pense que tu devrais aller visiter le pays.

MattS32

glaude.denree: Si pour toi le kenyan moyen est blanc J’ai jamais dit ça. Je dit juste que c’est débile de se baser sur le physique pour déterminer une nationalité ou une citoyenneté. Et donc c’est débile de préciser des nationalités dans les bases d’apprentissage des IA, sauf quand il y a des signes distinctifs forts (drapeau, tenue traditionnelle…) et de vouloir qu’une IA génère des images de personnes d’une certaine nationalité. Si je demande une image de français à une IA, ce que j’attends d’elle c’est pas une couleur de peau, ce sont des signes distinctifs forts. La nationalité est un truc totalement artificiel qui n’a aucune existence naturelle et n’est donc en aucun cas inscrit dans les gênes.

glaude.denree

Le physique voire même l’ethnie ont pourtant défini les humains pendant des milliers d’années, jusqu’à l’avènement récent du mondialisme avec le mélange hasardeux d’ethnies venues des 4 coins du monde. Si les nations n’existent pas il faut aller dire ca aux millions de citoyens ou soldats qui sont morts pour défendre leur peuple et leur nation. Le petit blanc occidental croit aujourd’hui être sorti de l’histoire grâce à son confort bourgeois, mais quelque chose me dit que les choses vont changer à l’avenir. Une mise à jour du logiciel est fortement recommandée pour éviter le choc brutal.

MattS32

glaude.denree: Si les nations n’existent pas il faut aller dire ca aux millions de citoyens ou soldats qui sont morts pour défendre leur peuple et leur nation. Je n’ai pas dit qu’elles n’existent pas. J’ai dit que ce sont des constructions artificielles, pas naturelles. Ce qui fait que je suis français, ce ne sont pas mes gênes et mon physique. Ce sont uniquement les lois actuelles (oui, actuelles, parce que là où je suis né, la nationalité locale a changé au moins 4 fois au cours des deux derniers siècles). Et oui, hélas, ces constructions artificielles ont mené à beaucoup de guerres totalement absurdes et de morts…

Sebastian-Kammerer

MattS32: Ce qui fait que je suis français, ce ne sont pas mes gênes et mon physique. Ce sont uniquement les lois actuelles (oui, actuelles, parce que là où je suis né, la nationalité locale a changé au moins 4 fois au cours des deux derniers siècles. Non, ce qui fait que tu es français c’est pas les lois, c’est la manière dont tu vis, la langue que tu parles, tes mœurs, etc… Bien sûr que quelqu’un qui vient du Kenya ou d’Allemagne est français quand il viens en France, mais pour cela il faut qu’il vive à la française. Mais au niveau du physique un allemand ou un kenyan, ils auront beau êtres français, ils n’auront pas le même physique qu’un français de souche. C’est naturel le physique.

MattS32

Sebastian-Kammerer: Non, ce qui fait que tu es français c’est pas les lois, c’est la manière dont tu vis, la langue que tu parles, tes mœurs, etc… Ben non, c’est exclusivement la loi. La nationalité est une donnée purement juridique. Pour être français, la loi ne m’impose pas de façon de vivre particulière, je suis libre d’avoir la religion que je veux (ou pas de religion), de manger à peu près ce que je veux (il y a bien quelques interdictions légales, comme le fait de manger certains animaux, mais elles ne s’appliquent que sur le territoire français, par exemple si je mange du chien dans un pays où c’est légal, on ne va pas me dire que je ne suis plus français), je parle la langue que je veux (je n’ai obligation d’utiliser le français que pour mes contacts avec l’administration…) D’ailleurs quand la nationalité française a été instaurée, il y avait beaucoup de français qui ne parlaient pas du tout le français (le français ne s’est généralisé sur le territoire français qu’à partir du début du XXème siècle, imposé à marche forcée par l’administration parisienne, notamment en mutant « de force » les enseignants loin de leur région d’origine pour forcer l’abandon des langues locales à l’école), et même aujourd’hui, il subsiste pas mal de différence entre le français d’ici et celui de là-bas, tant dans le vocabulaire (par exemple, le très célèbre « pain au chocolat » vs « chocolatine », mais il y en a énormément d’autres…) que dans les expressions idiomatiques et la prononciation… Sebastian-Kammerer: Mais au niveau du physique un allemand ou un kenyan, ils auront beau êtres français, ils n’auront pas le même physique qu’un français de souche. Les « de souche », ça n’existe pas. C’est juste une construction stupide de la part de bas du front qui s’imaginent être supérieur parce qu’ils sont « de souche » alors qu’il y a rarement besoin de remonter à plus de 3-4 générations en arrière pour trouver des ailleux venant d’un autre pays… En fait le seul moyen d’être « de souche » sur le long terme, c’est d’être complètement con-sanguin C’est d’ailleurs prouvé scientifiquement, l’écart-type génétique dans une population d’un même pays est plus grand que l’écarte moyen entre pays. Quand bien même les « de souche » existeraient, il y aurais plus de différence génétique entre un Toulousain « de souche » et un Strasbougeois « de souche » qu’entre un Strasbougeois « de souche » et un Francfortois « de souche ». Sebastian-Kammerer: C’est naturel le physique. Exactement. Le physique, c’est naturel. La nationalité, ça ne l’est pas, c’est une construction artificielle créée par l’homme. Il n’y a donc pas de lien direct entre les deux.

Sebastian-Kammerer

MattS32: C’est d’ailleurs prouvé scientifiquement, l’écart-type génétique dans une population d’un même pays est plus grand que l’écarte moyen entre pays. Quand bien même les « de souche » existeraient, il y aurais plus de différence génétique entre un Toulousain « de souche » et un Strasbougeois « de souche » qu’entre un Strasbougeois « de souche » et un Francfortois « de souche ». Mais de quoi tu me parle ? Un strasbourgeois est un français, c’est la même chose pour un toulousain. MattS32: Les « de souche », ça n’existe pas. C’est juste une construction stupide de la part de bas du front qui s’imaginent être supérieur parce qu’ils sont « de souche » alors qu’il y a rarement besoin de remonter à plus de 3-4 générations en arrière pour trouver des ailleux venant d’un autre pays… Si ça existe, tu ne peux pas considérer un français ayant des ancêtres sur le territoire depuis 5 siècles et un français ayant des ancêtres sur le territoire depuis 1 siècle comme les mêmes. Après bien sûr qu’il ont les mêmes droits, il n’y en a pas un supérieur, mais il faut tout de même savoir les différencier. MattS32: Ben non, c’est exclusivement la loi. La nationalité est une donnée purement juridique. Pour être français, la loi ne m’impose pas de façon de vivre particulière, je suis libre d’avoir la religion que je veux (ou pas de religion), de manger à peu près ce que je veux (il y a bien quelques interdictions légales, comme le fait de manger certains animaux, mais elles ne s’appliquent que sur le territoire français, par exemple si je mange du chien dans un pays où c’est légal, on ne va pas me dire que je ne suis plus français), je parle la langue que je veux (je n’ai obligation d’utiliser le français que pour mes contacts avec l’administration…) Je ne te parle pas de la loi, je te parle de ma vision d’un français, sans cette vision c’est l’anarchie, tout le monde vivant différemment ça amène tout droit à la guerre de communauté, alors que si tout le monde peut importe son origine vit à la française, cela crée de l’unité nationale. Un monde sans pays c’est impossible, nous avons créé les pays pour nous différencier les uns des autres. Dans la nature c’est la même chose mais en plus petit, un loup chef de meute ne va pas diriger tout les loups sur terre. Le loup va diriger sa famille. Nous c’est pareil mais à l’échelle de chaque pays. On dirige pas une famille mais des millions (Dans le cas de la France).

MattS32

Sebastian-Kammerer: Mais de quoi tu me parle ? Un strasbourgeois est un français, c’est la même chose pour un toulousain. Oui. Et pourtant génétiquement un Strasbougeois depuis des siècles sera plus proche d’un Fracnfortois depuis des siècles que d’un Toulousain depuis des siècles… Ce qui montre bien qu’établir un lien entre physique (donc génétique) et nationalité est absurde. Et même culturellement, un strasbourgeois est bien plus proche d’un allemand que d’un toulousain… Sebastian-Kammerer: Si ça existe, tu ne peux pas considérer un français ayant des ancêtres sur le territoire depuis 5 siècles et un français ayant des ancêtres sur le territoire depuis 1 siècle comme pareil. Après bien sûr qu’il ont les mêmes droits, il n’y en a pas un supérieur, mais il faut tout de même savoir les différencier. Et pourquoi il « faut » les différencier ? Ça change quoi ? Ils ont les mêmes droits, les mêmes devoirs. Y a aucune raison de les différencier. D’ailleurs, il y a 5 siècles, la nationalité française n’existait même pas. Et le territoire de la France n’était pas le même qu’aujourd’hui : des gens qui sont depuis 5 siècles à des endroits qui étaient en France il y a 5 siècles ne sont pas français aujourd’hui, alors qu’à l’inverse des gens sui sont depuis 5 siècles dans un des endroits qui n’étaient pas la France à l’époque sont aujourd’hui français…

Mel92

MattS32: ^ Et lui, c’est un Kenyan. ^ Pardonne-moi, mais cet argument est stupide (je ne veux surtout pas t’agresser mais je ne trouve pas d’autre qualificatif; peut-être étais-tu fatigué quand tu l’as écrit; ou alors je suis excessivement et à tord, énervé) : ce n’est pas parce qu’il existe des Kenyans blancs que le Kenyan moyen l’est. Or quand je demande une image de Kenyan, je ne cherche pas l’image de quelqu’un en particulier, je veux une image moyenne, celle du monsieur-tout-le-monde kenyan, que j’aurais par exemple en promenant dans les rues de Nairobi. Et ce monsieur-tout-le-monde Kenyan ne ressemble pas à ta photo de Chris Froome. Tout comme la famille française-ordinaire-et-ultra-banale ne ressemble pas au dessin qu’ avait donné l’IA plus haut. Personne n’a jamais dit que tous les Kenyans (Français, Malgaches, Allemands, Indiens, Américains etc. etc.) étaient tous de la même couleur ou se ressemblaient tous, mais il y a une certaine unité. relative mais une unité quant-même. Unité que je note simplement en me promenant dans la rue, en France et ailleurs. Pour info, je suis blanc comme ma femme, mais une de mes fille est noire, un peu comme sur le dessin de l’IA. Ça ne fait pas de nous une famille moins française, juste moins typique, moins moyenne ou moins ordinaire. Nous sommes un cas où en tant que famille, nous sortons de la moyenne. Et il serait anormal qu’un étranger qui veut une image de la famille française moyenne nous prenne en exemple.

MattS32

Mel92: Or quand je demande une image de Kenyan, je ne cherche pas l’image de quelqu’un en particulier, je veux une image moyenne, celle du monsieur-tout-le-monde kenyan Oui. Mais ça l’IA ne sait pas faire. Ce n’est pas possible avec son mode de fonctionnement. Parce que justement, on ne peut pas labelliser les photos en entrée pour l’apprentissage en disant « un français », « un kenyan », sauf quand il y a des signes distinctifs forts (drapeau, tenu traditionnelle, etc…), auquel cas, ben ça n’est plus non plus représentatif de la moyenne… Les personnes sans signe distinctif d’une nationalité particulière, elles sont juste labellisées « personne », sans nationalité. Et ce sont ces personnes là qui font le gros des troupes, et donc ce sont elles qui forment la moyenne… Alors que les personnes ultra stéréotypées, elles ne sont pas représentatives de la moyenne, mais il n’y a qu’elles qui peuvent être labellisées.

Sebastian-Kammerer

MattS32: D’ailleurs, il y a 5 siècles, la nationalité française n’existait même pas. Et le territoire de la France n’était pas le même qu’aujourd’hui : des gens qui sont depuis 5 siècles à des endroits qui étaient en France il y a 5 siècles ne sont pas français aujourd’hui, alors qu’à l’inverse des gens sui sont depuis 5 siècles dans un des endroits qui n’étaient pas la France à l’époque sont aujourd’hui français… Ah oui, et il y avait quoi à la place ?

MattS32

Il n’y avait pas de notion de nationalité française avant le code civil de 1804. Et il n’y avait rien de formel à la place, la loi s’appliquait le plus souvent de la même façon à tous sur le territoire d’application de la loi (il y a 5 siècle, c’était encore très territorialisé, il y avait énormément de législations locales), une personne originaire d’un autre pays et installée en France n’était pas distinguée d’une personne née en France par la loi. Surtout qu’à l’époque, les frontières étaient extrêmement changeants, au gré des guerres, des alliances, des héritages… Ce n’est qu’à partir du XVIIème siècle qu’on a vraiment commencé à faire une distinction légale entre les gens selon leur origine, mais sans que ça soit véritablement une « nationalité ».

juju251

Sebastian-Kammerer: Non, ce qui fait que tu es français c’est pas les lois, c’est la manière dont tu vis, la langue que tu parles, tes mœurs, etc… Sauf que tous les Français en France ne vivent pas de la même manière, ni ne partagent les mêmes mœurs. Rien que là, c’est déjà Game Over. Sebastian-Kammerer: Mais au niveau du physique un allemand ou un kenyan, ils auront beau êtres français, ils n’auront pas le même physique qu’un français de souche. C’est naturel le physique. Hum, ben tiens. Évidemment, cette expression est de sortie. Ah, sinon, le sujet de l’article n’est pas de débattre sur les « français de souche » ou non, on sait de toute manière très bien où mène immanquablement ce genre de discussions.

Sebastian-Kammerer

juju251: Ah, sinon, le sujet de l’article n’est pas de débattre sur les « français de souche » ou non, on sait de toute manière très bien où mène immanquablement ce genre de discussions. Sauf que c’est en rapport avec le sujet car en France, les français de souche sont majoritaires, et donc je rejoins ce que dis Mel92, c’est à dire que quand tu génère la photo d’un français, tu veux qu’il te génère la photo d’un français moyen.

Sodium

Sebastian-Kammerer: Faut arrêter d’être autant mondialiste, faudrait un jour comprendre qu’un français, qu’un italien, qu’un australien, ou qu’un congolais ont tous un physique différent. Euh non, les gens qui vivent dans une zone géographique particulière et qui ont fait des croisements avec d’autres gens venus d’autres régions auront certains attributs, plus ou moins prononcés, qui sont des adaptations à leur milieu de vie. Milieu de vie qui n’est pas nécessairement le même au sein d’un pays qui est une construction sociale. Sebastian-Kammerer: Pour l’IA, si on l’a entraîné pour le prompt famille avec des images avec seulement 2 personnes, l’IA ne va jamais te générer des images avec 4 personnes lors ce que tu vas utiliser le mot famille. On n’a absolument pas la moindre idée de comment les moteurs d’apprentissage font le lien entre ce qu’on leur donne à manger et comment ils tirent ce qui est important de l’image. Par exemple, il y avait eu le cas d’une IA qui avait été entraînée à reconnaître des poissons dans des bocaux et il s’avère que ce qu’elle avait retenu surtout du matériau souche, c’est un doigt qui pointait le bocal. Sebastian-Kammerer: Si tu dis que les ia ne font pas la distinction des origines comment explique tu que si tu demandes à midjourney de générer l’image d’un allemand il va te générer quelqu’un de blond aux yeux bleus ? Si une IA te sort un blond aux yeux bleus chaque fois que tu lui demande une image d’allemand, ce dont je doute, c’est qu’elle fait très mal son boulot. Une IA est censée être neutre et non renforcer des stéréotypes, quels qu’ils soient. Sebastian-Kammerer: Non, ce qui fait que tu es français c’est pas les lois, c’est la manière dont tu vis, la langue que tu parles, tes mœurs, etc… C’te remarque arriérée copiée-collée des programmes des partis d’extrême-droite. Parce qu’un lillois, un toulousain, un corse, un provençal ou un guyanais ont tous les mœurs peut-être ? La nationalité est une notion administrative, c’est tout.

MattS32

Sebastian-Kammerer: c’est à dire que quand tu génère la photo d’un français, tu veux qu’il te génère la photo d’un français moyen. Encore une fois, ça n’est pas possible. Le fonctionnement de l’apprentissage se base sur de la labelisation de photos par des humains. Or s’il n’y a aucun signe distinctif particulier (genre drapeau), PERSONNE ne va mettre le label « homme français » sur la photo d’un homme français. Tout simplement parce qu’il n’est pas possible de savoir que c’est un français, la nationalité ne se voit pas sur une photo. Toi même, qui nous bassine avec les français de souche, tu serais absolument incapable de distinguer un français, d’un italien moyen ou d’un allemand sur une photo s’ils sont habillés pareil et ne se promènent pas avec le drapeau de leur pays. Du coup l’IA n’est pas capable d’intégrer la notion de « français moyen », elle ne peut qu’au mieux associer « français » à quelques signes distinctifs stéréotypés, un drapeau, un béret, une baguette sous le bras… Bref, les clichés qui font qu’on va se dire que la personne sur la photo est française, alors que son physique ne nous dit rien sur la nationalité… Et c’est pour ça que quand je demande à Copilot Designer de me faire un allemand, je me retrouve dans toutes les images produites avec un mec en lederhose et avec une choppe de bière. Un bon gros cliché, pas du tout l’allemand moyen.

Sodium

C’est quoi un français moyen ? Est-ce que c’est le même français moyen à la frontière belge et à la frontière espagnole ?

MattS32

C’est ceux qui se reproduisent entre eux depuis 30 générations. Bon, ils sont un peu con-sanguins du coup, mais au moins ils sont purs

Sebastian-Kammerer

Sodium: C’te remarque arriérée copiée-collée des programmes des partis d’extrême-droite. Parce qu’un lillois, un toulousain, un corse, un provençal ou un guyanais ont tous les mœurs peut-être ? La nationalité est une notion administrative, c’est tout. Quand je dis petit malin dans un message on me censure mais lui a le droit d’utiliser le mot arriéré, il n’y aurait pas du favoritisme les admins ? Sodium: On n’a absolument pas la moindre idée de comment les moteurs d’apprentissage font le lien entre ce qu’on leur donne à manger et comment ils tirent ce qui est important de l’image. Par exemple, il y avait eu le cas d’une IA qui avait été entraînée à reconnaître des poissons dans des bocaux et il s’avère que ce qu’elle avait retenu surtout du matériau souche, c’est un doigt qui pointait le bocal. Rectification : Tu n’as pas la moindre idée de comment les moteurs d’apprentissage fonctionnent, si tu te renseigne bien tu apprends le fonctionnement de ces moteurs. Sodium: Si une IA te sort un blond aux yeux bleus chaque fois que tu lui demande une image d’allemand, ce dont je doute, c’est qu’elle fait très mal son boulot. Une IA est censée être neutre et non renforcer des stéréotypes, quels qu’ils soient. Non une IA n’est pas neutre car elle basée sur ses données d’entraînement, elle n’a pas d’intelligence, ceux que tu dis qu’ils ne sont pas neutre c’est ceux qui l’ont entraîné. Sauf que je ne suis pas d’accord, les IA de génération d’images ne doivent pas êtres neutre, si tu lui demande de générer l’image d’un français elle ne doit pas générer l’image d’un italien ou d’un russe.

Sebastian-Kammerer

MattS32: C’est ceux qui se reproduisent entre eux depuis 30 générations. Bon, ils sont un peu con-sanguins du coup, mais au moins ils sont purs Faudrait se taire des fois pour éviter de raconter des âneries, non le peuple français étant là depuis des générations ne se reproduisaient pas entre eux.

MattS32

Sebastian-Kammerer: non le peuple français étant là depuis des générations ne se reproduisaient pas entre eux. Donc il y avait bien des apports extérieurs. Et donc du mélange avec des étrangers.

Sodium

Sebastian-Kammerer: Quand je dis petit malin dans un message on me censure mais lui a le droit d’utiliser le mot arriéré, il n’y aurait pas du favoritisme les admins ? Déjà j’ai dit que le propos était arriéré, pas la personne, ensuite c’est factuel, le mot est parfaitement adapté. Tu fais de la propagande xenophobe digne de l’époque où le FN ne tentait même pas encore de se normaliser, c’est arriéré. Sebastian-Kammerer: Rectification : Tu n’a pas la moindre idée de comment les moteurs d’apprentissage fonctionnent, si tu te renseigne bien tu apprends le fonctionnement de ces moteurs. SI c’est si facile, tu devrais essayer toi-même alors, parce que tu as visiblement zéro connaissances sur le sujet. Croire qu’en étiquetant une photo de quatre personnes « famille » l’IA va forcément déduire que « famille » veut dire « quatre humains qui se ressemblent plus ou moins » est complètement à côté de la plaque. Elle peut tout à fait se concentrer sur des éléments de la photos qui n’ont rien à voir avec les humains qui sont dessus. C’est uniquement la quantité, de lui faire avaler les millions de sources qui va faire que les résultats seront statistiquement plus pertinents. Et on n’a pas des millions de photos de français, d’allemands, de camerounais ou que sais-je enocre. Sebastian-Kammerer: Non une IA n’est pas neutre car elle basée sur ses données d’entraînement, elle n’a pas d’intelligence J’ai dit qu’elle est censée être neutre. Par défaut, elle ne le sera pas, car elle aura été entraînée sur des données racistes et sexistes (entre autre). C’est pourquoi il faut forcément à un moment introduire des modificateurs pour avoir des résultats plus pertinents. Sebastian-Kammerer: si tu lui demande de générer l’image d’un français elle ne doit pas générer l’image d’un italien ou d’un russe Parce que tu arrives à déterminer avec 100% de succès si une personne est française et non italienne ou russe toi ? Et s’il s’agit d’un français dont les parents sont italiens ou russe, là on fait quoi ? Edité

Sebastian-Kammerer

MattS32: Donc il y avait bien des apports extérieurs. Et donc du mélange avec des étrangers. Non, quand je dis qu’ils ne se mêlengeaient pas entre eux, je veux dire qu’ils ne se mêlengeaient pas entre frères et sœurs ou cousin et cousine. Si tu as mal compris, soit tu le fais exprès, soit tu n’es pas le couteau le plus aiguisé du tiroir.

MattS32

Sodium: Elle peut tout à fait se concentrer sur des éléments de la photos qui n’ont rien à voir avec les humains qui sont dessus. Tout a fait. Il y en a d’ailleurs eu un exemple flagrant il y a quelques temps, avec la démonstration d’une technique d’attaque contre les véhicules autonomes : des modifications mineures apportées sur des panneaux, qui n’empêchaient absolument aucun humain de lire le panneau correctement arrivaient non pas simplement à empêcher les voitures autonome de voir le panneau, mais carrément à le leur faire passer pour un autre panneau ! Voilà par exemple un panneau que tout le monde reconnait très bien comme un panneau stop, mais que l’IA de certaines voitures autonome prenait pour un panneau de limitation de vitesse à 45, ce qu’absolument aucun humain n’aurait dit en voyant le panneau : Les IA ne fonctionnent pas comme le cerveau humain, imaginer qu’elles peuvent avoir les mêmes raisonnements est complètement stupide. Et imaginer qu’elle puissent distinguer un italien d’un français alors qu’un humain en est déjà fondamentalement incapable, ça l’est encore plus. Edité

tfpsly

Pfff vous sous-estimez tellement les capacités des IAs et LLMs… image517×600 73 KB

Sebastian-Kammerer

Sodium: Déjà j’ai dit que le propos était arriéré, pas la personne, ensuite c’est factuel, le mot est parfaitement adapté. Tu fais de la propagande xenophobe digne de l’époque où le FN ne tentait même pas encore de se normaliser, c’est arriéré Donc dire que des personnes doivent vivre à la Française c’est des propos arriérés ? Non, c’est être patriote, c’est tout, pour moi toute personne vivant en France doit aimer la France et se considérer comme Français, bien sûr, la personne peut garder son culte, mais il doit rester pour elle et ses proches.

Sebastian-Kammerer

Sodium: SI c’est si facile, tu devrais essayer toi-même alors, parce que tu as visiblement zéro connaissances sur le sujet. Croire qu’en étiquetant une photo de quatre personnes « famille » l’IA va forcément déduire que « famille » veut dire « quatre humains qui se ressemblent plus ou moins » est complètement à côté de la plaque. Elle peut tout à fait se concentrer sur des éléments de la photos qui n’ont rien à voir avec les humains qui sont dessus. C’est uniquement la quantité, de lui faire avaler les millions de sources qui va faire que les résultats seront statistiquement plus pertinents. Et on n’a pas des millions de photos de français, d’allemands, de camerounais ou que sais-je encore. Non, L’IA ne va rien se dire, l’IA va resortir ce qu’on lui a donné, si tu lui dis « famille » et que tu lui donne des images de koala, l’IA va te sortir des images de koala. Je te l’ai dis, elle n’a pas de cerveau. Et détrompe toi sur le nombre de photos existantes de français sur Internet, il y en a des masses.

Sebastian-Kammerer

Sodium: J’ai dit qu’elle est censée être neutre. Par défaut, elle ne le sera pas, car elle aura été entraînée sur des données racistes et sexistes (entre autre). C’est pourquoi il faut forcément à un moment introduire des modificateurs pour avoir des résultats plus pertinents. En quoi elle aura été entraîné sur des données racistes et sexistes ? Tu veux que quand tu lui demande de générer une personne de couleur noir il te génère une personne de couleur blanche ou que si tu lui demande de générer une femme il te génère un homme ? Car si c’est le cas tu es tout seul à vouloir ça.

MattS32

Sebastian-Kammerer: Donc dire que des personnes doivent vivre à la Française c’est des propos arriérés ? Vivre à la française, ça ne veut pas dire grand chose… Les modes de vie évoluent en permanence. On ne vit pas aujourd’hui comme on vivait il y a 20, 40 ou 60 ans… Et même à un instant t, on ne vit par de la même façon en Alsace, en Bretagne ou en Corse. Vouloir imposer un prétendu mode de vie français, c’est renoncer à cette évolution et effacer les différences entre les régions. Sebastian-Kammerer: Et détrompe toi sur le nombre de photos existantes de français sur Internet, il y en a des masses. Bien sûr qu’il y en a des masses. Mais si tu les montres à un humain sans lui dire qu’elles sont française, il ne le saura pas, ça ne se devine pas d’après la photo s’il n’y a pas des signes distinctifs particuliers (et s’il y en a, il faut qu’il les reconnaisse aussi… si c’est un américain qui fait la labellisation, il ne reconnaitras pas forcément certains indices qui pourraient montrer que la photo est celle d’une famille française). Or la labellisation ne doit se baser que sur des éléments parfaitement identifiables dans la photo. Parce que sinon ça va foirer complètement l’apprentissage, qui vise justement à apprendre à l’IA à corréler le contenu de l’image avec les termes du label. Donc on ne peut pas apprendre à une IA à reconnaître un français moyen. On peut lui apprendre à reconnaître un français cliché, avec son béret et sa baguette sous le bras. Mais pas un français moyen, qui n’a pas de signe distinctif particulier.

Sebastian-Kammerer

Sodium: Parce que tu arrives à déterminer avec 100% de succès si une personne est française et non italienne ou russe toi ? Et s’il s’agit d’un français dont les parents sont italiens ou russe, là on fait quoi ? Bah oui, ça s’appelle les origines d’une personne, elle a beau être française, si ses parents sont italiens ou allemand on le voit très bien.

MattS32

Sebastian-Kammerer: Bah oui, ça s’appelle les origines d’une personne, elle a beau être française, si ses parents sont italiens ou allemand on le voit très bien. Donc du coup, si ça se voit que ses parents sont pas français (ce qui est évidemment complètement faux), tu ne peux pas voir que la personne est française. CQFD, il est IMPOSSIBLE de déterminer à 100% la nationalité d’une personne à partir d’une photo… La nationalité est quelque chose de purement administratif, ça n’a strictement RIEN à voir avec le physique. D’ailleurs, une personne peut du jour au lendemain changer de nationalité, volontairement ou sous la contrainte (ça arrive quasiment à chaque guerre d’avoir des changements de nationalité forcés), sans pour autant changer physiquement… Mes grands parents sont tous nés allemands. Puis devenus français. Deux d’entre eux sont ensuite redevenus allemands. Puis de nouveau français. Et tout ça, sans jamais avoir vraiment quitté leur village pour les deux derniers (les deux autres, c’est justement parce qu’ils l’ont quitté pour se réfugier ailleurs avant d’y revenir qu’ils ont fait deux changements en moins). Et tu prétendrais pouvoir à partir d’une photo d’eux déterminer avec 100% de succès leur nationalité ?

Sodium

Sebastian-Kammerer: Donc dire que des personnes doivent vivre à la Française c’est des propos arriérés ? C’est doublement arriéré. Déjà de croire que « vivre à la française » a un sens car ça ne veut absolument rien dire, ensuite de conditionner le droit d’un humain à vivre sur un territoire à l’adoption de codes culturels. Pour vivre sur un territoire, il faut en respecter les lois et c’est tout. La façon dont les gens vivent leur vie n’est pas ton problème ni le miens. Sebastian-Kammerer: Non, c’est être patriote Être patriote est arriéré… Sebastian-Kammerer: pour moi toute personne vivant en France doit aimer la France et se considérer comme Français, Et ce que tu penses, on s’en fout parfaitement. Les français comme les étrangers ont le droit de critiquer la France sans que ça remette en question leur droit d’y vivre. Par exemple, un pays où les intentions de vote envers l’extrême-droite sont aussi élevées est hautement critiquable Sebastian-Kammerer: Non, L’IA ne va rien se dire, l’IA va resortir ce qu’on lui a donné, si tu lui dis « famille » et que tu lui donne des images de koala, l’IA va te sortir des images de koala. Je te l’ai dis, elle n’a pas de cerveau. Franchement, arrête juste de discuter du sujet, tu es parfaitement incompétent. C’est beaucoup trop compliqué pour toi. Sebastian-Kammerer: En quoi elle aura été entraîné sur des données racistes et sexistes ? Vraiment, il faut t’expliquer ça aussi ? Pour un mot clé comme « cadre supérieur », l’IA aura été nourrie de milliers de photos d’homme blanc. Quasiment pas d’images de femmes, et encore moins d’images de noirs, homme ou femme. On n’obtiendra donc pratiquement que des photos d’hommes blancs pour des mots-clés de ce genre alors qu’il n’y a aucune raison pour que ça soit le cas. L’IA n’est pas censée perpétuer les biais racistes et sexistes de notre société. Il faut donc adapter les résultats à la main. Sebastian-Kammerer: Bah oui, ça s’appelle les origines d’une personne, elle a beau être française, si ses parents sont italiens ou allemand on le voit très bien. N’importe quoi. « Ca se voit très bien ». 95% des allemands sont très probablement totalement indiscernables d’un Belge, d’un Lorrain ou d’un Hollandais sur la base seule du physique. Tes positions sont limites nazies. Vouloir caser les gens dans des cases à ce point sur leur seule origine géographique est profondément malsain.

Sebastian-Kammerer

MattS32: Mes grands parents sont tous nés allemands. Puis devenus français. Deux d’entre eux sont ensuite redevenus allemands. Puis de nouveau français. Et tout ça, sans jamais avoir vraiment quitté leur village pour les deux derniers (les deux autres, c’est justement parce qu’ils l’ont quitté pour se réfugier ailleurs avant d’y revenir qu’ils ont fait deux changements en moins). Et tu prétendrais pouvoir à partir d’une photo d’eux déterminer avec 100% de succès leur nationalité ? Si je te parle d’origine et que toi tu me parle de nationalité tu vas jamais comprendre.

MattS32

Sebastian-Kammerer: Si je te parle d’origine et que toi tu me parle de nationalité tu vas jamais comprendre. On te parle de reconnaitre si quelqu’un est français. Français, c’est une nationalité. Et même si c’était une origine de toute façon ça ne veut rien dire… Mes grands parents, dont le village a changé 4 fois de pays en même pas un siècle, c’est quoi leur « origine » ? Français ? Allemand ? Autre ? Et moi du coup, c’est quoi mon origine dans ces conditions ?

paulposition

@tous: Attention, le sujet a trop tendance a dériver; On va bientôt parler d’eugénisme, et ca, il n’en est pas question; Donc, merci de revenir au sujet, et de ne pas axer tous les échanges sur « le genre humain » ou/et les nationalités.

Sodium

Comment ça « on va bientôt parler d’eugénisme » ? Ca fait un paquet de posts que certains nous expliquent que le prompt « homme allemand » devrait renvoyer uniquement des blonds aux yeux bleus. On a dépassé ce stade depuis un moment.

paulposition

Sodium: Comment ça « on va bientôt parler d’eugénisme » ? Ca fait un paquet de posts que certains nous expliquent que le prompt « homme allemand » devrait renvoyer uniquement des blonds aux yeux bleus. On a dépassé ce stade depuis un moment. On y est pas encore, mais c’est tres pres; " L’eugénisme est « l’ensemble des méthodes et pratiques visant à sélectionner le patrimoine génétique des générations futures d’une population en fonction d’un cadre de sélection prédéfini ». Il peut résulter d’une politique étatique mais aussi d’une somme de décisions individuelles prises par les futurs parents, dans une société où primerait la recherche de l’« enfant parfait », ou du moins « indemne de nombreuses affections graves »

Blackalf

Sebastian-Kammerer: Quand je dis petit malin dans un message on me censure Raté, aucun de tes messages supprimés ne contient ces mots, de plus le dernier n’était qu’une attaque gratuite contre la modération, ce qui ne passe jamais bien ici.

Sebastian-Kammerer

Non, on m’a censuré un de mes premiers message sur cette page.

Blackalf

Encore faux. Seuls les 3 derniers ont été supprimés et les 14 précédents sont toujours là.

Sebastian-Kammerer

Je n’ai pas parlé de message supprimé, j’ai parlé de message censuré.

Sodium

Ils n’ont pas censuré le « petit malin », ils ont censuré le « une famille italienne n’est pas métissée ou noire », ce qui était un propos profondément raciste…

kyosho62

Parce que: 5. Restez courtois Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

glaude.denree

Les taux de consanguinité élevés ne sont pas là où tu crois Aujourd'hui le Maroc – 9 Mar 17 Le taux de consanguinité dépasse les 15% au Maroc: Stop aux mariages entre... Les articles du journal et toute l'actualité en continu

Sebastian-Kammerer

Sodium: Se réjouir de conséquences négatives subies par ceux qui essayent de combattre le racisme est un marqueur de personnalité profondément malsaine Ceux qui combattent le racisme, mais bien sûr, mais je dirais qu’ils en ont plutôt rien à faire. Tant qu’ils auront de l’argent ils se plieront à tout ce qui est à la mode. C’est comme si tu disais que les dirigeants de Disney sont pour l’inclusivité alors qu’ils font ça juste pour avoir un public supplémentaire. Ce qui d’ailleurs leur fait perdre leur public principal, c’est à dire les conservateurs. Là c’est juste Google qui veut imposer son inclusivité à Gemini alors que tout s’en fout. Ils se prennent donc le retour de bâton.

Sodium

Sebastian-Kammerer: Tant qu’ils auront de l’argent ils se plieront à tout ce qui est à la mode. Une fois de plus, la mode actuelle est au racisme. Les médias déversent de la propagande d’extrême-droite toute la journée, vous êtes pitoyables dans votre position victimaire, de « on ne peut plus rien dire » alors que l’on n’entend que vous H24. Sebastian-Kammerer: C’est comme si tu disais que les dirigeants de Disney sont pour l’inclusivité alors qu’ils font ça juste pour avoir un public supplémentaire. Je sais que ça paraît difficile à imaginer pour les gens comme toi mais les noirs n’ont pas de problème à regarder des films dans lesquels jouent principalement des blancs et les homos regardent sans soucis des films avec des hétéros. Croire que chaque ethnie, genre ou préférence sexuelle devrait avoir son propre bout de territoire, ses propres oeuvres de fiction etc est juste une démonstration de racisme et d’étroitesse d’esprit supplémentaire. Sebastian-Kammerer: Ce qui d’ailleurs leur fait perdre leur public principal, c’est à dire les conservateurs. Fâcher des fachos n’est jamais une mauvaise chose Sebastian-Kammerer: Là c’est juste Google qui veut imposer son inclusivité à Gemini alors que tout s’en fout. Si tout le monde s’en foutait, certains ne seraient pas aussi scandalisés pour quelque chose d’aussi trivial. Entraîner une IA avec des biais racistes ou sexistes à de graves conséquences sur la société. Avoir quelques noirs sur des images générées qui ne devraient peut-être pas être là n’a aucune conséquence à part rendre fous de colères les pires pourritures de la planète. J’ai même envie de dire que c’est une excellente chose, car c’est en voyant quels sont ces gens scandalisés par ce genre de non-événement que l’on peut faire le nettoyage de personnes peu fréquentables, qu’il s’agisse de pseudo-intellectuels qui ne sont plus invités que par des médias d’extrême-droite ou des PNJ randoms sur des forums

Sebastian-Kammerer

Sodium: Je sais que ça paraît difficile à imaginer pour les gens comme toi mais les noirs n’ont pas de problème à regarder des films dans lesquels jouent principalement des blancs et les homos regardent sans soucis des films avec des hétéros. Croire que chaque ethnie, genre ou préférence sexuelle devrait avoir son propre bout de territoire, ses propres oeuvres de fiction etc est juste une démonstration de racisme et d’étroitesse d’esprit supplémentaire Quand est ce que j’ai parlé d’avoir des propres œuvres ? Et alors si ça ne dérange pas les noirs de voir des blancs dans des œuvres et aux homosexuels de voir des hétérosexuels dans les œuvres, pourquoi autant les inclure ? Tu viens de prouver toi même que c’est stupide de faire ça, si on suit ta logique. Sodium: Une fois de plus, la mode actuelle est au racisme. Les médias déversent de la propagande d’extrême-droite toute la journée, vous êtes pitoyables dans votre position victimaire, de « on ne peut plus rien dire » alors que l’on n’entend que vous H24. La mode actuel est au racisme ? Anti blanc, oui ça c’est vrai. Ensuite, quelle propagande d’extrême droite ? Je crois que tu vis dans un autre monde toi, c’est la propagande d’extrême gauche qui est actuellement dans les médias. Aussi c’est cocasse de dire que nous avons une position victimaire venant de ceux qui font passer les bourreaux pour des victimes. Sodium: Fâcher des fachos n’est jamais une mauvaise chose Je croyais qu’on ne devait pas faire d’amalgame, par contre traiter les conservateurs de fachos, c’est pas en faire ? C’est comme si je te parlais de Staline par ce que tu es de gauche. Être conservateur et fasciste sont deux choses totalement différentes. Non un conservateur n’est pas fasciste, faut vraiment pas être intelligent pour croire le contraire. Sodium: Si tout le monde s’en foutait, certains ne seraient pas aussi scandalisés pour quelque chose d’aussi trivial. Entraîner une IA avec des biais racistes ou sexistes à de graves conséquences sur la société. Avoir quelques noirs sur des images générées qui ne devraient peut-être pas être là n’a aucune conséquence à part rendre fous de colères les pires pourritures de la planète. C’est une minorité de gens qui pensent à ça, le reste s’en fout. Sodium: J’ai même envie de dire que c’est une excellente chose, car c’est en voyant quels sont ces gens scandalisés par ce genre de non-événement que l’on peut faire le nettoyage de personnes peu fréquentables, qu’il s’agisse de pseudo-intellectuels qui ne sont plus invités que par des médias d’extrême-droite ou des PNJ randoms sur des forums Bah alors t’as du boulot, vu le nombre de personnes.

Palou

Sodium: alors que l’on n’entend que vous H24. c’est pareil te concernant !

glaude.denree

Faire générer par une IA de Google(!) des images sérieuses de vikings africains ou de nazis asiatiques combat le racisme ? Mais tu es toujours au sommet de la pyramide intellectuelle on dirait. Tu n’as pas remarqué que ca l’alimentait au contraire? D’ailleurs ce n’est pas pour rien qu’ils s’activent à mettre à jour leur IA depuis plusieurs jours, qui sera probablement moins idéologique pour coller davantage avec la réalité des faits et apaiser les tensions.

Palou

Sodium: Et si ce sont mes interventions qui te dérangent plus que celles des champions du racisme bas du front que l’on voit ici, eh bien on comprend où tu te situes sur l’échiquier politique… Sauf que je ne parle JAMAIS de mes idées politiques ici, chacun croit ce qu’il veut de moi. Mais quand je vois la vitesse à laquelle le roquet (toi) aboie pour faire croire qu’il a raison et imposer sa voix aux autres, il y a de quoi se poser la question. Tu attaques les autres (peu importe qui ou les idées) mais tu n’admets pas l’inverse, un dictat de la pensée unique en quelque sorte … D’autre part, le sujet de l’article est « Gemini de Google qui a quelques soucis d’exactitude historique » , pas le racisme ou autre, les modos et super modos sont là pour ça !

glaude.denree

Palou: gl Il ne s’agit pas de dire que tel ou tel journal est un torchon, il s’agit de savoir si ce qui est publié dans l’article est vrai. En lisant l’article plutôt qu’en te basant sur une étude de 2004 et tes préjugés, tu aurais vu leur source : https://www.bloomberg.com/news/articles/2024-02-26/alphabet-drops-amid-renewed-fears-about-google-s-ai-offerings A moins que Bloomberg soit aussi un torchon ? Mais dans ce cas-là je ne peux plus grand-chose

Sodium

glaude.denree: Faire générer par une IA de Google(!) des images sérieuses de vikings africains ou de nazis asiatiques combat le racisme ? Mais tu es toujours au sommet de la pyramide intellectuelle on dirait. Ah, ça aussi il faut que je l’explique ? Excuse-moi, j’ai cru que c’était suffisamment trivial même pour des gens comme vous. Je constate que je vous ai surestimés. Les équipes de Google n’ont pas codé leur IA pour qu’elle ressorte des « vikings africains » ou des « nazis asiatiques », ils l’ont réglée pour qu’elle ne fasse pas ressortir que des blancs de manière générale et ces résultat sont la démonstration que le moteur a encore besoin de travail et c’est tout. Il n’y a vraiment que les racistes complotistes pour de un passer un temps conséquents à vérifier que l’IA ne va renvoyer que des blancs pour toute une série de prompts, de deux penser que les développeurs d’IA passent du temps à spécifiquement coder leur produit pour qu’il ressorte des vikings noirs. glaude.denree: D’ailleurs ce n’est pas pour rien qu’ils s’activent à mettre à jour leur IA depuis plusieurs jours Tout comme ils l’avaient fait avec leur IA textuelle Bard. Ils ont mis un truc en prod, les résultats n’étaient pas de la quantité attendue, ils l’ont retiré le temps de le travailler. Un non-événement qui serait passé totalement inaperçu s’il n’y avait pas un tel problème de racisme anti-noirs dans la société actuelle… Palou: Sauf que je ne parle JAMAIS de mes idées politiques ici Euh, si. Certaines réactions en disent beaucoup plus long qu’un discours de quinze pages. Palou: Mais quand je vois la vitesse à laquelle le roquet (toi) aboie pour faire croire qu’il a raison et imposer sa voix aux autres Je combats les idées de merde. Il y a juste une quantité astronomique d’idées de merdes dans la société actuellement. Palou: mais tu n’admets pas l’inverse, un dictat de la pensée unique en quelque sorte … Les propos racistes, homophobes, les incitations à la haine de manière générales sont contraires à la loi française. Je n’ai pas à respecter des propos et opinions qui vont à l’encontre de la loi.

glaude.denree

Sodium: Les équipes de Google n’ont pas codé leur IA pour qu’elle ressorte des « vikings africains » ou des « nazis asiatiques », ils l’ont réglée pour qu’elle ne fasse pas ressortir que des blancs de manière générale et ces résultat sont la démonstration que le moteur a encore besoin de travail et c’est tout. Mais on ne lui demande pas de ne faire ressortir que des blancs à cette IA, on lui demande d’être factuelle et historiquement exacte. Si je lui demande de générer une image du guerrier Camerounais Bamoun, je ne m’attends pas à obtenir un blond aux yeux bleus ou un Philippin. Donc s’ils sont en train de modifier leurs réglages foireux, c’est bien que quelqu’un les avait mis en place au départ.

Sodium

glaude.denree: Mais on ne lui demande pas de ne faire ressortir que des blancs à cette IA, on lui demande d’être factuelle et historiquement exacte. Et on retourne en boucle vers le début du sujet, qui est que malgré de nombreuses explications, vous n’avez toujours pas acquis la moindre base en fonctionnement d’IA. Vous en êtes, une fois encore, à croire que dans le code d’une IA il y a des trucs du genre « Alors pour le prompt une famille américaine tu vas ressortir deux adultes et deux enfants blancs, pour un guerrier tu vas me ressortir un type avec une armure et un bouclier, un décors français tu me mets une image de la tour Eiffel… ». Et vous n’avez toujours pas compris que « historiquement exact » ne veut rien dire pour ces programmes informatiques. Une IA génératrice de contenu est un tout, même pas spécifiquement dédié à afficher des humains. C’est un paquet de noeuds ultra-compliqué qui fait des statistiques. Comme tous les programmes informatiques, le moindre de changement peut avoir des impacts difficiles à prévoir. Régler une IA pour qu’en général, elle ne fasse pas ressortir que des blancs sur des requêtes génériques mais que par contre, quand le contexte historique l’exige, ça soit le cas, n’est pas l’affaire de trois lignes de code. Elles ne sont même pas encore foutues de savoir à 100% que les humains n’ont pas plus de cinq doigts et vous voudriez qu’elles soient « historiquement exactes », c’est complètement sutpide ! Adrift: On en a connu des Allemands qui voulaient bien faire aussi ; ils étaient tous convaincus d’être de bons penseurs et ils étaient en démocratie ; il ne faudrait pas l’oublier… C’est incroyablement gonflé d’utiliser les nazis comme argument alors qu’ils défendaient justement les thèses racistes prônées par les personnes les plus choquées par ce sujet

tfpsly

glaude.denree: Il ne s’agit pas de dire que tel ou tel journal est un torchon, il s’agit de savoir si ce qui est publié dans l’article est vrai. En lisant l’article plutôt qu’en te basant sur une étude de 2004 et tes préjugés, tu aurais vu leur source : Alphabet Drops During Renewed Fears About Google’s AI Offerings - Bloomberg Bloomberg est une bien meilleure source, NYP reste un journal caniveau. D’ailleurs le ton est complètement différent, pas de « woke disaster » chez Bloomberg…

MattS32

glaude.denree: Mais on ne lui demande pas de ne faire ressortir que des blancs à cette IA, on lui demande d’être factuelle et historiquement exacte À partir du moment où tu demandes à une IA de te générer une photo de viking, il faut être un âne pour imaginer un seul instant qu’elle va produire quelque chose d’historiquement exact. Le beau viking blond aux yeux bleus que tu attends n’a rien d’historiquement exact, c’est juste le stéréotype que la pop culture a mis en avant ces dernières décennies.

Sodium

MattS32: À partir du moment où tu demandes à une IA de te générer une photo de viking, il faut être un âne pour imaginer un seul instant qu’elle va produire quelque chose d’historiquement exact. Tiens d’ailleurs, si je demande à Dall-e 3 de me générer des images de vikings, j’obtiens ça : image872×1012 69 KB Alors, ils sont bien blancs, ça ça va… par contre, les preuves historiques actuelles que l’on possède indiquent qu’ils ne portaient pas de casques à pointes. Pourtant, curieusement, je doute que cette erreur historique scandalise autant certaines personnes qu’une erreur sur la couleur de peau. C’est presque comme si, soyons fous, ils étaient plus motivés par une idéologie raciste que par un quelconque soucis de réalisme… teed: Et comme tout outil il peut être de manière dommageable ce qui est le cas ici Dommageable en quoi ? teed: c’est une des fonctions insidieuse de Google que d’utiliser l’information pour manipuler les masses. Manipuler les masses comment ? teed: Les races sont reconnus aux USA Euh non, les races ne sont pas reconnues aux USA. Ce que l’on appelle « race » en français se dit plutôt « breed » en anglais. Et même si les « races » étaient reconnues aux USA, je ne vois pas en quoi cela légitime quoi que ce soit, c’est la réalité scientifique qui compte et la réalité scientifique est qu’il n’y a pas de races chez homo sapiens. teed: certains ont manipulé le peuple et la loi pour créer et promouvoir la « discrimination positive » ,par exemple donner un bonus aux étudiants noir pour qu’ils réussissent leur examen d’entré dans les universités. Oui, ça s’appelle une tentative de réduction des réductions d’inégalités sociales basée sur les origines. Il se trouve qu’une immense majorité des étudiants noirs viennent d’un milieu pauvre et n’ont pas accès à un haut niveau d’éducation quelles que soient leurs performances scolaires. teed: Puis on à constaté que les étudiants jaunes étaient au contraire discriminé négativement (leur note à l’examen d’entré ont été réduite). Source : trust me bro teed: Le but est de mettre en avant les noirs mais surtout pas les jaune , c’est pourquoi ils sont quasiment absent des publicités. Ah oui, maintenant il y a un complot « anti-jaunes »… Et quand on n’est pas une ordure raciste, on n’emploie pas le mot « jaunes » pour parler des personnes d’origine asiatique

teed

Sodium: majorité des étudiants noirs Quand tu écris noir pour parler d’un noir c’est pas raciste ,mais quand j’écris jaune pour parler d’un jaune c’est que je suis une ordure raciste ,merci. Sodium: Source : trust me bro Sur Wikipedia Students for Fair Admissions v. Harvard Sodium: c’est la réalité scientifique qui compte et la réalité scientifique est qu’il n’y a pas de races chez homo sapiens Jean Jacques Hublin ,paléontologue au Musée de l’homme à tenu une conférence en 2018 intitulée « Les Dénisoviens, groupe frère des Néandertaliens » visible sur Youtube . Il nous apprend que la famille des Homos (les humains) ,grâce aux avancées technologiques dû au séquençage ADN des espèces néandertal et dénisovien, est représenté par trois espèces chacune subdivisé en plusieurs races. Sapiens = noir Hybride sapiens+néandertal = blanc Hybride sapien+dénisovien = jaune On peut remarquer ici une auto-censure…

tfpsly

Sodium: teed: c’est une des fonctions insidieuse de Google que d’utiliser l’information pour manipuler les masses Manipuler les masses comment ? T’es bien naïf : et le plan secret des reptiliens de la CIA ?

MattS32

teed: Sapiens = noir Hybride sapiens+néandertal = blanc Hybride sapien+dénisovien = jaune Ce n’est absolument pas ce qu’il dit : « On retrouve dans les populations actuelles des traces d’ADN nucléaire dénisovien essentiellement en Australie et en Mélanésie ». Et la carte qui va avec, qui montre bien que les plus fort taux d’ADN dénisovien ne sont pas chez les « jaunes » : image767×481 70.4 KB Et il ne dit à aucun moment qu’il y aurait aujourd’hui 3 sous-espèces bien distinctes, une sapiens, une sapiens + néandertal et une sapiens + dénisovien. Les ADN dénisovien et néandertalien se retrouvent aujourd’hui à peu près partout dans le monde, sauf en Afrique où ils sont encore relativement rares. Parce que au fil des générations, les hommes se sont énormément mélangées au gré de leurs déplacements. Nous sommes tous des hybrides avec une proportion plus ou moins grande d’ADN dénisovien et néandertalient. Et il y a une continuité dans les proportions, il n’y a pas de rupture franche entre divers groupes bien marqués, on ne peut donc pas parler de race (et Hublin n’emploie d’ailleurs pas ce terme) ou de sous espèces. Et la très faible proportion d’ADN dénisovien ou néandertalien le prouve d’ailleurs. S’il y avait réellement des groupes bien distincts d’hybrides sapiens+néandertal ou sapiens+dénisovien qui seraient restés homogènes, ces groupes auraient une forte proportion d’ADN dénisovien ou néandertalien. Pour le dénisovien, même chez les populations où cette présence est la plus forte, elle est inférieure à 0.1%. Pour les néandertaliens, c’est de l’ordre de 2% maximum… Pourquoi ? Parce que les premiers hybrides ont continué à se reproduire avec des non hybrides, tout en se déplaçant partout dans le monde, ce qui a dilué petit à petit la part dénisovien, tout en la diffusant à très grande échelle géographiquement. Et la concentration plus élevée en Australie et Mélanésie n’est pas un hasard : ce sont des îles, donc des populations plus isolées et se mélangeant moins avec les autres. Mais ces concentrations très faible et leur très forte variabilité d’une groupe à l’autre font qu’on ne peut pas considérer qu’ils sont les marqueurs d’une différence d’espèce, et encore moins de race (le principe d’une race, c’est justement tout le contraire, c’est un groupe génétiquement très homogène, obtenu par sélection et cloisonnement des reproductions, c’est pour ça que ça ne s’applique qu’aux animaux domestiques… et c’est pour ça aussi que les espèces animales où il y a le plus de races sélectionnées sont aujourd’hui victimes d’énormément de problème de santé, à cause de la consanguinité).

MattS32

teed: Excellent d’en arriver à se contredire pour nier les faits. Non. Les noirs ne sont pas tous en Afrique, et hors d’Afrique, ils se sont, comme tous les autres, mélangés. Ce qui fait que même s’il y a très, voire pas du tout d’ADN dénisovien ou néandertalien en Afrique, il reste faux d’affirmer que l’hybridation sapiens + néandertal donne du blanc et sapiens + dénisovien du jaune. Il y a des noirs qui ont de l’ADN néandertalien, il y en a qui ont de l’ADN dénisovien, il y en a qui ont les deux. Et s’il est vrai qu’en Afrique il n’y a quasiment pas d’ADN dénisovien, il est tout aussi vrai que les populations où le taux d’ADN dénisovien est le plus élevé sont noires (aborigènes).

teed

MattS32: il reste faux d’affirmer que l’hybridation sapiens + néandertal donne du blanc et sapiens + dénisovien du jaune Vous avez publier votre étude?

MattS32

teed: Vous avez publier votre étude? Et toi ? Parce qu’à la base, c’est toi qui prétend ça, sur la base de la vidéo de Hublin qui lui ne dit absolument pas ça… Et ce n’est pas parce qu’il ne dit pas ce que tu voudrais qu’il dise qu’il s’autocensure hein…

Sodium

teed: Quand tu écris noir pour parler d’un noir c’est pas raciste ,mais quand j’écris jaune pour parler d’un jaune c’est que je suis une ordure raciste ,merci. Le mot noir n’est pas connoté négativement (à part pour les gens dans ton genre). Le mot « jaune » lui l’est très fortement et était principalement employé dans la propagande anti-chinois et japonais (notamment) qui était très présent avant la deuxième moitié du siècle dernier. Plus personne n’utilise ce mot à part les racistes. teed: Sur Wikipedia Students for Fair Admissions v. Harvard Vu ce que tu racontes plus bas, tu n’as probablement rien compris. teed: Rien que le dernier tableau avec l’auto-censure prouve l’existence de plusieurs espèces (alors qu’on nous explique par ailleurs que l’hybridation ne donne que des stériles…) . Aucun scientifique digne de ce nom n’a jamais défendu le fait que quelques pourcents d’adn d’autres genres homo chez homo sapiens ait donné des sous-espèces. Bon, @juju251 , @paulposition , @Blackalf ça devient profondément malsain là, on est passés de la xénophobie simple à la défense de théories racistes du début du siècle dernier. Dans deux posts il nous explique que les noirs sont optimisés pour courir vite et les blancs pour réfléchir. MattS32: Et toi ? Parce qu’à la base, c’est toi qui prétend ça, sur la base de la vidéo de Hublin qui lui ne dit absolument pas ça hein… En passant, ça fait depuis bien plus longtemps que 2018 que l’on a des preuves ADN d’une hybridation avec d’autres genres homo et bien plus longtemps encore qu’on s’en doutait. Ca n’est pas parce que @teed est totalement inculte et vient de tomber sur une conférence qu’il nous apprend des choses.

Blackalf

Sodium: Bon, @juju251 , @paulposition , @Blackalf ça devient profondément malsain là De nombreux messages de plusieurs membres ont déjà été supprimés, si d’autres posent problème → signalement. Mais ce n’est pas aux membres de gérer les dérapages.

glaude.denree

Le patron de google vient d’admettre qu’ils s’étaient trompés dans le paramétrage de leur IA (voir l’article en question sur ce même site). Tout ton argumentaire de spécialiste de bac à sable de l’IA tombe à l’eau. A la niche. PS: et en plus tu es une balance ? de mieux en mieux…

Sodium

glaude.denree: Le patron de google vient d’admettre qu’ils s’étaient trompés dans le paramétrage de leur IA (voir l’article en question sur ce même site). Ma position a toujours été qu’ils s’étaient trompés dans le paramétrage de leur IA. glaude.denree: Tout ton argumentaire de spécialiste de bac à sable de l’IA tombe à l’eau. Je n’ai jamais prétendu être un expert en IA, je ne suis que développeur. Je disais en revanche que tu n’as pas la moindre compétence en informatique, IA ou non. Et mon argumentaire a toujours été le même, qu’il est difficile de créer une IA génératrice de contenu qui ne soit pas un reflet des discriminations entre les ethnies et les genres tout en gardant des résultats pertinents dans des cas plus spécifiques. Et surtout, qu’avoir trop de diversité n’a pratiquement aucune conséquence négative, là où ne pas en avoir assez accentue les discriminations qui sont déjà trop présentes dans la société, qui fait par exemple que l’on ne dispose pratiquement pas de photos de personnes noires dans des postes hautement qualifiés pour alimenter ces moteurs, ou de femmes dans des postes de management. Encore une fois, ce problème a eu pour conséquence d’énerver des fachos et… c’est tout Personne à ma connaissance n’est encore mort d’avoir vu un viking noir. L’histoire, c’est une science qui appartient aux livres d’histoire ou aux vidéastes se reposant sur des sources scientifiques. Les IA, qu’elles soient génératrices d’images ou de texte sortent régulièrement des résultats absurdes et personne ne devrait prendre pour acquis ce qui en sort pour le moment. Edité

tfpsly

Quand Gemini « efface » les blancs de l’histoire, le monde s’arrête. Quand ChatGPT « efface » les noirs de l’histoire, tout le monde s’en fout. https://medium.com/@thejabberer/chatgpt-and-racial-erasure-51abffb2679a TL;DR Google’s misfire at enforcing diversity in Gemini image generation led to accusations of a conspiracy to “erase” white people and their history. ChatGPT 4 image generation defaults to white people for many prompts, including historical situations where non-whites played a prominent or even majority role. Following the logic used against Google, OpenAI is erasing the history of non-whites. But where is the outrage?

glaude.denree

Rien à voir. ChatGPT ne réécrie pas l’histoire des noirs en Afrique en les remplaçant par des personnages qui ne représentent pas, ou de façon très minoritaire, la population concernée.

tfpsly

glaude.denree: …ChatGPT ne réécrie pas l’histoire des noirs en Afrique… Il réécrit bien l’histoire des USA, en virant les noirs et asiatiques de positions qu’ils occupaient pourtant, parfois majoritairement. Faudrait lire l’article avant de le critiquer.

glaude.denree

Bof, d’un côté Gemini applique un filtre multiculturel partout par défaut, même à des sociétés qui ne l’étaient pas et rend du coup une copie absurde et de l’autre ChatGPT minimise la présence de non blancs, dans une société encore majoritairement blanche et multiculturelle. Eh bien je pense qu’il y a plus de boulot à faire dans les réglages de l’IA de gogole que dans celle de grosoft.

MattS32

La seconde approche fait plus de dégâts que la seconde. Parce qu’elle contribue à perpétuer les préjugés racistes de supériorité des blancs. Tout comme par exemple il y en a qui persistent à prétendre que les femmes sont intellectuellement inférieures parce que dans les personnalités intellectuelles des siècles passés il y a quasiment exclusivement des hommes… (je n’invente rien, je cite cet exemple car je l’ai vu pas plus tard qu’aujourd’hui dans un autre fil de discussion sur Clubic) Représenter un viking avec la peau noir, alors que de toute façon 90% de la représentation « traditionnelle » du viking est déjà fausse à la base, c’est vraiment pas dramatique et ça ne va pas contribuer à perpétuer le racisme.

glaude.denree

Si ca s’appelle du révisionnisme. Quant à la supériorité des blancs, eh bien elle a existé durant une certaine période historique de l’humanité, notamment par une maitrise technologique avancée pluri-disciplinaire et sa démocratisation dans la vie de milliards d’habitants. Elle est bien moins évidente aujourd’hui car l’occident s’est trop démocratisé, globalisé et a perdu son fil conducteur moral (carcan pour certains) qui lui permettait d’atteindre un certain niveau d’excellence. Le blanc moyen n’est plus qu’un consommateur geignard, nihiliste et fainéant, d’où son déclin. Quant à l’IA c’est un faux débat sur la génération de faux contenu. Tout est faux dans cette affaire, et mieux vaut revenir à la réalité et au sérieux : Lis le dernier Emmanuel Todd par exemple.

MattS32

glaude.denree: Si ca s’appelle du révisionnisme. Non, car les vikings noirs ont bel et bien vraisemblablement existé. Et quand bien même ça serait du révisionnisme, ça n’est pas pour autant dommageable, ça ne va affecter la vie de personne à part 2-3 fachos qui sont traumatisés dès qu’ils voient un noir (mais faut être réaliste, la plupart de ceux qui s’excitent font semblant de l’être, ils profitent juste de l’occasion pour propager leurs idées nauséabondes). Alors que continuer de propager les préjugés racistes, ça ça a bien un impact délétère sur la vie de millions de gens. glaude.denree: et mieux vaut revenir à la réalité et au sérieux Encore une fois, si tu veux la réalité, fondamentalement faut déjà pas demander à une IA de générer un viking. Mais tu ne veux de toute façon pas la réalité : tu attends de l’IA que quand tu lui demandes de générer une image de viking, elle te génère quelque chose qui ressemble à l’image du viking que la pop culture des dernières décennies à véhiculé… Image qui n’a pas grand chose de réaliste. C’est vraiment pas la couleur de peau le plus gros problème de réalisme dans l’imagerie populaire hein… glaude.denree: sérieux : Lis le dernier Emmanuel Todd par exemple. Emmanuel Todd et sérieux dans la même phrase. Hum…

glaude.denree

Effectivement, la réalité se trouve dans les livres non pas sortie d’une IA. Merci de valider mon propos. D’ailleurs tu devrais lire un peu plus.

MattS32

glaude.denree: Merci de valider mon propos. Non, tu n’as juste pas compris. Et oui, je lis. Beaucoup. Mais pas n’importe quel torchon.

Voir tous les messages sur le forum

Gemini de Google semble avoir quelques soucis d'exactitude historique...

En voulant bien faire, l'entreprise a créé une nouvelle problématique

Google fait son mea culpa

A découvrir en vidéo

Commentaires (86)

Top app & logiciels

Sur le même sujet