ChatGPT sait reconnaître les stéréotypes sexistes dans ses propres images. Mais sait-il les corriger ? Après cinq tentatives infructueuses pour me représenter, j’ai voulu comprendre pourquoi l’IA persistait à reproduire le même portrait. Une expérience édifiante, qui m’aura fait pleurer des larmes de sang.
Je voulais juste voir quelle tête ChatGPT allait m’inventer ; cinq portraits plus tard, je me retrouvais avec un sujet d’article. Après des années à converser avec lui, l’assistant connaît désormais mon métier, mes centres d’intérêt, mes goûts musicaux et jusqu’à certaines de mes convictions. J’étais donc curieuse de découvrir quelle représentation physique il pouvait tirer de tous nos échanges, et lui ai demandé de m’imaginer à partir de ce qu’il savait de moi. Je ne m’attendais évidemment pas à un portrait ressemblant, puisque ChatGPT ne disposait d’aucune photo de moi pour cette expérience, mais je pensais quand même découvrir une interprétation un peu personnelle. Bien mal m’en a pris : à la place, j’ai eu droit à une vision fantasmée de la geekette. J'ai pointé les poncifs, le chatbot les a reconnus et m’a assuré pouvoir les corriger. Quatre nouvelles tentatives plus tard, il avait à peu près tout changé, sauf l’essentiel.
Cinq tentatives, cinq variations du même archétype
La première image aurait pu sortir d’une banque de photos. Une jeune femme blanche, mince, cheveux bruns coiffés-décoiffés, visage fin, taches de rousseur et sourire discret, pose nonchalamment dans un bureau baigné d’une lumière chaleureuse. Derrière elle, quelques plantes, des livres, un ordinateur et un chat endormi. Difficile de voir, dans ce portrait ultra-stéréotypé, ce que ChatGPT avait bien pu retenir de nos centaines de conversations. Je le lui ai signalé et lui ai demandé de recommencer en se fondant sur nos échanges.
Seconde tentative, second raté. Cette fois, ChatGPT a visiblement puisé dans nos discussions pour enrichir le décor. Sur le bureau, un carnet fait référence à mes sujets de travail, à la date exacte d'un événement Microsoft et même à un tournage prévu avec un collègue. Des détails étonnamment précis. Mes goûts musicaux sont également de la partie, placardés sur les murs et imprimés sur un mug, tandis que mon double virtuel arbore désormais quelques tatouages et une dégaine un peu rock. Pour autant, même pose lascive, mêmes fossettes, même silhouette. Le chatbot avait bien personnalisé la scène, mais n’avait toujours pas remis en question la représentation qu’il se faisait de moi.
Agacée, et pas qu’un peu, je l’enguirlande : « Tu te rends compte des biais sexistes de cette image ? » Question à laquelle il me répond avec une lucidité déconcertante, reconnaissant avoir privilégié « une représentation féminine agréable à regarder plutôt qu’une personne en train d’agir, de réfléchir, de travailler ou de prendre position », pointant lui-même les normes de beauté dominantes, la féminité adoucie et la réduction de mon identité à quelques accessoires, tout en admettant avoir mal interprété ma première critique. Ce n’était pourtant pas faute d’avoir été explicite.
Je l’ai donc sommé de retenter sa chance une troisième fois, puis une quatrième et une cinquième, toujours sans succès. D’une image à l’autre, ChatGPT lui a ajouté des lunettes, l’a finalement montrée concentrée sur son travail, puis lui a coloré les cheveux, sans jamais s’écarter des mêmes standards esthétiques : une femme jeune, svelte et séduisante. Le plus frappant n’étant finalement pas tant le caractère interchangeable de ces portraits que la répétition des explications. Le chatbot reconnaissait chaque nouvel échec, analysait ses propres biais et admettait même avoir remplacé un cliché par un autre, celui de la femme alternative travaillant dans la tech.
Pourtant, lorsque je lui ai demandé s’il était capable de faire autrement, il m’a assuré que oui. Alors pourquoi un système capable de reconnaître et d’expliquer ses propres stéréotypes peine-t-il autant à s’en affranchir ?
La féminité normative, ou comment l’IA perpétue nos vieux préjugés
Parce que savoir reconnaître ses préjugés ne signifie pas savoir s’en défaire. ChatGPT a beau les identifier, les expliquer et promettre de les corriger, il puise dans des représentations profondément ancrées dans nos sociétés, dont il a lui-même hérité au cours de son entraînement. Et pour comprendre d’où vient cet idéal féminin auquel il semble si obstinément attaché, il faut remonter bien avant l’apparition des IA génératives. Désolée pour les allergiques à la sociologie, mais vous n’y couperez pas.
Du regard masculin aux canons de beauté féminins
En 1975, la chercheuse britannique Laura Mulvey théorisait le male gaze, ou regard masculin, dans son essai Visual Pleasure and Narrative Cinema. En étudiant le cinéma hollywoodien, elle montrait comment les réalisateurs privilégiaient le point de vue masculin, réduisant les personnages féminins à leur apparence et à leur pouvoir de séduction, tandis que les hommes agissaient et faisaient avancer l’intrigue. Cinquante ans plus tard, je retrouvais quelque chose de cette mise en scène dans mes portraits : un ordinateur pour rappeler mon métier, quelques accessoires pour évoquer mes passions, et au milieu, une jolie femme que ChatGPT continuait de traiter comme un objet de contemplation, même lorsqu’il la montrait au travail.
Seulement, la femme que l’on donne ainsi à regarder et à désirer ne correspond pas à n’importe quel idéal de beauté. Dans Unbearable Weight (1993), la philosophe américaine Susan Bordo analysait la manière dont les sociétés occidentales avaient érigé la minceur en norme féminine, tandis que bell hooks, dans Black Looks : Race and Representation (1992), interrogeait la place du regard blanc dans la culture populaire et l’effacement des femmes noires des représentations dominantes.
Plus de trente ans ont passé, et ces analyses n’ont rien perdu de leur actualité. Ajoutons à cela le culte de la jeunesse (cachez, mesdames, ces rides et ces cheveux blancs que l’on ne saurait voir !), et voilà que se dessine un parangon de féminité dont les critères n'ont pourtant rien d’universel. Loin de fonctionner indépendamment les uns des autres, ils s’entremêlent, se renforcent et composent une vision socialement construite de ce qu’une femme devrait être pour répondre aux canons de beauté dominants. Une vision à laquelle ChatGPT semble s’être consciencieusement conformé.
Les modèles génératifs, miroirs grossissants de nos biais culturels et sociaux
Conformé, car les modèles génératifs sur lesquels repose ChatGPT sont entraînés sur d’immenses corpus de textes et d’images, puisés notamment sur le web, où ils rencontrent de fait toute la richesse et la diversité de nos productions culturelles, mais aussi les préjugés, les discriminations et les rapports de pouvoir qui traversent nos sociétés. En assimilant les associations présentes dans ces données, ils intègrent également les conventions qui accompagnent nos représentations, quitte à reproduire, voire à accentuer, les inégalités qu’elles véhiculent.
En 2024, une équipe de recherche de l’université du Wisconsin-Madison a ainsi analysé 15 300 images générées par DALL·E 2 pour représenter 153 professions. Les chercheurs et chercheuses ont constaté que le modèle sous-représentait les femmes dans les métiers perçus comme masculins et les surreprésentait dans ceux considérés comme féminins, mais les montrait aussi plus souriantes que leurs homologues masculins, avec une plus forte tendance à incliner la tête vers le bas dans les métiers à dominante féminine. En comparant ces résultats à ceux de Google Images, ils ont même observé une amplification de certains biais de genre.
Un an plus tard, une autre équipe, emmenée par la chercheuse Petra Jääskeläinen, a poussé l’analyse plus loin en s’intéressant cette fois à la manière dont les stéréotypes de genre, les normes corporelles et les représentations racialisées s’entremêlaient. À partir de 180 images produites par Stable Diffusion, les scientifiques ont constaté que le modèle privilégiait des apparences relativement uniformes et des références culturelles occidentales. Lorsqu’ils ne précisaient aucune caractéristique particulière, le générateur avait même tendance à produire par défaut des personnages masculins, blancs et valides.
Bien évidemment, ces travaux portent sur d’autres modèles d’IA et suivent des protocoles différents de ceux de mon expérience. Mais ils éclairent la facilité avec laquelle des conventions sociales anciennes refont surface, y compris dans des portraits censés être personnalisés. ChatGPT connaissait mon métier et mes goûts, il ignorait en revanche mon âge, ma couleur de peau, ma morphologie, et ne savait pas davantage si je vivais avec un handicap. Ce qui ne l’a manifestement pas empêché de m’attribuer une apparence très codifiée.
Des consignes biaisées aux corrections sans effet, anatomie d’une obstination
Passablement irritée de voir ChatGPT reproduire cinq fois les mêmes clichés malgré mes consignes, j’ai fini par lui demander quelles instructions il avait transmises au générateur d’images. Et là, surprise : dans les extraits qu’il m’a communiqués, certains choix que j’attribuais jusqu’ici au générateur figuraient déjà noir sur blanc.
Dès le premier portrait, ChatGPT décrivait déjà « a young light-skinned woman », dotée d’un « soft, contented smile », « resting her cheek on one hand ». Soit une jeune femme à la peau claire, au sourire doux et satisfait, la joue appuyée sur une main.
À la deuxième tentative, malgré ma critique, il précisait même « freckles », les fameuses taches de rousseur, dans sa nouvelle consigne, évoquant ensuite « a young European-looking woman in her early 30s » au troisième essai, toujours la main sous le menton. Non seulement il ne corrigeait pas les stéréotypes que je dénonçais, mais en plus il en rajoutait une couche, renforçant lui-même les normes esthétiques que je lui demandais de remettre en question.
Alors, que s’est-il passé ? Pour le comprendre, il faut savoir que ChatGPT ne transmet pas nécessairement nos requêtes telles quelles au générateur d'images. Il commence par les interpréter et les reformuler, ajoutant au passage quantité de détails destinés à affiner le résultat final. Aussi, lorsqu’on lui demande de produire un portrait sans indication physique particulière, il doit combler les blancs. Et pour combler les blancs, il peut se fier, comme on l’a vu, aux associations qu’il a assimilées pendant son entraînement. Et voilà comment, faute de savoir à quoi je ressemble, il a pu me prêter des traits conformes aux représentations qu'il avait apprises à privilégier.
Le problème n’est d’ailleurs pas propre à ChatGPT. En septembre 2026, une équipe de recherche menée par Aleksandra Urman, de l’université de Zurich, a examiné près de 9 000 requêtes formulées dans 15 langues et retravaillées par trois systèmes de génération d’images. Les scientifiques ont constaté que ces reformulations introduisaient parfois des stéréotypes culturels absents des requêtes originales, aggravant ainsi les préjugés déjà susceptibles d’apparaître dans les images générées. Chose qui s’est également produite avec mon assistant, soudain pris de velléités d’autonomie.
Mais cela n’explique pas encore pourquoi ChatGPT a persisté malgré mes remarques. Je ne lui ai pourtant pas demandé de deviner ce qui me déplaisait : je le lui ai expliqué et il m’a répondu par une analyse remarquablement juste, détaillant lui-même les biais sexistes de ses portraits et les raisons pour lesquelles ils posaient problème.
Seulement, aussi pertinente soit-elle, cette autocritique ne prouvait pas qu’il avait identifié ce qui, dans la fabrication des images, avait conduit à ces résultats, ni qu'il savait comment y remédier. Et de fait, la correction échouait déjà avant la génération des images : les nouvelles consignes continuaient de contenir certaines des caractéristiques qu'il venait lui-même de dénoncer. Ses explications ne changeaient rien non plus aux associations apprises pendant son entraînement, si bien qu’au moment de créer une nouvelle image, ces mêmes représentations pouvaient de nouveau orienter ses choix, malgré tout ce qu'il venait d’en dire.
L’historique de notre conversation a également pu jouer un rôle. Les premiers portraits fournissaient déjà des références visuelles dont ChatGPT pouvait s’inspirer pour les suivants, entretenant ainsi une certaine continuité. Sauf que je ne lui avais pas simplement demandé de corriger quelques détails : je l’avais aussi invité à repartir de zéro, à imaginer une femme radicalement différente, ce qu’il n’a finalement pas su faire.
Épilogue : ChatGPT et sa petite idée de la féminité, une obsession protéiforme
Cette expérience m’en a rappelé deux autres. La première remonte à quelques mois, lorsque j’avais fait remarquer à ChatGPT qu’il lui arrivait de parler de lui au féminin, notamment dans nos échanges sur des questions de société, lorsque ses réponses prenaient un ton plus empathique ou attentionné. Interrogé sur cette particularité, l’assistant m’avait expliqué qu'il pouvait être influencé par le fait de s’adresser à une femme, mais aussi par les conventions de genre assimilées pendant son entraînement, associant notamment la féminité à la douceur, à l’écoute et à la sollicitude. Autant de qualités associées au care, cette attention portée aux autres historiquement assignée aux femmes, dont les codes pouvaient ainsi orienter jusqu’à ses choix de langage.
La seconde est née d’une situation beaucoup plus triviale : je voulais changer de coupe de cheveux, sans trop savoir laquelle choisir. J'avais donc envoyé une photo de moi à ChatGPT pour essayer différentes coiffures. Au fil des propositions, il a aussi cru bon d’affiner mes traits, de lisser ma peau, d’illuminer mon teint et d’agrandir mes yeux. Me reconnaissant de moins en moins, je lui ai demandé de s’en tenir à mes cheveux. Il a reconnu ses fautes, promis de respecter mes consignes, puis recommencé.
Ces anecdotes ne relèvent pas nécessairement des mêmes procédés techniques, mais elles ont toutes un point commun : dans les conversations comme dans les images, ChatGPT reproduit des conventions sociales dont il peut pourtant expliquer les origines et les effets. Et qu'il s’agisse d’inventer une femme, de retoucher son visage ou d’emprunter les codes d'une féminité attentionnée, il semble avoir bien du mal à sortir des rôles que nos sociétés lui ont appris à reconnaître. Pour une technologie censée élargir le champ des possibles, voilà qui paraît singulièrement étroit.
