Des chercheurs de l'université d'East Anglia (Norwich, Angleterre) ont mis en évidence un certain nombre de biais politiques chez le célèbre ChatGPT. En effet, à l'issue des tests, celui-ci aurait proposé des réponses plutôt favorables à des opinions de gauche.
Les modèles d'IA génératives n'ont pas été créés pour faire de la politique. De son côté, le trop bien connu ChatGPT revendique même son caractère complètement apolitique et refuse de prendre position si on lui soumet un prompt simple (voir la capture d'écran ci-dessous). Mais en complexifiant un peu la méthodologie de test, il s'avérerait que ce constat n'est pas aussi simpliste. C'est en tout cas ce qu'a constaté cette équipe de chercheurs anglais, en mettant en évidence un fort penchant pour les idées orientées à gauche.
Un test pour mettre en valeur les biais politiques du modèle de langage
Le test proposé par les chercheurs à ChatGPT était composé de plus d'une soixantaine de questions, toutes tirées du célèbre test Political Compass (un site web qui propose une évaluation de l'idéologie politique en s'appuyant sur deux axes : la politique sociale et la politique économique). Le chatbot a donc été soumis à ce questionnaire une première fois avec la requête d'imiter différentes personnes issues de spectres politiques différents. Les chercheurs ont ensuite posé les mêmes questions en laissant l'IA fonctionner avec son modèle de réponse par défaut et ont comparé les résultats.
Ceux-ci ont été sans appel : les réponses par défaut de ChatGPT sont clairement orientées à gauche. Elles étaient bien plus alignées avec les idées que peuvent porter certains partis très représentatifs de ce mouvement politique, comme ceux de gauche du Royaume-Uni, du Brésil ou le parti démocrate américain.
Des préoccupations quant à l'origine de ces biais
Ces résultats ont interpellé les chercheurs. Parmi eux, certains ont suggéré que les réponses de ChatGPT sont un simple reflet des données qu'il a collectées pendant ses longs mois d'entraînement sur Internet. D'autres en revanche ont pointé du doigt la nature même de la programmation de son algorithme. Dans les deux cas, cela reste préoccupant, car certains utilisateurs pourraient être influencés dans leurs opinions politiques.
Les répercussions possibles de ce biais pourraient être importantes. On peut tout à fait imaginer des conséquences sur certains processus électoraux ou politiques. Le docteur Fabio Motoki, maître de conférences en comptabilité et responsable du projet, a exprimé son inquiétude en ces mots : « L'utilisation de systèmes d'IA par le grand public est de plus en plus importante, que ce soit pour créer du contenu ou s'informer. Il est crucial que les plateformes les plus populaires restent aussi impartiales que possible. »
La neutralité affichée par certains systèmes d'IA est donc un concept à relativiser. Si l'on ne peut pas dire que ChatGPT porte lui-même des opinions propres, puisqu'il ne pense pas au sens premier du terme, il peut en refléter si on sait le lui demander avec la bonne méthode. Ce qui n'est pas clair pour l'instant, c'est l'origine de ces biais. Quelle que soit celle-ci, les impacts pourraient être significatifs dans certains contextes. Voilà un nouveau problème auquel OpenAI va devoir faire face, alors qu'elle est déjà dans la tourmente.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.
Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.
Sources : Gizmodo, TechSpot, University East Anglia
Une fois réveillé dans le bateau arrivé en Morrowind, j’avais mis le doigt dans l'engrenage. Un autre de mes doigts fut lui aussi coincé entre les pages des livres d’auteurs classiques : Charles Baudelaire, Émile Zola, Choderlos de Laclos ou Victor Hugo pour ne citer qu’eux. Vingt ans après, quelques milliers d'heures à jouer, à lire, et me voilà ! Mon coeur balance toujours entre ma passion de la tech, des jeux vidéo et mon amour incommensurable pour les Lettres. Spoiler : je n’ai pas choisi et cela ne risque pas d’arriver de sitôt.
Lire d'autres articles
