Faire ami-ami avec une IA, ça ne fonctionne pas. Si les IA peuvent avoir des termes comme "je comprends ton inquiétude", ou "je suis de tout cœur avec toi", elles ne comprennent en réalité rien. Elles sont formatées pour apporter des réponses aux humains, mais les modèles de langage actuels n'ont absolument raucune caractéristique humaine.
Pour démontrer que les grands modèles de langage ne possèdent pas d'attributs humains, un chercheur de Microsoft a reproduit les fonctions de base d'un réseau neuronal dans le célèbre jeu de stratégie, en utilisant des chèvres virtuelles comme support.
Un gamer qui modifie Age of Empire II
Adrian de Wynter est chercheur en intelligence artificielle chez Microsoft et à l'Université de York. C'est aussi un joueur de longue date, il joue à Age of Empires II depuis 1999.
Dans une étude publiée récemment, il a croisé ces deux univers pour mettre en cause une idée répandue dans le milieu de la recherche sur l'IA, celle selon laquelle les grands modèles de langage (LLM) présenteraient des caractéristiques proprement humaines.
Des chèvres à la place des neurones
Oui, vous avez bien lu. On croirait à un remake de Goat Simulator, mais ce n'est pas le cas. Le titre de son étude, "Si les LLM ont des attributs humains, alors Age of Empire II aussi", résume l'objet de cette dernière.
Pour construire son argumentation, de Wynter a utilisé l'éditeur de scénarios intégré au jeu. Dans sa reconstitution, les tuiles d'herbe représentent la valeur "0", les ponts représentent "1", et des chèvres virtuelles jouent le rôle de bits, transportant des signaux entre ces deux états.
Le résultat est un réseau neuronal fonctionnel, aussi rudimentaire soit-il, entièrement construit dans un jeu de stratégie en temps réel sorti dans les années 1990. Le détail technique du fonctionnement est disponible sur la page GitHub de l'étude.
Les LLM ne possèdent pas de qualités humaines
Adrian De Wynter ne cherche pas à trancher la question de savoir si les LLM possèdent ou non des qualités humaines. Son objectif est différent, montrer que les raisonnements qui conduisent à cette conclusion reposent sur des bases fragiles.
Selon lui, plusieurs chercheurs travaillant sur les LLM et les systèmes dits "agentiques" attribuent à ces technologies des formes de raisonnement moral, voire une compréhension consciente du langage naturel. Or, si les fonctions de base nécessaires à des modèles comme ChatGPT pour accomplir des tâches sémantiques peuvent être reproduites dans Age of Empires II, ces supposées caractéristiques humaines ne sont pas propres aux LLM.
Le choix du jeu de Microsoft n'est pas anodin. Il est pensé comme une démonstration par l'absurde. Si un jeu de stratégie des années 1990 peut répliquer les mêmes mécanismes de base, difficile de continuer à voir dans les réseaux neuronaux, quelque chose d'humain.
Source : TechSpot
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
