En 2019, un jeu de rôle sur navigateur ambitieux mettant en avant la collaboration humain-IA voyait le jour. Depuis, l'aventure s'est transformée en un cauchemar sordide.
Notre histoire débute en décembre 2019, au sein de la start-up Latitude, basée en Utah, aux États-Unis. Cette jeune entreprise voulait lancer un jeu de rôle sur navigateur révolutionnaire mettant en place une collaboration entre l'humain et la machine. Utilisant la technologie de génération de texte de la société OpenAI, spécialisée dans l'intelligence artificielle, il était possible de vivre une aventure totalement aléatoire rappelant les meilleures parties de jeux de rôle tels que Donjons & Dragons. AI Dungeon a ainsi rencontré un énorme succès après sa sortie. Malheureusement, cet apparent conte de fées a dernièrement pris un tournant bien plus sombre.
Publicité
Publicité
Tout commença dans une taverne…
Comme une certaine encyclopédie Encarta en son temps sur MSN, il est ainsi possible sur AI Dungeon d'interagir avec une intelligence artificielle très inventive et créer une aventure unique, par et pour chaque joueur. L'utilisateur peut choisir un univers (fantasy, cyberpunk, et bien d'autres), créer son personnage, une situation de départ, et peut alors commencer une aventure aussi aléatoire qu'amusante.
Pour progresser dans cette aventure avec l'IA comme maître de jeu, différentes possibilités sont offertes. L'utilisateur peut entrer son texte dans des catégories au choix pour effectuer une action, parler, poser une question, intimer un ordre, bref, les possibilités sont infinies.
Un projet qui a connu un franc succès et a motivé Latitude à aller encore plus loin. En juillet dernier, la start-up a bénéficié d'un accès anticipé, courtoisie d'OpenAI, à une version plus puissante de sa technologie originale. Et c'est à ce moment-là que l'idylle a tourné au cauchemar.
Publicité
Publicité
Manipulée et ivre, l'IA maître de jeu perd tout contrôle
Après avoir renforcé l'intelligence artificielle d'AI Dungeon, quelques mois se sont ensuite écoulés, apparemment sans encombres. Toutefois, OpenAI a découvert le mois dernier que la collaboration humain-machine avait commencé à prendre une tournure particulièrement sordide.
Certains joueurs facétieux se seraient en effet amusés à taper du texte menant l'intelligence artificielle à créer des histoires dépeignant d'horribles scènes, parmi lesquelles des relations sexuelles avec des enfants.
En vue de remettre l'intelligence artificielle dans le droit chemin, OpenAI et Latitude ont donc implémenté un système de modération. Une décision qui n'a pas fait l'unanimité au sein de la communauté AI Dungeon. Certains arguaient que cette réaction était exagérée, tandis que d'autres estimaient qu'une telle mesure allait empiéter sur les créations privées (surtout sexuelles) de chacun.
Publicité
Publicité
Une communauté se sentant trahie
Suite à cette tentative d'assainir l'IA des idées que certains joueurs lui ont inculqué, la communauté AI Dungeon s'est rassemblée sur Twitter et Reddit pour appeler à un changement. Nombre d'utilisateurs appréciaient en effet la liberté offerte par AI Dungeon, disant que ce jeu leur a permis
« de découvrir des facettes inexplorées de leur psyché ».
Tentant tant bien que mal d'étouffer les flammes, Latitude a promis la semaine dernière de « continuer à supporter les contenus explicites comme le consentement adulte, la violence et les insultes ». Mais l'opération apparaît bien plus ardue que cela.
L'algorithme de l'intelligence artificielle d'AI Dungeon est en effet extrêmement complexe et poussé grâce au machine learning. Mais l'interprétation de certains mots semble être particulièrement difficile à juguler. La volonté pour le joueur de « monter un dragon » peut ainsi prendre une tournure pour le moins inattendue, entre autres exemples d'interprétations parfois maladroites de l'intelligence artificielle.
Publicité
Publicité
Un énorme potentiel terni par la collaboration avec l'humain
Depuis l'instauration de la nouvelle et puissante technologie d'OpenAI, AI Dungeon aurait connu un formidable bond en termes de créativité, d'écriture et d'inventivité. Elle semblait plus que jamais capable de créer des histoires crédibles, quel que soit l'univers choisi par l'utilisateur.
En vue de satisfaire même les plus coquins des joueurs, l'intelligence artificielle d'AI Dungeon s'est également montrée bien plus créative dans sa capacité à dépeindre des thèmes explicites. Le tout en respectant au maximum la légalité desdits thèmes.
La seule faille à ce projet aussi intéressant qu'ambitieux, c'est que l'intelligence artificielle n'est en elle-même pas capable d'intégrer des notions telles que l'âge, la loi ou la morale. Et c'est précisément la partie sur laquelle ni OpenAI, ni Latitude, ni aucun autre créateur d'intelligence artificielle n'a le moindre contrôle : l'imagination immodérée de l'humain.
Source : Wired
