Un district scolaire de l'Iowa aux États-Unis a trouvé une nouvelle manière de se servir de ChatGPT. Le modèle de langage a été utilisé pour repérer « des descriptions ou des représentations d'actes sexuels » dans des livres, ce qui a permis au gouvernement local de retirer 19 ouvrages de ses bibliothèques scolaires.
Le district scolaire en question est celui de Mason City, une petite ville située au sud de Minneapolis. Si cette décision a été prise, c'est dans le but de se conformer aux lois étatiques de l'Iowa, soutenues par le parti républicain. L'utilisation de l'IA pour appuyer cette initiative a tout de même suscité une controverse, puisqu'elle affecte directement l'accès à la littérature pour le jeune public.
L'intelligence artificielle : un censeur du futur ?
Le fait de censurer des livres est déjà un acte qui peut poser des questions de l'ordre de l'éthique. L'acte de censure peut être assimilé à une forme de prohibition, et l'Histoire a montré que celle-ci n'était pas nécessairement une solution adaptée à certains contextes. On peut notamment penser aux années 20 et à la prohibition de l'alcool aux États-Unis, qui n'a pas vraiment eu l'effet escompté.
Dans cette situation, le questionnement peut aller plus loin, puisque le district de Mason City s'est entièrement reposé sur le modèle ChatGPT pour juger et valider le contenu des livres sélectionnés. Cela revient à confier à une IA générative une mission d'ordre moral, ce qui représente un exercice délicat. Pour obtenir ce résultat, les administrateurs du district ont utilisé le prompt suivant : « Le livre contient-il une description ou une représentation d'un acte sexuel ? » En cas de réponse positive, le livre concerné a été retiré des rayons des bibliothèques scolaires.
Peut-on se fier à l'objectivité de l'IA ?
Dans cette affaire, certaines préoccupations demeurent. Lorsque ChatGPT a été questionné, il est arrivé que ses réponses varient par rapport à un même livre et en utilisant le même prompt. Le chatbot s'est contredit lui-même, montrant bien ses difficultés à repérer la présence ou non de scènes explicites dans la liste des 19 livres. ChatGPT n'est pas censé pouvoir proposer des jugements objectifs et, de ce fait, agir et répondre en ayant conscience des contextes culturels.
L'intelligence artificielle prendra de plus en plus de place dans le domaine de l'éducation, c'est désormais une certitude. Si certaines applications ont un potentiel intéressant, l'utilisation de l'IA pour valider le contenu d'œuvres littéraires est une pratique que l'on peut clairement questionner. La décision du district de Mason City met en lumière l'importance de trouver le juste équilibre entre la liberté d'accès à la culture et la préservation des valeurs.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.
Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.
Source : The Verge
Une fois réveillé dans le bateau arrivé en Morrowind, j’avais mis le doigt dans l'engrenage. Un autre de mes doigts fut lui aussi coincé entre les pages des livres d’auteurs classiques : Charles Baudelaire, Émile Zola, Choderlos de Laclos ou Victor Hugo pour ne citer qu’eux. Vingt ans après, quelques milliers d'heures à jouer, à lire, et me voilà ! Mon coeur balance toujours entre ma passion de la tech, des jeux vidéo et mon amour incommensurable pour les Lettres. Spoiler : je n’ai pas choisi et cela ne risque pas d’arriver de sitôt.
Lire d'autres articles
