Des scientifiques ont voulu piéger l'intelligence artificielle en inventant une maladie, pour voir ce que l'IA ferait de son savoir. Mais l'expérience a donné des résultats qui font mal !
Si l'intelligence artificielle est aujourd'hui une technologie qui montre un certain nombre de merveilles, elle est encore loin d'être parfaite, ne serait-ce que du fait qu'elle est capable d'inventer des choses, ou de reprendre des informations erronées. Mais s'il y a encore besoin d'amélioration, l'humain est aussi à questionner dans le domaine de l'IA.
La bixonimania, une maladie faite pour tromper l'IA
En 2024, une équipe de chercheurs de l'université de Göteborg (Suède) inventait une maladie du nom de « bixonimania ». Il s'agirait, selon leur définition, d'une maladie de peau créée par une trop longue exposition des yeux aux écrans et par le fait de se frotter les yeux trop longtemps.
Les chercheurs souhaitaient piéger l'IA, et voir sa réaction quant à cette information. Ils ont ainsi mis en ligne deux fausses études sur une plateforme de prépublications, et attendu les réaction des grandes IA. Et celles-ci ne se pas fait attendre. Au bout de quelques semaines, ils ont pu voir cette pathologie être citée comme réelle par de grandes modèles comme ChatGPT ou Gemini.
Un papier d'origine au côté fantasque pourtant très évident
Mais le plus grave n'est pas là. Que l'IA tombe aisément dans l'erreur, c'est une chose. Le problème tient au fait qu'après l'IA, des chercheurs humains ont à leur tour commencé à citer la bixonimania comme une maladie réelle dans leurs publications universitaires évaluées par des pairs, comme nous le fait savoir Futurism.
Il faut noter que le papier d'origine, qui a lancé cette dissémination d'une fausse pathologie jusque dans le monde scientifique humain, était à la base un papier qui apparaîtrait franchement peu fiable, même pour un néophyte. Sont ainsi notamment mentionnés les Simpsons, le Seigneur des Anneaux ou bien Star Trek. L'aspect humoristique très clair de l'expérience n'a pas empêché pourtant l'IA de s'emparer de cette pseudo-pathologie. Un précédent inquiétant ?
Source : Futurism
Je vais éviter Homer quand même… 
