En manque de repos, certaines IA hallucinent "comme les humains"

21 décembre 2020 à 08h48
17
neurones

Voici une découverte qui pourrait décomplexer les gros dormeurs et autres afficionados de la sieste : même les IA ont régulièrement besoin de faire un petit somme.

Des chercheurs du Laboratoire national de Los Alamos , situé dans l'État du Nouveau-Mexique et rattaché à l'université de Californie, ont fait une intéressante découverte. Contrairement à beaucoup de dispositifs dits intelligents, susceptibles de fonctionner 24h sur 24 et 7 jours sur 7 sans jamais s’arrêter, les systèmes IA qui imitent le système nerveux central des êtres vivants ressentent, eux aussi, le besoin de dormir.

Parce qu'apprendre, c'est fatiguant

Ce phénomène se produit lorsque les chercheurs soumettent leurs réseaux neuronaux artificiels à un apprentissage non supervisé de type classification. Les systèmes doivent catégoriser des objets sans avoir eu d’exemples préalables auxquels se référer. Garrett Kenyon, neuroscientifique spécialisé dans l'informatique neuronal et auteur de l’étude, fait le parallèle suivant :

« C’est comme si vous soumettiez à un enfant de nombreuses images d’animaux inconnus et que vous lui demandiez de regrouper des images similaires. Il ne saura peut-être pas ce qu'est une antilope, mais il la placera dans une pile séparée de celle des lions ou des pingouins, par exemple ».

Et comme les enfants, les réseaux neuronaux finissent par devenir « instables » après une session d’apprentissage continue, « génèrent des imagines analogues à des hallucinations ». Le remède pour les stabiliser ? Le repos !

Comment dort un réseau neuronal artificiel ?

À cet instant, vous vous demandez sûrement comment endormir un réseau neuronal. Lui préparer un lit douillet ? Lui chanter une berceuse ? Lui débrancher brutalement son alimentation ? Aucune de ces méthodes. Comme pour notre cerveau, son sommeil est surtout une histoire d’ondes.

Heureusement moins réfractaires à s’endormir que certains humains, les réseaux neuronaux artificiels peuvent être directement plongés dans ce qui s’apparente, chez un être vivant, au sommeil profond ; c’est en tout cas dans cet état qu’ils se reposent le plus.

Physiquement, pour un humain, la phase de sommeil profond le cerveau se traduit par des ondes dont les fréquences varient de 0,5 à 4 Hz environ. Plongés dans un sommeil artificiel similaire, les neurones finissent par retrouver leur stabilité. En outre, cet assoupissement permet d’en réinitialiser certains, inactifs lors du lancement initial de la simulation.

Par ailleurs, comme mentionné ci-dessus, "éteindre" les réseaux neuronaux n’atténue par leur instabilité. Pire, cela les réinitialise, annule leurs précédents acquis, les rend comme amnésiques. Concrètement, ne plus les alimenter revient à les plonger dans un état de mort cérébrale, lequel se caractérise, pour un cerveau biologique, par l’absence d’ondes.

Toutes les IA ne dorment pas

Ce besoin de sommeil ne concerne pas toutes les IA, un terme un peu fourre-tout qui désigne en réalité des concepts très différents. Comme le rappelle Garrett Kenyon, il ne concerne pas les IA qui se cantonnent à des activités très spécifiques, comme le deep learning. C’est l’opposition entre l’intelligence artificielle dite forte, ou générale, et l’intelligence artificielle faible. Inutile d’accorder régulièrement des nuits de sommeil à votre PC donc ; il n’en a pas besoin et cela ne le rendra pas plus intelligent !

Êtres vivants ou entité artificielle, aucun système neuronal ne semble donc pouvoir faire l’économie d’un bon sommeil réparateur. Grâce à leurs similitudes avec le cerveau humain, ces systèmes artificiels enrichiront certainement nos connaissances sur notre propre système biologique. Et qui sait, dans quelques décennies, lorsque des IA de ce genre seront implémentées dans nos objets du quotidien, votre voiture vous remerciera peut-être de l’avoir laissée dormir au chaud dans le garage plutôt que dans la rue.

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
17
13
cirdan
C’est normal, ça fatigue de bosser ! Et attendez qu’ils se syndicalisent, ils pourront plus leur coller des horaires de dingue.
Voigt-Kampf
Skynet n’est plus très loin !<br /> J’avais déjà réfléchi au sujet : imaginez, notre société future basée entièrement ou quasi sur l’IA… cette IA qui tombe en «&nbsp;dépression&nbsp;» et c’est tout le système qui s’effondre…<br /> Sinon il y a un assez vieux film (que je conseille) russe qui avait fait le parallèle entre IA et psychologie, c’est Solaris.
Blackalf
Incroyable, le mythe des IA omnipotente et actives 24/7 en prend un coup, à croire qu’ils vont réussir à implanter également les faiblesses et les limitations de l’humain. ^^<br /> Mais une question : si une IA gère quelque chose d’important, comment la faire «&nbsp;dormir&nbsp;» ? faudra-t-il en arriver à avoir trois IA qui feront 3 x 8 heures ?.
pinkfloyd
Un bon gros article pour dire que comme pour toute machine, faut faire un reset quoi…
cirdan
Blackalf:<br /> Mais une question : si une IA gère quelque chose d’important, comment la faire « dormir » ? faudra-t-il en arriver à avoir trois IA qui feront 3 x 8 heures ?.<br /> Si c’est le cas il faudra qu’elles se transmettent les infos avant la prise de service
vbond007
Intéressant. Mais comme je n’ai aucune idée de ce qu’est réellement un réseau neuronal, de quels éléments physiques il est constitué, comment il se «&nbsp;programme&nbsp;» ou s’initialise, je ne comprends pas tout et donc ça m’interpelle fortement.<br /> Je sais programmer ma bécane, c’est simple, c’est binaire (en gros au final tout est logique booléenne), mais un réseau neuronal ? ! ?
Skyfall69
Oui excellent film de Tarkovski.
KIKE666
Libération.fr – 25 Mar 16<br /> Microsoft muselle son robot «Tay», devenu nazi en 24 heures<br /> Un robot Microsoft doté d'une intelligence artificielle et capable de l'accroître en interagissant avec les internautes a été retiré jeudi par le groupe informatique américain après avoir multiplié les diatribes haineuses ou racistes.<br />
Voigt-Kampf
Oui. Tarkovski est un génie ignoré par nous les occidentaux.
koulchilebaiz
en gros ce sont des stats avec des ponderations, qui determinent l’output le plus probable (juste beaucoup de données et du calcul, ca reste binaire)
Voigt-Kampf
Non tu as raison, j’ai été très vite en besogne. Pour l’entité du film, qui est un magma informe, ressemble beaucoup à mes yeux à tout ce flux d’IA qu’on se tape et surtout ce qui sera en cours les prochaines années. A priori rien n’est précisé dans le film, on ne sait pas si c’est une entité «&nbsp;naturelle&nbsp;» ou générée (par une entité extra-terrestre), du coup rien ne nous empêche de comparer ça à une IA. On ne sait même pas pourquoi cette entité est capable de matérialiser le subconscient des personnes qui l’approchent/observent ni en quoi cela lui est utile. Un peu comme on ne sait pas les véritables raisons de la nécessité de sommeil chez les organismes à système neuronal complexe.
Skyfall69
Des cinéphiles non. J’ai vu une rétro Tarkosvki à Lyon. Une œuvre magistrale !
Biggs
Et pendant qu’elles «&nbsp;dorment&nbsp;», les IA rêvent-elles de moutons électriques… ?
Voigt-Kampf
Oui tu as raison, je trouve qu’il y a de plus en plus une redécouverte des œuvres oubliées de nos jours, et il faut s’en féliciter ! C’est quand même incroyable que malgré les connaissances moins importantes qu’aujourd’hui, il y a des œuvres qui ont su développer des questionnements qui ressurgissent des années plus tard…
Element_n90
Merci Microsoft d’avoir inventé le Ctrl + Alt +Suppr, cela nous sauvera peut-être des IA folles…
Minerve513
Marrant !
Voir tous les messages sur le forum

Actualités du moment

Promos Noël : le TOP des bons plans sur les forfaits RED, Free, B&YOU et Sosh
Cyberpunk 2077 sur un
L'Epic Games Store se la joue tower defense en offrant Defense Grid: The Awakening
VPN pas cher : nouvelle promo de Noël chez PureVPN à moins 91% 🔥
Depuis plusieurs semaines, SFR augmente le tarif de ses
Promos Noël : le TOP des bons plans sur les forfaits RED, Free, B&YOU et Sosh
Idée cadeau Noël : les écouteurs Xiaomi Air2 SE à prix cassé !
Forfait mobile : la série Free Mobile 80Go à moins de 13€ pour Noël
Idées cadeaux : deux aspirateurs robot iRobot en forte baisse chez Amazon
Super Mario 64 : et Nintendo inventa la 3D (oui, carrément)
Haut de page