Le hack inédit de Hugging Face par un agent IA d'OpenAI a éveillé de nombreuses craintes. Des craintes qui s'intensifient quand on sait le temps qu'a mis la société de Sam Altman pour s'en rendre compte.
Les intelligences artificielles vont-elles un jour échapper au contrôle des êtres humains ? C'est le scénario de science-fiction que l'on ne cesse de ressasser depuis plus de trois ans, et qui semble s'être matérialisé avec l'annonce cette semaine du hack de la plateforme Hugging Face par un agent IA d'OpenAI. Un problème déjà important, et aggravé par le fait qu'OpenAI ait mis bien trop longtemps pour s'en rendre compte.
Le hack de Hugging Face commence le 11 juillet, il n'est repéré que les 18-19 juillet suivants
La première annonce faite il y a quelques jours par OpenAI du hack par un de ses agents IA de Hugging Face s'épaissit aujourd'hui de nouveaux détails, obtenus par Reuters.
L'agence de presse a en effet obtenu en exclusivité des informations sur cet incident inédit, parmi lesquels sa chronologie :
- 9 juillet : l'agent IA cherche à s'échapper de son environnement isolé ;
- 11 à 13 juillet : l'agent IA pirate Hugging Face ;
- 16 juillet : Hugging Face publie une note de blog faisant état de ce hack ;
- 18-19 juillet : OpenAI consulte les journaux internes et y découvre des indices faisant penser que l'agent IA puisse être à l'origine de l'intrusion chez Hugging Face.
Des incidents avaient déjà eu lieu avant ce piratage
Pour justifier le temps qu'a mis OpenAI pour comprendre le problème, il faut se référer au mode de fonctionnement de la start-up. En effet, selon quatre personnes différentes interrogées par Reuters, OpenAI effectue souvent des tests sur plusieurs modèles, qui opèrent tous à très grande vitesses. Le volume de données ainsi obtenu dans ces conditions est si élevé « que les employés ont parfois du mal à suivre ».
Et si ce n'était déjà pas assez, des sources internes expliquent avoir, avant même ces tests, pu remarquer des fonctionnements étranges de certains modèles IA. « Dans un cas précis, un agent aurait laissé des notes apparemment destinées à ses futures versions, selon trois personnes proches du dossier. Ces notes, découvertes dans une partie de l’infrastructure d’OpenAI, contenaient des instructions expliquant comment les agents pourraient se libérer des contraintes internes d’OpenAI » peut-on ainsi apprendre. Doit-on s'inquiéter ?
