On n'arrête plus les prédictions apocalyptiques quant à l'avenir de l'IA. Cette fois, c'est une voix qui a travaillé du côté de DeepMing (Google) qui s'exprime.
Tout le monde semble d'accord pour une fois du côté des géants de l'intelligence artificielle. Depuis la démission de Jason Coxon, chercheur alors chez Anthropic, qui a affirmé que les géants de l'IA jouaient avec nos vies, les prédictions catastrophistes se multiplient. C'est le cas ainsi de Paul Christiano, qui vient de rejoindre le conseil d'administration de la Fondation OpenAI, et aujourd'hui, sur un ton encore plus pessimiste, d'un autre chercheur de haut niveau.
« L'IA a le potentiel de tous nous tuer » d'après un ex-chercheur de DeepMind
Qui n'est pas pessimiste sur l'avenir de l'IA parmi les spécialistes aujourd'hui ? Difficile d'y répondre, quand on voit cette nouvelle intervention, cette fois venant de Bilal Chughtai, chercheur chez DeepMind (Google), jusqu'au mois de juillet 2026.
« J'ai récemment démissionné de Google DeepMind, où je travaillais sur la sécurité et l'alignement de l'IA générale (AGI)... [...] Je suis fermement convaincu que l'IA a le potentiel de nous tuer tous, et que nous risquons de manquer de temps pour éviter cette issue » a-t-il ainsi annoncé dans un message posté sur X.
La coordination entre les géants de l'IA serait la meilleure manière d'éviter l'apocalypse
Dans la suite de ce même message, il y explique comment il a vu en quatre ans cette technologie passer de petit gagdet amusant et inutile au fait qu'aujourd'hui, des agents IA puissent « résoudre des problèmes mathématiques célèbres vieux d'un siècle et, ce qui est plus inquiétant encore, échappent au contrôle d’OpenAI et piratent de manière autonome la société tierce HuggingFace, contre la volonté de tous. »
Pour ce chercheur, qui voit l'arrivée d'une superintelligence très possible dans les prochaines années (superintelligence qui pourrait ne pas faire ce que les êtres humains veulent), il y aurait pourtant un moyen d'éviter le pire. Pour lui, la coordination est essentielle, « afin d'éviter cette course effrénée entre les entreprises spécialisées dans l'IA. » Il préconise par ailleurs lui aussi de ralentir le développement de la technologie, à un rythme qui permette aux entreprises d'être toujours en capacité de réagir aux risques présentés par leur produit en cours de production.
