Demis Hassabis, PDG de Google DeepMind et Prix Nobel de chimie 2024, a dit que si le choix lui avait appartenu, il aurait gardé l'IA en laboratoire plus longtemps, fait davantage de choses comme AlphaFold et peut-être guéri le cancer. Plus de deux millions de chercheurs utilisent aujourd'hui cet outil.
Quand ChatGPT sort en novembre 2022, Google déclenche son alerte rouge interne et Demis Hassabis prend la tête de l'ensemble de l'IA Google, y compris les produits grand public sur lesquels il ne travaillait pas jusqu'alors. Il souhait alors développer l'IA lentement, prudemment, en l'appliquant aux problèmes scientifiques fondamentaux, comme au CERN.
La pression commerciale et la rivalité sino-américaine ont ensuite précipité les laboratoires dans une course aux chatbots, au détriment des grandes questions scientifiques. « Done more things like AlphaFold, maybe cured cancer or something like that », soit faire davantage de choses comme AlphaFold et peut-être guérir le cancer, a-t-il confié à Cleo Abram lors d'un podcast début avril.
AlphaFold, un outil de recherche ouvert à tous les scientifiques du monde
AlphaFold est le système d'IA que DeepMind a développé pour résoudre un problème vieux de cinquante ans, celui du repliement des protéines, dont la structure en trois dimensions détermine le fonctionnement dans le corps humain.
Demis Hassabis regrette que la course commerciale ait détourné l'IA des grandes questions scientifiques, mais le succès d'AlphaFold doit beaucoup à un choix de déploiement radical. DeepMind aurait pu proposer un simple service à la demande, au sein duquel des chercheurs envoient leurs séquences protéiques et reçoivent leurs résultats. Demis Hassabis a fait un autre choix et, sous sa direction, DeepMind a calculé quelque 200 millions de structures protéiques pour les mettre librement à disposition du monde entier.
Plus de deux millions de chercheurs les utilisent aujourd'hui, dans la recherche sur les médicaments comme dans la compréhension des maladies. Ce déploiement massif et ouvert a donc accéléré la science bien plus qu'un accès restreint ne l'aurait fait.
Dans deux à quatre ans, les agents IA pourraient échapper à tout contrôle
Le patron de Google DeepMind met en garde contre deux dangers. D'un côté, l'usage malveillant de l'IA par des groupes terroristes ou des États hostiles. De l'autre, et c'est ce qui l'inquiète le plus, la perte de contrôle sur les systèmes eux-mêmes, quand ils entreront dans ce qu'il appelle « l'ère de l'agent », soit une période où des logiciels accompliront des tâches entières de façon autonome, dans les deux à quatre ans qui viennent.
Il faudra alors mobiliser toutes les ressources humaines pour garantir que ces agents fassent exactement ce qu'on leur demande, sans contourner ni enfreindre accidentellement leurs garde-fous.
Demis Hassabis a appelé à une coopération internationale entre laboratoires, instituts de sécurité et monde universitaire, en admettant que même les experts n'y consacrent pas encore assez d'attention.
Source : Compte X @Ricardo
