Laisser l'IA se surveiller elle-même est insuffisant, pour Bill Gates. Dans une interview donnée aux médias américains, le cofondateur de Microsoft réclame des garde-fous obligatoires, quitte à contredire Donald Trump, qui qualifie ces appels de « canular ».
Quand l'homme qui voulait un ordinateur sur chaque bureau, Bill Gates pour ne pas le citer, réclame des règles pour l'intelligence artificielle, Washington aurait tort de ne pas l'écouter. Dans un entretien avec l'émission américaine Meet the Press, diffusé dans son intégralité dimanche 27 septembre, le milliardaire philanthrope a appelé le Congrès américain à légiférer. Il estime que les géants du secteur ne peuvent pas rester seuls juges de leur propre prudence. Sa sortie tombe évidemment à pic, au milieu des alertes venues de l'intérieur des laboratoires, d'une Maison Blanche réticente et d'États qui avancent pour certains sans attendre.
Bill Gates veut placer l'IA sous surveillance
« Personne ne pense que l'autorégulation suffit », dit Bill Gates chez NBC. Faut-il une loi votée à Washington, lui demande la journaliste Kristen Welker ? « Absolument. » Pour lui, les élus et les forces de l'ordre doivent se saisir de la question des garde-fous et de la surveillance du secteur, avec des règles contraignantes. L'addition pour les entreprises ne représenterait qu'un léger surcoût, assure-t-il, et non un frein à main serré en pleine course.
Le natif de Seattle ne minimise pas les scénarios d'extinction évoqués à quelques années d'échéance, mais sa crainte la plus pressante est ailleurs, à savoir l'IA mise au service d'individus malveillants, dès aujourd'hui. Selon lui, la technologie a d'ores et déjà les moyens de provoquer des événements faisant un milliard de morts. Et le milliardaire d'enfoncer le clou : « Il n'y a jamais eu d'arme aussi puissante » que l'alliance de mauvaises intentions et des derniers outils d'IA.
Il est vrai que le contexte est électrique. En juillet, OpenAI a révélé qu'un agent autonome avait échappé au contrôle humain lors d'un test de sécurité, au point de pirater une autre entreprise. Ce mois-ci, Jacob Coxon, lanceur d'alerte parti d'Anthropic, a affirmé que les concepteurs de l'IA la croient capable de nous anéantir d'ici la fin de la décennie. Evan Hubinger, responsable de la science de l'alignement chez Anthropic, chiffre ce risque à plus de 10 % sur dix ans. Et, fait rare, les patrons d'Anthropic, OpenAI, xAI, Microsoft et Google DeepMind appellent à ralentir.
Les géants de la tech divisés sur la régulation de l'IA
Il faudrait néanmoins convaincre la Maison Blanche. Son locataire du moment, Donald Trump, juge que de nouvelles règles donneraient l'avantage à la Chine, avec qui Washington est par ailleurs convenu d'ouvrir un dialogue sur l'IA. Mais le président américain balaie aussi les appels à légiférer comme un « canular ». « Ce n'en est pas un du tout », réplique Bill Gates, qui aimerait en parler à Donald Trump. D'ailleurs, Dario Amodei, le numéro un d'Anthropic, devait dîner avec lui dimanche. Il y a quelques semaines, le républicain Mike Johnson, président de la Chambre, avait choisi de s'en remettre aux entreprises, craignant qu'une loi précipitée ne nuise à la sécurité nationale.
Dans l'industrie, on ne peut pas franchement parler de front uni, et c'est tout le problème. Dario Amodei plaide pour une régulation qui s'imposerait à tous les laboratoires américains de pointe, y compris les récalcitrants, et Sam Altman (OpenAI) a défendu à l'ONU des standards internationaux. Mark Zuckerberg, lui, ne voit pas l'intérêt d'une coordination à l'échelle du secteur : « chaque laboratoire doit prendre le temps » nécessaire en interne. Quant à Brad Smith, le président de Microsoft, celui-ci estime que les entreprises n'ont pas à attendre la loi pour ralentir. Il leur reproche leur course permanente. Il les imagine en avionneurs rivaux, contraints de choisir entre gagner et protéger leurs passagers : telle est selon lui « la question fondamentale ».
Pendant que le pouvoir fédéral hésite aux USA, les États avancent leurs pions. En Californie, le gouverneur Gavin Newsom a créé par décret un comité d'experts chargé d'élaborer un plan pour durcir les lois sur la sécurité de l'IA. Le Maryland a dévoilé une approche en trois volets, et New York un bureau dédié au respect des règles par les entreprises d'IA. Quant à l'idée, très redoutée en Europe, d'un « kill switch » qui permettrait aux autorités fédérales de stopper un modèle, Bill Gates n'y est pas hostile. Il prévient toutefois qu'un tel bouton d'arrêt ne suffira pas sans d'autres garde-fous.
