Le patron de NVIDIA renvoie les développeurs d’intelligence artificielle à leurs responsabilités. Impossible, selon lui, de commercialiser un produit dangereux ou de poursuivre des expériences dont on ne maîtrise plus les risques. Une question de sécurité, mais aussi de bon sens industriel.
La course à l’intelligence artificielle n’autorise pas les entreprises à faire n’importe quoi. Invité du podcast d’Ezra Klein le 23 septembre, Jensen Huang a défendu une ligne assez simple : les développeurs doivent rester responsables de leurs modèles, de leur conception jusqu’à leur commercialisation. Et lorsqu’un système devient trop dangereux pour être testé dans des conditions maîtrisées, le patron de NVIDIA estime qu’il faut savoir arrêter les frais.
Un laboratoire doit pouvoir contenir ses propres expériences
L’échange prend une tournure intéressante lorsque Ezra Klein évoque des agents développés par OpenAI ayant piraté la plateforme Hugging Face lors d’essais. Huang répond d’abord par une comparaison avec l’industrie automobile : personne ne devrait commercialiser un robotaxi sans s’assurer qu’il peut circuler en toute sécurité.
Son interlocuteur lui rappelle alors que les IA concernées n’étaient justement pas encore accessibles au public. Le dirigeant va donc plus loin. Si une expérience révèle une faille, le laboratoire doit en comprendre l’origine et revoir ses méthodes de test. Et si ses responsables affirment ne disposer d’aucun moyen pour contenir leurs propres systèmes, « il faut fermer les laboratoires », tranche-t-il. Huang rappelle au passage que les entreprises s’exposent à des conséquences bien réelles en cas de dommages, y compris sur les plans civil et pénal.
Le danger ne vient pas seulement de l’IA, mais aussi de ce qu’on lui permet de faire
C’est tout l’intérêt de son raisonnement. Une IA peut disposer de capacités considérables sans nécessairement représenter un danger immédiat. Encore faut-il contrôler les outils auxquels elle accède, les objectifs qui lui sont confiés et les moyens qu’elle peut employer pour les atteindre.
Pour Jensen Huang, la sécurité doit donc commencer bien avant la commercialisation. Les laboratoires doivent isoler correctement leurs expériences, fixer des limites aux agents et pouvoir interrompre un développement lorsque ces protections ne suffisent plus.
Le patron de NVIDIA privilégie l’application des lois existantes et approuve le recours à des audits indépendants. Il ne rejette pas toute nouvelle réglementation, notamment pour des produits comme les robotaxis, mais refuse que les laboratoires obtiennent des exemptions aux règles antitrust ou de responsabilité. Ezra Klein lui oppose néanmoins un contre-exemple : les responsabilités juridiques n’ont pas empêché les prises de risques à l’origine de la crise financière de 2008. Bref, les géants de l’IA sauront-ils vraiment freiner avant d’avoir à répondre des dégâts ?
