Sam Altman ne croit pas à une IA puissante, largement accessible et parfaitement inoffensive. Pour le patron d’OpenAI, en démocratiser l’accès suppose aussi d’accepter les risques qui l’accompagnent.
Les modèles progressent, les usages malveillants aussi. Ces derniers mois, OpenAI s’est prononcé pour des règles de sécurité plus strictes concernant les modèles de pointe et le recours à des évaluateurs externes, tandis que Sam Altman approuvait encore récemment l’appel de Dario Amodei à freiner leur développement. Dans un entretien accordé à POLITICO, le patron d’OpenAI a pourtant défendu une conception beaucoup plus permissive de l’accès à l’IA et de ses usages, quitte à assumer publiquement une part de leurs dérives.
La solution tout-en-un pour protéger votre entreprise
Votre petite entreprise a de grandes ambitions. Protégez-là contre les pirates. Et développez sereinement votre activité !
Mieux vaut des dérives qu’une IA confisquée par quelques-uns
« Nous pensons que le monde devrait accepter que de mauvaises choses se produisent », a lâché Sam Altman, au nom des bénéfices apportés par la technologie et de la liberté laissée à chacun de l’utiliser. Car pour garantir qu’il n’y ait ni piratage majeur, ni détournement, ni arnaque liés à l’IA, il faudrait accepter que les modèles les plus puissants restent entre les mains de quelques laboratoires chargés ensuite de décider qui peut en profiter et dans quelles conditions.
Un compromis que le patron d’OpenAI juge « totalement inacceptable », préférant composer avec une part d’abus plutôt que verrouiller davantage l’accès à des technologies dont les usages bénéfiques devraient, selon lui, dépasser de plusieurs ordres de grandeur les usages nuisibles. Vouloir empêcher chaque dérive reviendrait alors aussi à réduire tout ce que le public peut tirer de ces outils.
Cette tolérance doit toutefois s’arrêter face aux risques « vraiment catastrophiques », parmi lesquels Sam Altman range la possibilité d’une perte majeure de contrôle sur l’IA.
Avant même les modèles de demain, sécuriser ceux qui existent déjà
Les abus que Sam Altman accepte comme contrepartie d’une IA accessible au plus grand nombre ne relèvent de toute façon déjà plus de l’hypothèse. Les modèles actuels peuvent aider à rechercher des vulnérabilités, préparer des attaques et automatiser une partie de leur exécution, tandis que les agents gagnent en autonomie à mesure qu’ils peuvent manipuler des fichiers, utiliser des identifiants, lancer du code ou agir sur des services externes.
C’est aussi ce qui avait conduit George Kurtz à relativiser, en septembre dernier, l’appel de Dario Amodei à ralentir les modèles les plus avancés. Le patron de CrowdStrike rappelait alors que des systèmes potentiellement dangereux circulaient déjà et qu’en cela, freiner les générations suivantes ne neutraliserait pas les risques existants.
La sécurité ne peut donc pas se limiter à éprouver les modèles avant leur déploiement. Elle doit aussi accompagner les agents lorsqu’ils agissent, en surveillant leur activité, en contrôlant leurs accès et en permettant d’interrompre une action qui sort du cadre prévu. D’où la nécessité de renforcer les garde-fous en laboratoire, mais également une fois les systèmes déployés.
