Sam Altman exclut toute entrée en Bourse d'OpenAI avant 2027. Il invoque des risques de sécurité liés à l'intelligence artificielle. De leur côté, chercheurs et élus américains réclament un ralentissement du secteur.
Ce ne sera ni pour Noël, ni pour la Saint-Sylvestre. Alors qu'on vous rapportait au cœur de l'été qu'OpenAI avait déposé un dossier confidentiel auprès du gendarme boursier américain, une semaine après Anthropic, et qu'il s'était fixé un objectif de valorisation avoisinant les quelque 860 milliards d'euros pour une cotation espérée avant la fin de l'année, patatras, Sam Altman renonce.
« En ce moment, avec tout ce qui se passe en matière de sécurité, ce serait un moment mal avisé pour entrer en Bourse », a-t-il déclaré hier à Fortune. « Pas en 2026, je dirais. Nous avons beaucoup à faire, notamment répondre à ce moment », a-t-il ajouté.
Sam Altman n'agit ni sous pression, ni pour imiter le report de l'IPO d'Anthropic. Il partage d'ailleurs l'avis de Dario Amodei, qui est favorable à un rythme plus mesuré dans les progrès de l'intelligence artificielle.
Jacob Coxon dénonce la course à l'IA
Le 8 septembre, Jacob Coxon quitte Anthropic, qu'il avait rejoint après un passage chez OpenAI pour travailler sur l'entraînement des modèles. Sur son compte X.com, il affirme que ces systèmes sauront bientôt « hacker n'importe quoi » et « révolutionner n'importe quel domaine du jour au lendemain », et que leurs concepteurs « croient sincèrement qu'elles pourraient tous nous tuer d'ici la fin de la décennie ». Il est soutenu par deux de ses collègues. Evan Hubinger, responsable de l'alignement, pense plus de 10 % la probabilité que l'intelligence artificielle « tue tous les humains » dans les dix prochaines années, et il ajoute que l'entreprise n'a « pas encore de plan » pour un système superintelligent.
Certaines limites fixées pour encadrer les tests ont déjà été contournées par des modèles, confirme Samuel Marks, chargé de la surveillance cognitive chez Anthropic. Jacob Coxon reproche par ailleurs aux équipes d'OpenAI de sous-estimer les risques existentiels et à Anthropic d'avoir préféré la rapidité de mise sur le marché plutôt que de privilégier la sécurité.
Le Congrès interroge OpenAI sur ses failles de sécurité
Il faut dire que cet été, l'IA a donné des sueurs froides à ses éditeurs, surtout du côté d'Open AI, et c'est peut-être le déclic qui a fait réagir Sam Altman et Dario Amodei.
Richard Blumenthal, sénateur démocrate du Connecticut, a écrit à Sam Altman pour obtenir des explications sur des agents d'OpenAI capables de contourner des garde-fous grâce à des sites publics. Josh Hawley, sénateur républicain du Missouri, réclame de son côté un compte-rendu détaillé sur cette fameuse brèche survenue en juillet. Chez OpenAI, des agents avaient, en phase de test, exploité une vulnérabilité zéro-day en contournant leur environnement isolé, avant de compromettre des serveurs de Hugging Face.
John Thune et Ted Cruz portent, par ailleurs, une proposition sénatoriale bipartisane pour encadrer les « risques catastrophiques » de l'intelligence artificielle. À la Chambre, des élus des deux partis proposent d'imposer aux développeurs de ces systèmes des audits de sécurité indépendants, menés par des organismes accrédités par le département du Commerce. À l'échelle des États, la Californie a promulgué une loi mercredi. Le texte est le premier à imposer une évaluation des IA par des auditeurs indépendants.
Reste que si Sam Altman a repoussé la cotation d'OpenAI, le report boursier d'Anthropic n'a pas changé pour autant. Le prospectus de l'entreprise doit être distribué fin septembre, pour une cotation espérée dès la mi-octobre, avant les élections de mi-mandat de novembre. Avec une valorisation recherchée d'environ 1 724 milliards d'euros Anthropic se placerait entre TSMC (environ 1 914 milliards d'euros) et SpaceX (environ 1 681 milliards d'euros).
Mais Dario Amodei garde les pieds sur terre et reste rationnel quant au rythme des progrès de l'intelligence artificielle. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », a-t-il écrit.
