C'est une alerte qu'il ne faut pas prendre à la légère, car elle émane de l'une des figures les plus proéminentes de l'intelligence artificielle (IA) générative. Selon Dario Amodei, il est impératif de réguler la technologie, car nous courrons potentiellement vers la catastrophe.
Ancien de chez OpenAI et P.-D.G d'Anthropic, à l'origine du plébiscité chatbot Claude, il publie un essai de 38 pages portant sur les dangers concrets de l'intelligence artificielle. Le ton est clair : « L'humanité est sur le point de se voir confier un pouvoir presque inimaginable, et il est très difficile de savoir si nos systèmes sociaux, politiques et technologiques ont la maturité nécessaire pour l'exercer ».
Une technologie surpuissante entre les mains de n'importe qui
Dario Amodei estime que nous sommes plus proches que jamais de l'émergence de systèmes qui seraient « bien plus performants que n'importe quel lauréat du prix Nobel, homme d'État ou technologue ». Il évoque, notamment, les risques liés au bioterrorisme : « Un solitaire perturbé qui peut commettre une fusillade dans une école, mais qui n'est probablement pas capable de construire une arme nucléaire ou de répandre une épidémie... aura désormais les mêmes capacités qu'un virologue titulaire d'un doctorat », écrit-il.
De même, il rappelle que cette technologie surpuissante sera entre les mains des États, même de ceux considérés comme autoritaires. Il y a quelques jours, le dirigeant affirmait que l'exportation de puces H200 de NVIDIA en Chine revenait à « vendre des armes nucléaires à la Corée du Nord ».
Amodei cible aussi les entreprises développant les modèles, qui pourraient choisir de garder le silence sur de potentiels dangers afin de privilégier le profit. Il mentionne des agissements étranges de Claude il y a quelques mois, qu'Anthropic avait choisi de partager au grand public.
« Il y a tellement d'argent à gagner avec l'IA - littéralement des milliers de milliards de dollars par an. C'est là le piège : elle est si puissante, un enjeu si alléchant, qu'il est très difficile pour la civilisation humaine de lui imposer la moindre restriction », s'inquiète-t-il. Sans explicitement citer Grok, l'expert évoque « une négligence inquiétante envers la sexualisation des enfants dans les modèles actuels ».
Des années « incroyablement difficiles » à venir
Et ce n'est pas tout. « Je pense à la fois que l'IA va bouleverser 50 % des emplois de cols blancs débutants d'ici un à cinq ans, mais aussi que nous pourrions disposer d'une IA plus performante que n'importe qui d'ici seulement un à deux ans », souligne le P.-D.G.
Dans ce contexte, il appelle à régulation bien plus poussée de la technologie : « L'humanité doit se réveiller, et cet essai est une tentative - peut-être vaine, mais qui vaut la peine d'être tentée - pour secouer les gens et les réveiller. Les années à venir seront incroyablement difficiles et exigeront de nous plus que ce que nous pensons pouvoir donner », alerte-t-il.
De quoi rappeler les nombreuses alertes émanant du milieu de la tech en 2023, avant que l'IA ne prenne plus d'ampleur et que les voix deviennent moins audibles. Pour rappel, si la Commission européenne peine à imposer l'AI Act, l'administration Trump adopte une approche laxiste concernant l'encadrement de la technologie, en n'imposant très peu de limites aux géants du secteur. L'accent est avant tout mis sur l'innovation, mais à quel prix ?
Sources : Axios, The Financial Times
