Développer une nouvelle arme chimique avec une intelligence artificielle, créer de nouvelles menaces, c'est possible ? Fort heureusement, non, mais avec de nouveaux modèles de plus en plus puissants, le risque pourrait arriver, et Anthropic veut lutter contre cela.
Anthropic a rendu publics deux documents de politique générale dans lesquels elle appelle les gouvernements à se doter d'une autorité légale pour bloquer le déploiement de systèmes d'intelligence artificielle jugés dangereux, et à mettre en place des protections économiques pour les travailleurs exposés aux effets de la transformation du marché du travail par l'IA.
Un cadre réglementaire important
C'est le volet sécurité qui est le plus contraignant des deux. Anthropic y propose que les gouvernements puissent bloquer ou décourager le déploiement de modèles présentant un "risque significatif de préjudice catastrophique". Ce, assorti de sanctions civiles indexées sur le chiffre d'affaires mondial annuel des entreprises concernées, des pénalités qui s'alourdiraient en cas de récidive.
Ce cadre ne s'appliquerait qu'aux modèles entraînés à partir de plus de 10²⁵ opérations en virgule flottante, développés par des entreprises réalisant plus de 500 millions de dollars de revenus liés à l'IA ou dépensant plus d'un milliard de dollars en recherche et développement dans ce secteur.
Un seuil qui ne concerne qu'une poignée d'acteurs, Anthropic elle-même, OpenAI, Google DeepMind, xAI, et potentiellement Meta. En plaidant pour une régulation qui s'appliquerait directement à ses propres activités, Anthropic adopte une posture qu'elle a déjà utilisée par le passé pour se distinguer des concurrents qui font pression contre toute forme de supervision réglementaire, au lieu de se prendre une amende record cette fois-ci.
Quatre catégories de risques identifiées
Le document identifie quatre types de risques catastrophiques. Lesquelles sont le développement d'armes biologiques, la découverte à grande échelle de vulnérabilités dans des systèmes informatiques critiques, la perte de contrôle sur des systèmes autonomes, et l'automatisation par l'IA de sa propre recherche et développement.
Pour illustrer le fait que ces risques ne sont pas purement théoriques, Anthropic cite sa propre expérience avec Mythos Preview, un modèle qui aurait découvert des milliers de vulnérabilités graves dans l'ensemble des principaux systèmes d'exploitation et navigateurs web.
Les développeurs de modèles dits "frontier", c'est-à-dire à la limite des capacités actuelles, seraient tenus de tester leurs modèles, de publier des résumés de ces évaluations, de se soumettre à des audits indépendants, de maintenir des programmes de sécurité et de publier des rapports réguliers sur les risques identifiés. Pour Anthropic, la transparence seule ne suffit plus.
Des règles claires contre les suppressions de postes
Anthropic dévoile un second document sur le cadre économique. Il part d'un constat simple, l'IA va détruire ou transformer un grand nombre d'emplois, et la question de savoir qui va profiter de cette révolution économique, et qui va en payer le prix, est déjà source de tensions, y compris chez les jeunes diplômés américains.
Pour y répondre, Anthropic avance plusieurs idées. La première, c'est la création de comptes en capital individuel. Il s'agirait de dotations financières attribuées aux travailleurs pour qu'ils puissent se former ou se reconvertir. Une assurance-salaire ensuite, qui compenserait partiellement la perte de revenus pour quelqu'un contraint d'accepter un emploi moins bien payé après avoir été remplacé par l'IA. Des incitations fiscales pour les entreprises qui jouent le jeu de la transition. Et un renforcement des aides sociales existantes pour ceux qui se retrouveraient sans emploi.
L'idée générale est que les gains économiques générés par l'IA ne doivent pas se concentrer uniquement entre les mains de quelques grandes entreprises de la tech. Toutefois, Anthropic ne dit pas précisément comment tout cela serait financé ni qui serait chargé de le mettre en œuvre. Ce volet du document ressemble davantage à une liste d'intentions qu'à un plan concret facilement applicables par un gouvernement.
Source : TheNextWeb
