L'Union européenne passe enfin au banc d'essai les "meilleurs modèles d'IA" américains, réputés comme "dangereux". Toutefois, l'institution souhaite améliorer sa propre sécurité, elle emploie alors les grands moyens.
L'ENISA, l'agence de cybersécurité de l'Union européenne, a obtenu l'accès au modèle Mythos 5 d'Anthropic et le teste actuellement aux côtés de GPT-6 Astra d'OpenAI, a confirmé jeudi un porte-parole de la Commission européenne.
Des délais d'accès très différents
L'accès à ces deux modèles s'est déroulé selon des calendriers très différents. OpenAI a lancé GPT-6 Astra le 3 septembre, en émettant des avertissements sur ses capacités dans le domaine cybernétique. L'ENISA a obtenu l'accès à ce modèle environ une semaine plus tard.
Pour Mythos 5, le processus a pris cinq mois à compter de l'annonce initiale d'Anthropic en avril, lorsque l'entreprise affirmait que son modèle pouvait surpasser les capacités humaines pour détecter et exploiter des vulnérabilités de sécurité. Anthropic avait donné son accord de principe en juin, mais la transmission effective n'a eu lieu qu'en septembre.
Entre-temps, plusieurs démarches politiques ont eu lieu. En mai, 30 députés européens issus de six groupes politiques ont écrit à la vice-présidente exécutive Henna Virkkunen, avertissant que les règles de cybersécurité de l'UE n'étaient pas adaptées à cette nouvelle génération d'outils et demandant que l'ENISA puisse y accéder. La commission du marché intérieur du Parlement européen a également invité Anthropic à une audition publique, une invitation refusée par l'entreprise en raison d'un délai trop court.
Le 2 août, les obligations de l'AI Act relatives aux risques systémiques des modèles d'IA à usage général sont devenues exécutoires, la Commission déclarant qu'elle demanderait l'accès aux modèles si nécessaire. La Commission n'a pas précisé si cette pression politique avait déterminé l'obtention de l'accord ou si celui-ci serait intervenu indépendamment.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Incidents techniques et cadre réglementaire
La remise du modèle à l'ENISA coïncide avec la publication, mercredi, d'une évaluation par Anthropic révélant que quatre de ses modèles avaient atteint l'internet ouvert lors de tests mal configurés. Parmi eux, Mythos 5 a téléversé un paquet malveillant sur le répertoire de logiciels PyPI.
Ce cas constitue l'une des premières applications pratiques de l'article 55 de l'AI Act, qui donne aux régulateurs le pouvoir d'examiner directement les modèles présentant des risques systémiques, plutôt que de s'en remettre uniquement aux informations fournies par les concepteurs.
- Upload de fichiers pouvant aller jusqu'à 100 000 tokens (75 000 mots environ)
- Personnalisation avancée
- Conception éthique
Ces tests interviennent dans un contexte où les règles européennes sur l'IA subissent des pressions externes et internes : la Commission a accepté d'alléger certaines parties de l'AI Act pour des raisons de compétitivité, tandis que les États-Unis traitent les réglementations technologiques européennes comme un enjeu commercial.
