La CNIL, l'ANSSI, le PEReN et Inria ouvrent les tests de PANAME, une bibliothèque logicielle open source conçue pour vérifier si un modèle d'IA retient des données personnelles issues de son entraînement, et donc s'il relève du RGPD.
Lancé en juin 2025, le projet PANAME (Privacy Auditing of AI Models) entre dans sa phase concrète : les entreprises et administrations européennes peuvent candidater jusqu'au 28 mars 2026 pour participer aux tests . L'enjeu est technique autant que réglementaire : prouver qu'un modèle d'IA ne "fuite" pas de données personnelles conditionne directement son statut au regard du RGPD.
Un problème de mémoire que l'IA dissimule mal
Depuis plus de dix ans, la recherche montre qu'un modèle d'IA peut retenir des données présentes dans son jeu d'entraînement. Concrètement, il existe deux façons d'en extraire des informations : via des techniques statistiques appliquées directement aux paramètres internes du modèle (fonction de coût, activations), ou en interrogeant directement le modèle via des prompts. Ce second risque est particulièrement visible avec les IA génératives, dont l'usage massif a rendu le problème bien plus concret pour le grand public.
Le Comité européen de la protection des données (CEPD) a posé la règle en décembre 2024 : dès lors qu'un modèle peut restituer des données personnelles, le RGPD s'applique. Pour en sortir, le fournisseur doit démontrer, tests à l'appui, que son modèle résiste aux tentatives d'extraction. Il peut alors prétendre à la qualification de modèle "anonyme". La CNIL avait déjà balisé ce terrain en publiant en avril 2024 ses premières recommandations pour concilier développement de l'IA et RGPD.
PANAME, ou comment rendre ces audits accessibles à tous
Les entreprises qui veulent tester leurs modèles se heurtent aujourd'hui à un mur : les méthodes existent dans la littérature académique, mais elles sont éparpillées, difficiles à lire pour des équipes techniques non spécialisées, et davantage pensées pour des labos plutôt que pour une mise en production. PANAME veut donc changer ça en regroupant ces méthodes dans une seule bibliothèque logicielle open source, pouvant directement être utilisée dans un environnement industriel.
D'une durée de 18 mois, le projet est piloté conjointement par la CNIL (cadrage juridique et pilotage), l'ANSSI (expertise sur les attaques), le PEReN (développement de la librairie) et le projet IPoP piloté par Inria dans le cadre du PEPR Cybersécurité (direction scientifique). Chaque partenaire apporte donc une compétence distincte, du code au droit en passant par la recherche.
