Accusée par La Quadrature du Net d’avoir mis en place un système qui défavorise les allocataires les plus précaires, la Caisse des Allocations Familiales tente de se défendre.
La polémique a suffisamment enflé pour mériter une réponse. Alors qu’il y a quelques jours, La Quadrature du Net, association de défense pour les libertés numériques, pointait du doigt l’algorithme utilisé par la CAF en raison de biais, l’organisme a publié une longue mise au point sur X/Twitter où il se défend de toutes discriminations.
« Classer » pas « surveiller »
Arguant que « l’accompagnement des allocataires mérite un débat serein et documenté », la Caisse des Allocations Familiales a livré sa version des faits. Les algorithmes, que la Quadrature accuse d’entretenir un « score de suspicion », ne sont pas là pour « surveiller les allocataires », mais plutôt pour « classer les dossiers » comportant d’éventuelles erreurs afin de « garantir des droits justes et éviter des remboursements postérieurs importants ».
Ces algorithmes ne sont d’ailleurs pas « opaques » selon la CAF, mais « confidentiel pour ne pas faciliter la fraude ». Leur fonctionnement a été déclaré à la CNIL et la Commission d’Accès aux Documents Administratif (CADA) a confirmé le bien-fondé de ce fonctionnement, justifie l’organisme.
Enfin, l’algorithme ne « discrimine » pas les allocataires les plus pauvres, mais, puisque la CAF verse plus d’aides à cette catégorie de la population, elle est mécaniquement « surreprésentées » donc plus sujette aux erreurs. Pour gommer le côté répressif du contrôle, la caisse explique même que « 31 % des régularisations post contrôles sont en faveur de l’allocataire qui reçoit un complément financier ».
Un algorithme trop « confidentiel » ?
Malheureusement, l’organisme ne revient pas sur le fond du problème, à savoir les critères qui poussent l’algorithme à encourager les contrôles de certains profils plutôt que d’autres. L’algorithme étant « confidentiel », impossible de vérifier les dires de la CAF.
Surtout, la réponse publiée sur Twitter survole le problème plus politique soulevé par La Quadrature du Net. Pour l’association, « il ne peut exister de modèle de l’algorithme qui ne cible pas les plus défavorisé·es » puisque l’algorithme s’est précisément fondé sur « sur l’observation des indus et non sur celle des indus frauduleux », expliquait Daniel Buchet, directeur de la maîtrise des risques et de la lutte contre la fraude à la CAF, en 2010.
À demi-mot, la caisse confirme d’ailleurs ce fonctionnement puisqu’elle avoue que les profils les plus précaires concentrent plus de risques d’erreurs et que, mathématiquement, si 31 % des régularisations « sont en faveur de l’allocataire », 69 % sont soit neutres, soit en défaveur des personnes visées.
Une clause de revoyure au printemps 2024
Ces trop-perçus s’expliquent d’ailleurs souvent par « des erreurs déclaratives involontaires » dues au fait que « ces prestations sont encadrées par des règles complexes […] multipliant les risques d’erreurs possibles », avance La Quadrature du Net. Un argument confirmé par Daniel Buchet qui expliquait en 2005 que « ce sont les prestations sociales elles-mêmes qui génèrent le risque » puisqu’elles sont « à la fois dans leurs conditions d’attribution et dans leurs montants, liées à de nombreux éléments de la situation de l’usager, très variable dans le temps, et donc très instable ».
Pour tenter d’éteindre le feu, la CAF a tout de même expliqué travailler « avec des sociologues, datascientists et autres spécialistes pour mieux faire connaitre et adapter […] sa pratique des algorithmes ». Une clause de revoyure a été fixée au printemps 2024 pour évaluer les modifications à potentiellement apporter à cette méthodologie.
Journaliste depuis quasiment 10 ans, j’ai écumé le secteur de la tech et du numérique depuis mes tout premiers chapôs. Bidouilleur (beaucoup), libriste (un peu), j’ai développé une spécialisation sur les thèmes de l’écologie et du numérique ainsi que sur la protection de la vie privée. Le week-end je torture des Raspberry Pi à grands coups de commandes 'sudo' pour me détendre.
Lire d'autres articles
