Associations réclament l'interdiction de l'algorithme anti-fraude de la Cnaf jugé discriminant

Des associations dénoncent un algorithme discriminatoire utilisé par la Cnaf

Quinze associations, parmi lesquelles La Quadrature du Net, Amnesty International France et la Ligue des droits de l’homme, ont saisi le Conseil d’État pour demander l’interdiction d’un algorithme utilisé par la Caisse nationale d’allocations familiales (Cnaf) dans le but de détecter les fraudes parmi les allocataires. Cet algorithme attribue à chaque allocataire un score de suspicion, augmentant ainsi la probabilité d’être contrôlé en cas de score élevé. Les associations, après avoir eu accès au code source de l’algorithme utilisé entre 2014 et 2018, affirment que des critères tels que de faibles revenus, le chômage, le bénéfice du RSA ou de l’AAH, contribuent à augmenter le score de suspicion, entraînant une sur-observation des personnes en situation de précarité par rapport au reste de la population.

Les associations ont déjà demandé à la Cnaf d’arrêter l’utilisation de cet algorithme, mais n’ont pas reçu de réponse jusqu’à présent. Pour justifier l’illégalité de cet algorithme et obtenir son interdiction, ces associations avancent plusieurs arguments juridiques. Elles soulignent que le volume des données traitées par l’algorithme est disproportionné par rapport à sa finalité, ce qui violerait le règlement général sur la protection des données. De plus, l’algorithme effectue un traitement automatisé de données personnelles pour prendre des décisions, pratique interdite par la législation. Enfin, l’algorithme entraînerait une discrimination indirecte envers certains groupes d’allocataires, selon la Ligue des droits de l’homme.

Réponse de la Cnaf face aux allégations des associations

Le directeur général de la Cnaf, Nicolas Grivel, justifie l’utilisation de cet algorithme en mentionnant qu’il vise à détecter les fraudes importantes et récurrentes parmi les allocataires les plus susceptibles de faire des erreurs dans leur déclaration. En effet, les bénéficiaires de minima sociaux comme le RSA ou la prime d’activité, dont les revenus varient fréquemment, doivent remplir des déclarations de revenus trimestrielles souvent complexes et sont donc plus enclins à commettre des erreurs. Nicolas Grivel affirme également que si une décision judiciaire était prise pour faire évoluer le dispositif, la Cnaf se conformerait à cette décision.

Il est important de noter que ces allégations et contre-arguments sont au cœur d’un débat de société plus large sur l’utilisation des algorithmes dans les processus décisionnels des institutions publiques, et sur la question de la protection des données personnelles ainsi que de la potentielle discrimination que ces pratiques peuvent engendrer. Cela souligne la nécessité d’une surveillance et d’une réglementation rigoureuses pour garantir que ces technologies respectent les droits et la dignité des individus.