L'algorithme de la CAF, "un système de surveillance de masse particulièrement pernicieux" selon la Quadrature du Net ! By Corentin Béchade

L'algorithme de la CAF, "un système de surveillance de masse particulièrement pernicieux" selon la Quadrature du Net !

L'algorithme de la CAF dans le viseur de la Quadrature du Net sylv1rob1 / Shutterstock

La caisse des allocations familiales chercherait-elle à compliquer la vie des plus précaires ? C’est en tout cas ce qu’affirme un récent billet de la Quadrature du Net, association de lutte pour les libertés numériques. Après de longs mois de mobilisation, la Quadrature du Net a obtenu le code source d’un des algorithmes censé aider la CAF dans la lutte contre la fraude sociale.

Petit problème, selon l’association, cette formule « vient donner la preuve définitive du caractère discriminant des critères retenus » et cible tout particulièrement les allocataires les plus précaires, menant ainsi à une « double peine » pour « celles et ceux qui [...] traversent une période particulièrement compliquée ».
La chasse au trop-perçus
Dans le cadre de la lutte contre les algorithmes de surveillance, l’association de lutte pour les libertés numérique a donc mis à disposition publiquement deux des algorithmes utilisés par la CAF pour la détection de la fraude sociale. Les deux modèles (utilisés respectivement entre 2010 et 2014 et 2014 et 2018) avaient pour but de détecter le « score de suspicion » d’un allocataire pour estimer si un contrôle était nécessaire afin de réclamer d’éventuels trop-perçus. La version actuelle de l’algorithme n’a en revanche pas été partagée par la CAF.
D’après l’analyse de la Quadrature, « les variables socio-économiques ont un poids prépondérant dans le calcul du score ». Ainsi, parmi les critères faisant augmenter le score (et menant donc à des contrôles plus fréquents), on trouve, entre autres : le fait de disposer de revenus faibles, d’être allocataire du RSA, d’habiter dans un quartier « défavorisée » ou « de ne pas avoir de travail ou de revenus stables ». Les personnes qui touchent l’Allocation Adulte Handicapé (AAH) et qui ont un emploi seraient également particulièrement visées par l’algorithme.
Un algorithme « neutre » ?
« Désavantageant structurellement les personnes en situation de précarité », l’algorithme ferait donc partie d’un « système de surveillance de masse particulièrement pernicieux » généralisé dans de nombreuses administrations, selon La Quadrature. Face à des critiques formulées par le Défenseur des Droits, un directeur de la CAF se défendait en expliquant que « l’algorithme est neutre » et serait même « l’inverse d’une discrimination » puisque « nul ne peut expliquer pourquoi un dossier est ciblé ».
En tout, c’est près de 32 millions de personnes, dont 13 millions d’enfants vivant dans un foyer bénéficiaire des aides de la CAF qui seraient visés par l’algorithme mis en place par l’Administration. Les seuils de contrôle seraient déclenchés à partir de 600 euros de trop-perçus en deux ans, soit 25 euros par mois.

Source : [Vous devez être inscrit et connecté pour voir ce lien] & Quadrature du Net, GitLab

_________________
L'algorithme de la CAF, "un système de surveillance de masse particulièrement pernicieux" selon la Quadrature du Net ! By Corentin Béchade 16102310

le.cricket vous salue bien !

» Que faire si mon PC n’est pas compatible avec Windows 11 ? Par Corentin Bechade
» Le saviez-vous ? Le Soleil représente 99,86% de la masse totale du système solaire !
» le saviez-vous?Le Soleil représente 99,86% de la masse totale du système solaire !
» Bien CHOISIR son SMARTPHONE RECONDITIONNÉ ! (vidéo) Par Corentin Béchade
» Microsoft désactive accidentellement certaines clés de licence Windows 10/11 à cause d’un bug ! Par Corentin Béchade