Sous la pression des algorithmes : quand contrôler les pauvres les conduit à renoncer à leurs droits

« Plus on est pauvre, plus on est surveillé, épié. »

Cette phrase lapidaire, signée du sociologue Jacques Donzelot dans la revue Esprit en 1972, a traversé le temps. Elle aurait pu être écrite aujourd’hui. Elle aurait pu, en réalité, décrire ce que Marine Lamare documente, dans son rapport de post-doctorat intitulé « Face aux contrôles des caisses d’allocations familiales : recourir ou ne plus recourir au(x) droit(s) ? ». Entre ces deux textes, il y a un demi-siècle de politiques de protection sociale et de promesses républicaines. Et pourtant, quelque chose demeure inexorablement : la suspicion à l’égard des plus fragiles et des personnes pauvres. Cette méfiance institutionalisée est aujourd’hui automatisée, « algorithmisée ».

Une surveillance qui cible ceux qui en ont le plus besoin

Il faut s’arrêter un instant sur ce que Marine Lamare nous décrit. Son enquête, conduite auprès d’allocataires contrôlés par les Caisses d’allocations familiales, révèle quelque chose de profondément paradoxal dans le fonctionnement de notre protection sociale : ceux qui perçoivent des minima sociaux ( RSA, APL, prime d’activité, AAH ) sont, du fait de leur situation même, identifiés comme des « profils à risque » par les algorithmes de la CNAF.

Ce n’est pas le comportement qui est suspect, c’est la condition sociale elle-même. Le fait d’avoir de faibles revenus, d’être au chômage, d’être mère isolée ou même d’habiter dans un quartier dit « défavorisé », voilà autant de critères qui font monter le « score de risque » attribué à chaque allocataire. Tout cela a été démontré par les travaux de la Quadrature du net et du collectif Changer de Cap pour ne citer qu’eux.

Depuis les années 2010, la CNAF utilise un algorithme qui analyse chaque mois les données personnelles de plus de 32 millions de personnes et calcule plus de 13 millions de scores. Plus le score est élevé, plus la probabilité d’être convoqué ou contrôlé à domicile est grande. Marine Lamare observeque ce dispositif est présenté comme un outil de gestion neutre et efficace alors qu’il produit une forme de surveillance différenciée. Celle-ci pèse de manière disproportionnée sur les foyers déjà les plus fragilisés.

Les familles monoparentales représentent ainsi 36% des contrôles à domicile, alors qu’elles ne constituent que 16% des foyers allocataires. La logique est circulaire : la précarité engendre l’instabilité des déclarations, l’instabilité engendre les erreurs, les erreurs engendrent les contrôles, les contrôles engendrent les sanctions. Et la boucle se referme sur celles et ceux qude la CNAF est censée protéger.

Du contrôle à la renonciation : le non-recours comme résistance silencieuse

Ce qui est peut-être le plus saisissant dans les travaux de Marine Lamare, ce sont les effets des contrôles sur les comportements des allocataires. Loin de simplement « corriger » des situations, les contrôles produisent quelque chose de plus profond : ils découragent les personnes les plus pauvres. Les contrôles à répétition les épuisent et leur font peur. La pression psychologique est immense.  Conséquence : une partie des personnes concernées préfèrent désormais renoncer à leurs droits plutôt qu’à les faire valoir.

Ce phénomène du non-recours aux droits est désormais massif et documenté. Le taux de non-recours au RSA est estimé à 34%, soit 600.000 foyers chaque trimestre représentant environ 3 milliards d’euros non versés. Une aubaine pour l’Etat et les Départements en ces temps de restrictions budgétaires. Le taux de non-recours à la prime d’activité atteint 39%, et celui de la complémentaire santé solidaire 44%. Ces chiffres ne sont pas le simple reflet d’une méconnaissance des droits. Claire Hédon, Défenseure des droits, le dit avec force :  » Ce n’est pas tant la méconnaissance des droits que des difficultés à les faire valoir « .

« Ce sont des personnes qui commencent les démarches et qui, devant les difficultés, les abandonnent. » Elle ajoute, à partir d’un cas emblématique qui lui a été signalé, qu’une femme ayant subi trois contrôles dans l’année s’est vue répondre par la CAF : « Vous avez 40 ans, vous êtes une femme seule. Ce n’est pas normal que vous soyez seule. » Et la Défenseure des droits de conclure : « Au bout d’un moment, ce contrôle peut être dissuasif d’accéder à ses droits. »

Le CNLE (Conseil national de lutte contre les exclusions) l’a formulé dans son avis de mars 2024 avec une précision clinique : « Ces contrôles répétés et leurs conséquences peuvent conduire les personnes à renoncer à faire valoir leurs droits. Ils augmentent le risque de non-recours. » Ce que les chercheurs et les institutions nomment sobrement « non-recours » est, pour ceux qui le vivent, une capitulation face à une machine administrative vécue comme punitive, incompréhensible et humiliante.

Les « sanctions de fait » : une violence discrète mais bien réelle

Marine Lamare insiste sur les effets concrets des contrôles. Ils vont bien au-delà de la simple vérification administrative. La suspension des prestations, parfois sans préavis, souvent sans motivation explicite, constitue ce que le CNLE appelle une « sanction de fait ». Ces suspensions, déclenchées automatiquement par les systèmes informatiques lors de la détection d’une incohérence dans les déclarations, plongent instantanément des familles entières dans une précarité encore plus profonde. Le CNLE rapporte le cas d’une famille de six personnes dont les allocations sont passées de 3.143 euros à 1.108 euros en un seul mois pour solder un indu.

Au cœur du dispositif, l’allocataire s’installe dans une peur permanente. C’est la peur d’un courrier qui suspend les allocations ou celle d’un contrôleur qui frappe à tout moment à la porte. Mais c’est surtout la peur de se retrouver avec une dette impossible à rembourser. Une membre du 5e collège du CNLE le dit dans des mots qui ne laissent pas indifférent : « La précarité, ça signifie aussi pour nous le sentiment permanent d’insécurité. On ne sait pas si oui ou non, cet argent qui nous a été versé nous sera repris. Des sommes comme 50€, 20€, parfois même 10€ peuvent mettre à mal toute notre organisation pour survivre. »

La Défenseure des droits Claire Hédon est intervenue à plusieurs reprises sur ces pratiques. Dans une décision du 26 juin 2024 (n° 2024-075), elle a rappelé qu’une CAF ne peut suspendre des prestations sans motivation en fait et en droit, sans respecter la procédure de contrôle et sans garantir un « reste à vivre » au foyer. Elle y souligne que la suspension de la totalité des prestations d’une mère de famille, sans notification préalable, avait porté atteinte à l’intérêt supérieur de ses trois enfants. Cette décision est loin d’être isolée. Elle révèle des pratiques systémiques qui, selon la Défenseure, s’appuient sur le Préambule de la Constitution de 1946 garantissant à tout être humain « des moyens convenables d’existence » — un droit fondamental que les suspensions administratives automatiques viennent quotidiennement bousculer.

L’algorithme comme fabrique de la suspicion

En octobre 2024, quinze organisations de la société civile dont Amnesty International, la Ligue des droits de l’Homme, l’ANAS (Association nationale des assistants de service social), la Fondation Abbé Pierre, Changer de Cap et La Quadrature du Net ont saisi le Conseil d’État pour demander l’arrêt de l’algorithme de notation de la CNAF. C’est la première fois qu’un recours en justice est porté contre un algorithme de ciblage d’un organisme de service public. En janvier 2026, la coalition s’est élargie à 25 organisations, au moment même où la CNAF, sous la pression, rendait enfin public le code source de son algorithme.

Dans ses observations transmises à la justice en octobre 2025, la Défenseure des droits a confirmé le caractère discriminatoire du dispositif : l’algorithme « paraît produire un surcontrôle des populations les plus précaires et donc constituer une différence de traitement fondée sur la particulière vulnérabilité économique. Une présomption de discrimination indirecte semble établie ».

Une étude interne de la CNAF datant de 2025, versée au dossier, a elle-même reconnu les effets discriminatoires de l’algorithme. Ces aveux tardifs et partiels ne dissipent pas pour autant la question centrale : comment un organisme de service public, dont la mission première est d’assurer l’accès aux droits, a-t-il pu pendant quinze ans utiliser un outil qui criminalise structurellement la pauvreté ?

Quelles possibilités pour les allocataires ?

Marine Lamare, dans son rapport, en identifie plusieurs positionnements mais elles sont toutes imparfaites, et surtout épuisantes. La première est de se soumettre au contrôle, de fournir les justificatifs demandés, d’espérer que la situation se régularise sans trop de dégâts.

La deuxième est d’engager un recours : d’abord la Commission de recours amiable (CRA) auprès de la CAF, puis, en cas d’échec, le Tribunal. Ces voies de recours existent. Elles sont très peu empruntées, non par ignorance, mais parce que les démarches sont complexes, longues, épuisantes pour des personnes déjà à bout. Des avocats spécialisés comme Maître Clément Terrasson, cité dans les travaux de la Quadrature du Net, soulignent qu’il est « impossible de se défendre face à une accusation dont on ignore tout » — les motifs des décisions étant souvent opaques ou absents.

La troisième option, documentée par Marine Lamare et confirmée par les chiffres du non-recours, est la plus silencieuse et la plus préoccupante : le renoncement. Renoncer à demander, renoncer à contester, renoncer à exister dans le système. Pour le CNLE, cette renonciation est une « sanction de fait » supplémentaire, qui s’ajoute aux autres et prive la protection sociale de son sens profond. Elle produit une invisibilisation des plus précaires, une déperdition des fonds publics destinés à ceux qui en ont le plus besoin, et une érosion de la confiance dans les institutions qui sont « perçues de plus en plus comme punitives et non comme aidantes », note le baromètre du CNLE.

Un phénomène qui traverse l’Europe

Cette logique de surveillance algorithmique des allocataires n’est pas une exception française. Le rapport 2024 d’Amnesty International révèle une tendance de fond en Europe.

Au Danemark, le système d’aide sociale utilise 60 modèles algorithmiques pour détecter les fraudes. Il cible de manière disproportionnée les personnes âgées, handicapées et celles ayant des liens avec des pays étrangers.

Aux Pays-Bas, le scandale du toeslagenaffaire a fait tomber un gouvernement en 2021 : environ 26.000 parents, ciblés par un algorithme fiscal, ont été accusés à tort de fraude aux allocations familiales, contraints de rembourser des dizaines de milliers d’euros, certains perdant leur logement ou leur famille. L’algorithme intégrait le fait de posséder une double nationalité comme critère de suspicion. Ce scandale a obligé les Pays-Bas à une remise en question profonde, et le tribunal de district de La Haye a rendu en 2021 une décision historique interdisant l’utilisation de systèmes de détection des fraudes sociaux automatisés sans garanties explicites en matière de droits humains.

En Allemagne, le système Hartz IV,  longtemps cité en modèle, a finalement été jugé contraire à la dignité humaine par la Cour constitutionnelle en 2019. Il a été abrogé en 2023 par le gouvernement Scholz qui lui a substitué le Bürgergeld, fondé sur une égale coopération entre conseillers et bénéficiaires. La Cour constitutionnelle allemande y a clairement posé les limites : les sanctions ne peuvent dépasser 30% de l’allocation et doivent être abandonnées si elles s’avèrent d’une « dureté extrême ». Une leçon que la France n’a pas encore pleinement intégrée.

Ce que tout cela nous dit du travail social

Au-delà de la question algorithmique et juridique, les travaux de Marine Lamare interrogent le rôle des travailleurs sociaux dans ce système. Ce sont eux  ( assistants de service social, éducateurs, conseillers en insertion ) qui se trouvent en première ligne face à des personnes dont les droits ont été suspendus voire supprimés. Leur confiance dans les institutions s’est effondrée. Ce sont eux qui doivent reconstruire du lien, expliquer des décisions incompréhensibles. Ils accompagnent les personnes dans des recours épuisants. Ils et elles maintiennent une présence humaine là où la dématérialisation a laissé des allocataires sans aucun droit..

Le rapport sur les algorithmes, les systèmes d’IA et les services publics publié par la Défenseure des droits en novembre 2024 appellait à ce que les usagers disposent de voies de recours réelles face aux décisions automatisées. Elle précisait que les professionnels de l’accompagnement devaient être formés à ces enjeux. La question n’est pas seulement technique ou juridique. Elle est éthique. Elle interroge ce que nous voulons faire de notre protection sociale : un droit ou une faveur accordée sous conditions et sous surveillance dans une logique de suspicion systématique.

Marine Lamare nous dit, en définitive que la politique de contrôle des CAF, telle qu’elle est conçue et mise en œuvre, produit l’inverse de ce qu’elle prétend poursuivre. En cherchant à éviter les indus et à lutter contre la fraude, elle génère du non-recours et de la souffrance sociale. Pire, elle entérine les logiques de méfiance systémique sans oublier les multiples injustices dont se plaignent de nombreux allocataires. Et ce, pour un résultat financier que le CNLE met en perspective avec lucidité : en 2022, la fraude détectée aux prestations de la CNAF représentait 351 millions d’euros, soit 0,35% des prestations versées. Au même moment  la fraude fiscale des particuliers et des entreprises atteignait plusieurs milliards. La disproportion entre la surveillance exercée sur les pauvres et celle exercée sur les autres dit quelque chose de profond sur nos choix collectifs. Jacques Donzelot avait raison en 1972. Il a, malheureusement, encore raison aujourd’hui.

Sources :

• Face aux contrôles des caisses d’allocations familiales : recourir ou ne plus recourir au(x) droit(s) ? | Marine Lamare, Hal Science
• La Défenseure des droits s’alarme de l’« industrialisation » de la lutte contre la fraude sociale | Le Monde
• Avis sur les sanctions : Le point de vue du vécu, mars 2024 | CNLE
• Mémoire introductif contre l’algorithme CNAF, Conseil d’État, octobre 2024 | La Quadrature du Net
• Les algorithmes des systèmes de protection sociale accentuent les discriminations en Europe, octobre 2024 | Amnesty International
• Pays-Bas. Scandale des allocations familiales : un avertissement qui montre l’urgence d’interdire les algorithmes racistes | Amnesty International
• L’affaire des allocations familiales (en néerlandais : toeslagenaffaire) | Wikipedia

✍️ Sur ce blog — mes articles sur le même sujet

• Remettre l’humain et le droit au cœur de l’action des CAF (décembre 2022)
• 32 millions de contrôles CAF automatisés — algorithmes et contrôle social (décembre 2022)
• Le datamining : tout comprendre du « scoring » des allocataires des CAF (juin 2023)
• Discrimination numérique : le fléau des algorithmes de la CNAF (décembre 2023)
• Quinze organisations attaquent l’algorithme de notation de la CAF devant le Conseil d’État (octobre 2024)
• Pour en finir avec la fraude aux prestations sociales : les allocataires des minimas sociaux sont ceux qui trinquent (avril 2024)
• Les algorithmes de la honte : quand les États déshumanisent la solidarité (octobre 2024)
• Des assistantes sociales démissionnent face à la politique répressive d’un département (septembre 2025)
• Pour en finir avec la fraude sociale, il faut d’abord dire la vérité (août 2025)

Photo d’illustration générée par IA. Le personnage est fictif