L’utilisation d’algorithmes par les administrations publiques soulève des questions éthiques importantes. C’est le cas avec ce qui se passe actuellement dans les Caisses d’Allocations Familiales (CAF) qui ont vu l’instauration d’un système de notation des allocataires susceptibles de frauder. Ce système « embarque » dans ses calculs des familles qui n’ont rien à se reprocher, mais qui voient leurs prestations suspendues. Il leur est alors demandé de rembourser des indus importants qu’elles ne peuvent honorer.
Pas moins de 30 organisations et associations dont l’ANAS, ATD Quart Monde, Le collectif Alerte, Emmaüs, le Gisti, pour ne citer qu’eux viennent d’adresser une lettre ouverte au Premier ministre Gabriel Attal. Le Collectif Changer de Cap à l’initiative de cette démarche a récemment révélé avec la Quadrature du Net cette mécanique assez infernale des algorithmes CAF, qui mettent en difficulté aussi bien les familles que les travailleurs sociaux qui les aident.
L’emploi de l’algorithme de ciblage et de profilage par les CAF pour identifier les allocataires considérés à risque de fraude provoquent de multiples indus. Cette pratique, officiellement motivée par la volonté de rationaliser les contrôles et de prévenir les abus, mettent les familles en difficulté et fragilisent les populations les plus vulnérables. Elle provoque aussi du non recours aux droits. Tout cela a été documenté dans un dossier remis à la direction de la CNAF.
Une disproportion des contrôles ciblés
Les associations signataires de la lettre dénoncent une pratique discriminatoire, qui cible de manière disproportionnée les individus et les familles déjà en situation de précarité. Cela concerne principalement les personnes touchant de l’Allocation aux Adultes Handicapés (AAH), les femmes seules avec enfants, les allocataires du Revenu de Solidarité Active (RSA), et au final tout ménage qui dispose de revenus irréguliers. Ces groupes, parmi les plus fragiles de la société, se retrouvent ainsi doublement pénalisés, non seulement par leur situation socio-économique, mais également par un système qui les préjuge coupables à priori. L’usage de tels algorithmes, en l’absence de transparence et de contrôles adéquats, pose la question fondamentale du respect des droits individuels et de la justice sociale.
La lettre ouverte ne se limite pas à critiquer l’usage discriminatoire des algorithmes ; elle met aussi en avant les conséquences déshumanisantes de la dématérialisation à outrance des services publics. Les auteurs de la lettre soulignent les difficultés rencontrées par les allocataires, confrontés à des suspensions automatiques de droits, à l’absence d’interlocuteurs physiques et à une opacité administrative. Ces pratiques, loin d’être de simples désagréments, ont des répercussions concrètes et parfois dramatiques sur la vie des personnes : impayés de loyer, difficultés à nourrir sa famille, détresse psychologique. Ces situations de non-droit, mettent les familles dans des situations souvent ingérables. Elles se retrouvent pris au piège d’un système qu’elles ne comprennent pas et qui ne semble pas les comprendre : « Les dérives liées à la dématérialisation se traduisent par des situations inextricables laissant des personnes sans aucune ressource (…), une maltraitance institutionnelle porteuse de multiples conséquences sur le plan matériel et psychologique dont ne semblent pas avoir conscience les autorités de tutelle » précise le communiqué.
Il faut Changer de Cap. Oui, mais comment ?
La lettre ouverte adressée au Premier ministre formule plusieurs propositions concrètes pour réformer les pratiques actuelles des Caisses d’Allocations Familiales et garantir le respect des droits des allocataires. Ces propositions s’articulent autour de cinq axes principaux, reflétant une volonté de rendre l’administration plus juste, transparente, accessible et humaine tout en respectant la dignité de chaque individu. Voici un résumé des propositions majeures émises par le collectif :
- Renoncer à l’utilisation des algorithmes de notation discriminatoires : Cette première proposition cherche à mettre fin à l’emploi d’algorithmes attribuant un score de risque aux allocataires, ce qui conduit à des contrôles ciblés et discriminatoires. Les associations demandent une réorientation des contrôles vers le conseil et l’accompagnement pour l’accès aux droits, plutôt que vers la sanction et la récupération d’indus. Cette mesure s’inscrit dans le respect du Règlement Général sur la Protection des Données (RGPD) et des principes de justice équitable.
- Instaurer un contrôle de légalité indépendant : Les signataires appellent à la mise en place d’un contrôle externe et indépendant sur les pratiques et les procédures des CAF, afin de vérifier la conformité des outils informatiques utilisés avec le Code des relations entre le public et l’administration, le RGPD, et les principes d’une justice équitable. Ce contrôle vise également à assurer la transparence et la non-discrimination dans le traitement automatisé des données.
- Interdire les décisions et les suspensions automatiques de droits : il s’agit des pratiques consistant à suspendre automatiquement les droits des allocataires sans procédure contradictoire préalable. Elle préconise une explicitation systématique des calculs réalisés en cas d’indus et le respect des dispositions légales en matière de notifications, de motivations, et d’informations sur les recours disponibles.
- Instaurer un principe de libre choix pour l’usager : « Changer de Cap » souligne l’importance de permettre à chaque allocataire de choisir son mode de relation avec l’administration, qu’il soit numérique ou humain. Cette proposition implique le recrutement d’agents CAF qualifiés et disponibles pour assurer un accès effectif aux droits, en particulier pour les personnes en situation de précarité. On ne peut laisser les ménages qui ne maitrisent pas l’internet ni les plateformes seuls face à des systèmes automatisés.
- Rendre publiques et intelligibles les règles de financement et de conditionnalité des prestations : Enfin, la plateforme demande que les règles régissant les prestations sociales soient clairement publiées et expliquées, afin que les citoyens puissent les comprendre et s’y conformer. Cette transparence est jugée indispensable pour garantir l’accès aux droits et renforcer la confiance dans les institutions.
Ces propositions de « Changer de Cap » visent aussi à engager un large débat public sur l’usage des algorithmes dans l’administration et sur les orientations futures des CAF. Le but est de faire évoluer leurs pratiques vers plus d’équité et de respect des droits des allocataires. C’est pourquoi le Collectif en interpelant Gabriel Attal et en lui demandant un rendez-vous souhaite aller plus loin pour que la CNAF accepte de bouger en modifiant ses pratiques.
Vous êtes invité(e)s à soutenir cette initiative en venant signer en ligne cette lettre ouverte en tant que citoyen ou représentant d’une association. Comment ? en allant sur le site de Changer de Cap, en bas de la lettre à Gabriel Attal.
Il est important que les travailleurs sociaux se mobilisent. Plus nous serons nombreux, plus cette démarche aura du poids.
Prendre connaissance et signer la lettre à Gabriel Attal
Organisations, associations et collectifs signataires :
Adéquations, Aequitaz, AMPIL (Action Méditerranéenne pour l’insertion par le Logement), ANAS (Association nationale des assistants de service social), APF France Handicap, APICED, AFVS (Association française des victimes du saturnisme), Association Solidarité Jean Merlin, ATD Quart Monde, AU 68 Associations unies du Haut-Rhin, CGT INSEE-Genes, CNAFAL (Comité national des associations de familles laïques), Collectif Alerte, Collectif Changer de cap, , Emmaüs France, Fondation Abbé Pierre, GISTI Groupe d’information et de soutien des immigrés, Handi-social, La Cimade, La case de santé Toulouse, La Quadrature du Net, Le Mouton Numérique, Ligue des Droits de l’Homme, MCM (Maison de la Citoyenneté mondiale Mulhouse), MNCP (Mouvement national des chômeurs et précaires), MFRB (Mouvement français pour un revenu de base), Mouvement Utopia Réseau Hospitalité Marseille, CNDH-Romeurope, RSA 38, Secours catholique, Stop précarité
Lire aussi sur ce sujet
- L’outil informatique cible les plus fragiles et leur impose des contrôles à répétition | Changer de Cap
- Maltraitance institutionnelle, illégalités, vies broyées (dossier) | Changer de Cap
- De l’utilisation des algorithmes dans les politiques de contrôle | Changer de Cap
Sur ce blog :
- « Changer de cap » face à la dématérialisation : du cabinet d’Aurore Bergé à l’Assemblée Nationale
- Discrimination numérique : Le fléau des algorithmes de la CNAF confirmé (AAH, RSA, familles monoparentales)
- La Caisse Nationale des Allocations Familiales va-t-elle changer de cap ?
- Changer de cap : la Caisse Nationale d’Allocations Familiale défend son projet et laisse une porte ouverte aux discussions
- Le datamining : tout comprendre du « scoring » des allocataires des CAF
- Le datamining de la CAF : un outil de surveillance généralisé qui pénalise les plus pauvres
- Françoise, technicienne conseil à la CAF : « je suis dans une usine à gaz »
- Remettre l’humain au cœur de l’action des Caisses d’Allocations Familiales
- Algorithmes et contrôle social : 32 millions de contrôles CAF automatisés en 2020
- Peut-on prévoir la maltraitance d’un jeune enfant grâce à un algorithme ?
- « Nous dialoguons avec des algorithmes ! » Retrouver le sens du travail face au « solutionisme » numérique ?
- Comment l’intelligence artificielle et le Big Data peuvent « automatiser » les inégalités…
- Comment un robot de la CAF provoque des dettes automatisées au détriment de ses allocataires
- L’intelligence artificielle est-elle le futur du travail social ?
Et ailleurs (sélection) :
- Notation des allocataires : l’indécence des pratiques de la CAF désormais indéniable | La Quadrature du Net
- Est-ce que l’algorithme des CAF pénalise les plus vulnérables ? Comprendre en trois minutes | Le Monde
- Dans la vie de Juliette, mère isolée, précaire, et cible de l’algorithme des CAF | Le Monde
- Algorithme des CAF : le département de Seine-Saint-Denis saisit la Défenseure des droits | Le Monde
- ATD Quart Monde dénonce l’utilisation d’algorithmes « pauvrophobes » par la CNAF | ATD Quart Monde
- Les CAF mènent-elles une chasse aux pauvres avec leur algorithme ? Le gouvernement dément | Huffington Post
- Fraude aux allocations familiales : la CAF utilise bien des algorithmes qui ciblent les plus précaires, selon La Quadrature du Net | 01net
- Comment l’algorithme de la CAF prédit si vous êtes à risque de frauder | Le Monde
Photo : l’entrée de la CAF à Saint-Nazaire (DD)
Note : je suis membre adhérent du collectif Changer de Cap
2 Responses
Enfin une réaction des travailleurs sociaux alors que le social est absent des cadrans depuis plusieurs années si ce n’est pour stygmatiser les personnes qui tentent de vivre avec les aides sociales
pour le logement rien, et encore moins pour les personnes à la rue !!!
mettons les politiques une nuit dehors sans protection et ils mesureront peut-etre ce que vivent ces Personnes !!!
Si l’état mettait autant de zèle à éradiquer la fraude fiscale qu’à rechercher les fraudeurs aux prestations sociales, la dette serait un lointain souvenir