Comment un robot de la CAF provoque des dettes automatisées au détriment de ses allocataires

C’est en allant sur un site international d’observation des incidents liés aux algorithmes que j’ai découvert que la France et son système automatique de prévention des fraudes est montré du doigt. L’incident numéro 100 est intitulé « How French welfare services are creating ‘robo-debt’ » ou si vous préférez « comment le service d’aide sociale français créé de la dette avec son robot »

Lorsque les algorithmes automatisés de détection des fraudes trouve une incohérence administrative, les services de la CAF peuvent exiger à tort le remboursement des prestations. Au cours des cinq dernières années, plusieurs scandales ont montré l’ampleur du problème dans différents pays. En Australie, 400 000 personnes ont été placées en « dette automatisée », 40 000 dans le Michigan… . La journaliste Lucie Inland explique comment la CAF en France l’a automatiquement endettée et comment elle a fait face  ce problème.

La Caisse d’Allocations Familiale propose des explications sur sa pratique sur son site internet. Sous le titre « Contrôles Caf : stop aux idées reçues », une page publiée en septembre 2020 dit que les contrôles profitent aux allocataires des minimas sociaux. Des « contrôles automatisés » ainsi qu’un « modèle statistique appelé « datamining » (sic), cible automatiquement les cas à risque ».

La page indique également que « vous pouvez éviter d’avoir une dette vis-à-vis de la Caf en déclarant systématiquement, et sans attendre, tout changement de situation (mariage, divorce, évolution de salaire…) ». Sauf que dans de nombreux cas, des allocataires ont une dette qui leur est  notifiée précisément parce qu’ils ont indiqué un changement de situation même en respectant les délais.

La CAF utilise le data mining depuis 2012. Le système est responsable de trois contrôles sur quatre. La prestation la plus contrôlée en 2021 est celle qui aide les allocataires à payer leur loyer. Le récit d’une allocataire de la CAF permet de mieux comprendre comment les demandes de remboursement automatisées arrivent, car dans les fait vous êtes considéré(e) comme coupable a priori. Il vous faut prouver votre bonne fois même en cas d’erreur.

La douloureuse expérience de Lucie Inland

« Je vis seule et, comme beaucoup de ma génération, je fais partie des « précaires ». À ce titre, je perçois plusieurs prestations sociales. La CAF paie une partie de mon loyer et m’accorde le RSA. J’ai travaillé en tant qu’employée,  je me suis inscrit en tant qu’indépendant en 2020. Je n’ai jamais eu de problème avec la CAF. Je leur envoie régulièrement mes déclarations trimestrielles de ressource. Je sais que ma situation peut être vérifiée, soit par les services sociaux, soit par la CAF, soit par le fisc.

Le 17 mars 2021, la CAF m’envoie un mail me demandant de nouvelles informations, suite à la dernière réforme des prestations.  Bien que je doive envoyer l’équivalent d’un an de documents sur mes revenus, je me plie à la demande. J’envoie les documents ainsi qu’une explication écrite de ma situation.

Le lendemain, je reçois deux e-mails me demandant de soumettre, à nouveau, les mêmes documents. De plus, il m’est indiqué que je dois 542 euros et que le montant sera automatiquement prélevé sur mes prochaines mensualités, à hauteur de 60 euros chaque mois. Ce n’est pas le genre de montant que je peux me permettre d’épargner. Malgré ma surprise et, soyons honnête, ma rage, je constate ce qui ne va pas. La CAF n’a pris en compte que mon statut d’indépendant et a ignoré mon ancien travail salarié. Cela change à mon grand détriment la façon dont mes prestations sont calculées.  J’explique l’erreur dans un e-mail et prends un rendez-vous téléphonique avec mon assistante sociale pour le 26 mars.

Quelques heures plus tard, je reçois un message sur ma boîte aux lettres. Il me dit que ma dette est annulée et que l’incident est clos. Je me suis sentie soulagée après ces quelques émotions qui m’ont provoqué des palpitations. J’ai voulu savoir comment une telle erreur pouvait arriver ». 

Et c’est là que cela devient édifiant…

« Lors de mon entretien téléphonique le 26 mars, ma référente CAF confirme que « le logiciel » a analysé mon dossier automatiquement, à l’aide de « paramètres ». Mon cas est apparemment devenu « trop complexe » lorsque je les ai informés que j’avais commencé à travailler en indépendant. Il a été entièrement réinitialisé, d’où l’e-mail me demandant de télécharger l’équivalent d’un an de documents. Malgré les réponses de ma référente, je ne comprends toujours pas pourquoi le logiciel n’a pris en compte que mon activité d’indépendant. D’autant plus que j’ai envoyé tous les documents nécessaires.

Présumée coupable de fraude par calcul automatisée

La dette de l’allocataire a été notifiée dès que l’algorithme a trouvé ce qu’il considère comme une erreur dans le dossier. La machine menace d’abord, les humains vérifient plus tard. Seul l’e-mail qu’a envoyé Lucie Inland a permis d’informer  la CAF de cette erreur. Leurs outils automatisés l’ont mis dans une position difficile avant la moindre démarche.

Conséquence pour des milliers d’allocataires de la CAF, seule une démarche expliquant pourquoi on se trouve dans telle ou telle situation peut permettre de modifier une erreur. Mais aujourd’hui, même les agents CAF ne parviennent plus à vérifier si le droit est mal évalué. Eux aussi sont mis en difficulté alors qu’on leur attribue les erreurs. Mais ne pouvant faire autrement, tous se fient au calcul d’un algorithme, sans avoir la véritable capacité de le contrôler.

Voilà aussi comment et pourquoi les prestations sociales d’allocataires de la CAF peuvent être suspendues du jour au lendemain dans l’attente d’un contrôle « physique » c’est-à-dire avec la présence d’un professionnel assermenté qui vient à votre domicile. Mais ne croyez pas que cela soit si simple. Comme vous n’avez plus de ressources le temps de la décision du contrôleur, les aides sociales des Départements et des CCAS sont mises à contribution (surtout s’il y a des enfants). Mais en tout état de cause, si vous ne payez pas votre loyer vous risquez à terme de vivre avec un fort endettement, voire une menace d’expulsion.

C’est aussi pour cela que certains services sociaux sont empêtrés dans des situations administratives complexes ou mal calculées. À ce sujet, il serait utile que les collectivités puissent envoyer leur facture à la CAF en demande de remboursement lorsque l’erreur est révélée, car tout cela a un coût et mobilise un temps conséquent de  travailleurs sociaux qui ont autre chose à faire… C’est aussi ce genre d’affaire qui provoque le non recours aux droits.

L’histoire ne dit pas si tous ces calculs d’algorithmes sont à sens unique. C’est-à-dire s’il ne vise qu’à détecter des fraudes et des erreurs dans l’intérêt de la CAF ou s’il décèle aussi des « moins perçus » au bénéfice des allocataires. Il serait intéressant d’en savoir un peu plus à ce sujet.

Vous ne le savez peut-être pas, mais le citoyen que vous êtes est devenu aussi « un calculé ». C’est le terme qui est utilisé par les gestionnaires d’algorithmes dans leur langage courant pour définir toute situation de personne dont les caractéristiques sont calculées de la sorte. Je me prends à rêver un jour que les calculés que nous sommes se »révoltent » face à ce type de pratiques qui se généralisent dans tous les domaines de la vie (consommation, banques, santé, et aujourd’hui social)

Dans un autre article, je vous parlerai des travaux du sociologue Vincent Dubois. Il est  professeur à Sciences Po Strasbourg et vient de publier un ouvrage intitulé « Contrôler les assistés, Genèses et usages d’un mot d’ordre« .  Son travail est édifiant

lire aussi

 

 

Photo par Blake Cheek sur Unsplash

 

 

Partager

Partager sur facebook
Partager sur twitter
Partager sur linkedin
Partager sur email

Articles liés :

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :