Les demandeurs d’emploi suivis par des algorithmes : France Travail sous le feu des critiques de la quadrature du net

France Travail, l’héritier de Pôle Emploi, se trouve au centre d’une polémique concernant l’utilisation d’algorithmes pour gérer les dossiers des demandeurs d’emploi. La Quadrature du Net, association de défense des libertés numériques, a récemment publié une enquête approfondie qui révèle les pratiques controversées de l’organisme public.

L’essor du contrôle algorithmique au sein de France Travail soulève de nombreuses questions éthiques. Selon l’association qui a sérieusement documenté son enquête, l’institution multiplie les expérimentations de profilage algorithmique des personnes sans emploi. Cela  va du « score de suspicion » visant à évaluer l’honnêteté des chômeurs, au « score d’employabilité » mesurant leur attractivité sur le marché du travail. Ces outils, censés optimiser le travail des conseillers, révèlent une extension inquiétante des logiques de surveillance de masse.

Une multiplication des outils de profilage

La Quadrature du Net pointe du doigt plusieurs algorithmes mis en place par France Travail. Parmi eux, on trouve des systèmes de détection des demandeurs d’emploi en situation de « perte de confiance », en « besoin de redynamisation » ou encore à « risque de dispersion ». Ces mécanismes de classification soulèvent des inquiétudes quant à la standardisation de l’accompagnement et à la possible stigmatisation des personnes en recherche d’emploi.

L’un des aspects les plus controversés concerne la lutte contre la fraude. Dès 2013, France Travail a commencé à développer des outils visant à évaluer algorithmiquement l’honnêteté des personnes sans emploi. Cette démarche s’inscrit dans la continuité des pratiques de la CAF, qui utilise déjà un algorithme de notation des allocataires. La généralisation de ces méthodes en 2018 a marqué un tournant dans la gestion des dossiers des chômeurs.

Des pratiques déshumanisantes

La numérisation de France Travail est en train de donner naissance à un modèle de gestion de masse où coexistent une multitude d’algorithmes. Chacun d’entre eux a pour tâche de catégoriser les demandeurs d’emploi selon différents critères. Cette approche est présentée comme un moyen de rationaliser l’action publique et « d’offrir un accompagnement personnalisé ».

Dans les faits, elle se traduit une forme de « déshumanisation du service public de l’emploi ». Il n’y a pas suffisamment de personnel pour accompagner les quelques 5.112.700 demandeurs d’emploi inscrits au deuxième trimestre 2024. Ils sont tenus de rechercher un emploi (catégories A, B, C). L’usage des contrôles de masse via l’usage du scoring, apparait logiquement lié à cela. Tout simplement.

Parmi les outils utilisés par France Travail, il y a l’interface « XP RSA ». Elle va obliger les allocataires du RSA à déclarer leurs activités hebdomadaires. La Quadrature du Net y voit un pas supplémentaire vers le « flicage des plus précaires », renforçant le contrôle social sur les populations les plus vulnérables.

La réponse de France Travail

Thibaut Guilluy, directeur général de France Travail a tenu à réagir face à ces accusations. Il affirme que l’utilisation des algorithmes ne vise en aucun cas à remplacer le travail des conseillers. Selon lui, l’intelligence artificielle est conçue comme un outil d’aide à la décision pour les conseillers, leur permettant de se libérer de tâches administratives pour se consacrer pleinement à l’accompagnement des demandeurs d’emploi. De fait cela veut dire que les algorithmes vont « aider » à déterminer qui sera accompagné, mais aussi qui sera sanctionné.

L’organisme souligne également que l’utilisation des algorithmes est encadrée par une charte éthique. Elle est censée garantissant un cadre de confiance respectueux des valeurs de France Travail. Thibaut Guilluy rejette fermement l’expression de « flicage des plus précaires » pour décrire les outils de suivi des allocataires du RSA, insistant sur la distinction entre la mission légale de contrôle de la recherche d’emploi et la lutte contre la fraude.

Thibaut Guilluy n’est pas n’importe qui. Ancien haut-commissaire à l’emploi, il avait produit un rapport en juillet 2023 apportant tous les éléments de transformation de Pôle emploi en France Travail. Il a même proposé d’introduire de nouvelles sanctions dites « sanctions intermédiaires » qu’il appelle désormais  « suspension remobilisation ». Elle permettrait de suspendre temporairement les allocations d’un demandeur d’emploi sans interrompre l’accompagnement.

Tout cela étant géré à travers des applications numériques multipliant les risques « d’automatisation des décision de sanctions ». Cette défiance systématisée et institutionnalisée en faisant appel aux algorithmes de notation est en train de devenir une politique publique d’accès à l’emploi. Comment les demandeurs d’emploi pourront-ils faire valoir leurs arguments face à une administration toute-puissante ?

La réplique de la Quadrature du Net

La Quadrature du Net maintient ses critiques malgré les explications du directeur de France Travail. L’association estime que sa réponse se limite à des éléments de langage sans aborder le fond du problème. Elle pointe notamment l’absence de réponse concernant la multiplication des algorithmes de profilage à des fins de contrôle. Elle souligne un déni de réalité quant à l’impact de la numérisation sur l’accueil des plus précaires.

Cette polémique nous montre les tensions entre la façon de vouloir moderniser via le numérique le service public et la préservation d’un accompagnement humain et personnalisé. Il soulève des questions fondamentales sur l’utilisation éthique des algorithmes dans les politiques sociales et d’emploi, ainsi que sur la protection des droits et de la dignité des personnes en situation de précarité.

Un enjeu de taille pour l’avenir des services publics

L’enjeu est de taille car il nous montre la direction que prennent les services publics : comment concilier l’efficacité promise par les outils numériques avec le respect des libertés individuelles et la nécessité d’un accompagnement humain ? La réponse à cette question est pourtant évidente : plus on remplace les humains par des usages numériques, plus on renforce le fossé qui existe entre les « dominés » et les « dominants ». Nos élus semblent ne pas avoir encore compris que cela fait le lit du populisme et alimente le rejet des institutions.

Alors que le débat se poursuit, il apparaît vraiment nécessaire de maintenir un dialogue ouvert entre les institutions publiques, les associations de défense des droits et les usagers et les représentants des personnels. Seule une approche équilibrée, prenant en compte à la fois les avantages potentiels de la technologie et les risques qu’elle comporte, permettra de construire un service public à la fois efficace et respectueux des droits fondamentaux de chacun.

Mais pour le moment le compte n’y est pas, on en est même très loin.

Sources :

• À France Travail, l’essor du contrôle algorithmique | La Quadrature du Net
• Quand France Travail teste l’IA avec le profilage algorithmique des usagers | Localtis

photo créé par cookie_studio – fr.freepik.com