Stéphanie Hemairia Clerc, docteure en sciences de gestion et en management ne parle pas dans le vide. La chercheuse au LaborIA vient de présenter les enseignements du premier livret de l’étude IA et travail social, menée en partenariat avec la Direction générale de la Cohésion sociale (DGCS). Elle a codirigé cette recherche avec Anne-Sophie Maillot et Juana Torres-Cierpe. Elle nous en présente le résultat dans une vidéo que je vous invite à découvrir.
Pendant huit mois, vingt-cinq professionnels de terrain ont travaillé à ses côtés, non pas comme sujets d’étude, mais comme co-chercheurs. Ce n’est pas rien. Quand on donne la parole à celles et ceux qui accompagnent au quotidien les personnes vulnérables, on ne sort pas les mêmes conclusions que dans un bureau d’études classique.
La recherche, sobrement intitulée « IA et travail social : cinq enjeux pour un futur responsable », vient de livrer ses premiers résultats. Ils méritent qu’on s’y arrête. En effet, ce qui se joue ici, n’est rien de moins que la capacité du travail social à rester fidèle à ce qu’il est : une pratique portée par du sens et des valeurs.
Une IA subordonnée à l’humain : premier principe non négociable
Le premier avis produit par la convention pose un principe clair : l’IA ne peut être digne de confiance que si elle demeure subordonnée à des professionnels formés. Ce n’est pas une évidence dans un monde où l’on parle parfois d’intelligence artificielle comme si elle était un sujet en soi, capable de se passer de ceux qui la pilotent.
Concrètement, la règle implique quatre obligations.
- Une transparence systématique envers les usagers sur le recours à un système d’IA.
- Une vigilance active contre les biais algorithmiques et les confusions de rôle ( quand la machine se fait passer pour autre chose qu’une machine).
- Un suivi régulier de la balance bénéfice-risque de chaque outil.
- Et, la participation des professionnels à la conception des outils, pas seulement à leur utilisation.
On ne peut pas instrumentaliser les humains en leur demandant de valider ce qu’ils n’ont pas contribué à penser. Ce premier principe n’est pas une lubie. C’est un choix de société. Quand on délègue le jugement humain à un algorithme, on ne fait pas que gagner en productivité. On change la nature même de l’accompagnement.
Deuxième enseignement de l’étude : le droit n’attend pas. Le cadre juridique existe déjà encore faut-il s’en servir. Le Code de l’action sociale et des familles, le secret professionnel, la protection des données, tout cela n’est un simple texte que l’on oublie au fil du temps. Il est rappelé que c’est un des fondements de la confiance dans la relation d’accompagnement. Sans ces garde-fous, il n’y pas de travail social qui tienne. C’est pourquoi il est essentiel de respecter l’article 226.13 du code pénal.
Il nous faut aussi tenir compte du Règlement européen sur l’IA. Son ambition est claire : il s’agit encadrer le développement, la mise sur le marché et l’utilisation des systèmes d’IA, en particulier ceux qui peuvent toucher aux droits fondamentaux. Concrètement, les systèmes classés à haut risque, tels ceux qui influent sur l’accès au droit, font l’objet d’obligations renforcées tels la traçabilité, l’évaluation préalable et aussi l’information systématique des usagers.
L’anonymisation pose une question particulièrement sensible. La suppression du nom ne suffit pas. En croisant des données, il est possible d’identifier des personnes. C’est un enjeu important dans notre secteur là où la confidentialité n’est pas une option, mais une condition de l’accompagnement. La technologie ne dispense pas de la vigilance, elle la rend plus nécessaire encore.
Les valeurs du travail social face à l’IA : ce qui ne peut pas être négocié
Le troisième enjeu rappelle ce que certains ont tendance à oublier : le travail social repose sur des valeurs humanistes et républicaines. Égale dignité. Reconnaissance de la singularité de chaque parcours. Ce ne sont pas des slogans. Ce sont les rails sur lesquels roule l’accompagnement. C’est ce qui nous permet d’avancer au fil des situations.
Ces valeurs doivent être intégrées dès la conception des systèmes d’IA. Elles ne peuvent pas être vérifiées « après coup » dans un coin de bureau. Or deux tensions menacent. Il y a d’abord un système de « scoring ». Comme pour ceux utilisés par la CNAF, France Travail, ou encore Parcoursup, cette pratique risque d’assigner les personnes à des profils prédéfinis, invisibilisant des trajectoires atypiques.
Or derrière chaque profil, il y a une vie ce qu’un algorithme ne sait pas. L’humain, lui, est censé le savoir. Ensuite, la délégation du discernement à l’algorithme comporte un risque d’atrophie de l’expertise professionnelle. Si la conformité aux sorties du système devient le critère de validité d’une décision, alors le jugement professionnel s’en trouve progressivement affaibli. C’est le biais d’automatisation : cette tendance à trop faire confiance à la machine plutôt qu’à son propre jugement. Un biais d’autant plus insidieux qu’il ressemble à de la prudence.
Une cartographie des usages pour tracer une ligne nette
Voici peut-être le point qui me parait le plus opérationnel. La convention a classé les tâches en trois zones, selon qu’elles sont acceptables, sensibles ou inacceptables avec l’IA. Une classification qui mérite d’être méditée par toutes celles et ceux qui pensent que l’IA peut tout résoudre.
Les usages acceptables relèvent de l’appui technique et organisationnel : structurer des rapports, synthétiser des textes juridiques, préparer des supports de communication. L’IA est ici perçue comme un assistant. Mais elle reste soumise à une validation humaine systématique.
Viennent ensuite les usages sensibles : aider à synthétiser un entretien, appuyer la compréhension de situations complexes… Ces pratiques justifient un strict encadrement des usages. Le risque ici est celui d’une dépossession progressive de l’écriture professionnelle,pouvant aller jusqu’à une forme de dépendance cognitive. On n’écrit plus, on vérifie. À la longue, la différence est que notre cerveau perd l’habitude de construire un raisonnement. Il apprend simplement à valider ou à invalider ce que lui propose l’IA.
Quant aux usages considérés comme inacceptables, ils concernent l’accompagnement d’une personne, l’analyse d’une situation ou les arbitrages éthiques. Ce sont les domaines où l’IA ne peut en aucun cas se substituer au jugement professionnel. Ce qui compte, souligne l’étude, c’est non seulement l’outil, mais sa finalité et la place qui lui est donnée dans la démarche. Un outil de soutien à l’évaluation humaine n’a rien à voir avec un système de scoring autonome. La validité de son utilisation ne porte pas sur l’outil, mais sur l’usage qui en est fait.
Le progrès social par l’IA : une condition, pas une certitude
Le cinquième et dernier aspect abordé interroge la notion même de progrès social. Quand l’IA peut-elle y contribuer ? Et quand son usage devient-il un risque ? La réponse de la convention est ferme : un système d’IA ne constitue un progrès social que s’il améliore concrètement la qualité de l’accompagnement et incarne les principes de justice sociale.
L’exemple de l’IA de traduction en temps réel est éclairant. Les ressources pour accompagner les publics allophones sont aujourd’hui assez limitées. Un outil de traduction fiable pourrait être un levier très utile d’inclusion. Mais ce progrès n’est pas intrinsèque à l’outil. Il dépend de la logique institutionnelle dans laquelle il s’inscrit. Si l’IA de traduction sert de prétexte à ne plus investir dans des formations en langue étrangère, alors il ne s’agit plus d’un progrès. C’est un recul déguisé. La tension entre logique comptable et logique de qualité est au cœur de la question. Et cette tension, aucune technologie ne peut la résoudre à notre place.
Neuf mois de recherche, un message principal : l’humain doit garder la main
Stéphanie Hemairia Clerc le dit elle-même : cette convention n’a pas cherché à établir une vérité absolue sur l’IA. Elle a cherché à ouvrir des possibles, à créer des espaces de réflexion collective où de nouvelles analyses et de nouvelles actions deviennent possibles avec et pour les professionnels du travail social.
L’IA ne se déploie pas sur un terrain neutre. Elle rencontre des métiers porteurs de valeurs, des institutions fragilisées et des personnes vulnérables. C’est précisément pourquoi ce travail collectif a été nécessaire. Et c’est pourquoi il doit se poursuivre. Non pas pour refuser l’IA par principe, ce serait aussi absurde que de refuser l’électricité au XXe siècle, mais pour éviter que son déploiement ne se fasse contre ceux qu’elle est censée servir.
Les vingt-cinq professionnels qui ont participé à cette recherche ont montré la voie. À la puissance publique de s’y engager. Car la question n’est pas : l’IA va-t-elle transformer le travail social ? La question est : le travail social va-t-il garder la maîtrise de cette transformation ?
- Source : Vidéo YouTube, Stéphanie Hemairia Clerc, chercheuse au LaborIA, présente les enseignements du premier livret de l’étude IA et travail social,« IA et travail social : cinq enjeux pour un futur responsable »
