IA : «La machine n’a pas de cœur». Le travail social face à un ouragan à la journée d’étude du CNFPT à Angers

Il y a des journées d’étude qui n’apportent pas grand chose, et d’autres qui permettent de bien comprendre ce qui se passe pour nos métiers. Celle organisée le 24 septembre dernier par le CNFPT à l’Inset d’Angers, intitulée « Le travail social face à l’IA, entre émancipation et standardisation » appartient à la seconde catégorie. Portée par une équipe angevine motivée autour de Soazic Lemercier, (et animée avec rythme par le journaliste Pascal Massiot), cette journée a eu le mérite d’ouvrir un espace de réflexion collective sur un sujet trop souvent imposé par injonction plutôt que par discussion.

Vous retiendrez d’abord la diversité des voix réunies : philosophe, chercheurs, cadres territoriaux, professionnels de terrain et représentants des personnes accompagnées. Voilà qui promettait de beaux échanges. Les participants n’ont pas été déçus.

Le langage, l’image, le travail : ce que l’IA générative menace selon Éric Sadin

Le philosophe Éric Sadin a ouvert la journée avec un constat sans détour : l’intelligence artificielle ne doit pas être pensée comme un outil supplémentaire, mais comme un nouveau tiers qui s’insère dans la relation. Le philosophe a construit son argumentaire autour d’une distinction : celle qui sépare les IA génératives, apparues fin 2022, et les IA prédictives, plus anciennes et déjà à l’œuvre dans les administrations. Cette nuance, rappelée plus tard par Adrien Guionie lors de la seconde table ronde, est loin d’être anodine : elle signifie que le travail social n’est pas confronté à une seule IA, mais à des logiques différentes qui appellent des vigilances différentes.

Pour Éric Sadin, le langage humain et le langage produit par les IA génératives procèdent de deux logiques radicalement opposées. Les IA génératives enchaînent des mots selon des calculs de probabilité, en s’appuyant sur l’immense masse de textes déjà écrits. La construction des textes s’appuient s’inscrit sur une logique de recherche de corrélation.

Parler, au contraire, c’est s’engager à la première personne, associer des idées de façon singulière, hésiter, inventer. C’est une logique différente de la corrélation car nous construisons nos phrases dans une logique d’association des mots pour leur donner du sens. Le philosophe qualifie le langage produit par les IA de « mortifère ». Il nous a annoncé tel un prophète un « ouragan » à venir dans le monde du travail, en particulier pour les métiers du tertiaire fondés sur les compétences rédactionnelles et créatives.

Il nous a aussi alerté sur l’arrivée d’une « indistinction généralisée » touchant les images, rendant toujours plus difficile de savoir ce qui relève de la création, du témoignage ou de la manipulation. Cette confusion ne peut que fragiliser les auteurs, artistes et journalistes. Face à ce constat, il appelle à ne pas se résigner face à une adaptation présentée comme inévitable, et à défendre la liberté de jugement, la dignité de la personne et la créativité humaine.

Le paradoxe de Jevons : quand le gain de temps promis se retourne en charge

La première table ronde, réunissant David Puzos, Stéphanie Hemaria-Clerc, Vincent Mandinaud, Héloïse Boquillon et Cyril Berteau, a interrogé la promesse la plus répandue autour de l’IA : celle du gain de temps. Rien n’est prouvé véritablement à ce sujet. Mais qu’est-ce que ce paradoxe de Jevons ? C’est un constat qui montre que lorsque le coût d’une ressource diminue, on tend non pas à en consommer moins, mais davantage.

Transposé au travail social, cela signifie qu’un outil présenté comme un moyen de libérer du temps administratif peut, en réalité, conduire à accroître les exigences de productivité. Stéphanie Hemaria-Clerc, chercheuse au LaborIA, a rappelé que le gain de temps perceptible sur la rédaction ou la reformulation est vite absorbé par la vérification, la correction de la réponse de l’IA ou l’anonymisation. Il ne peut pas alors être réinvesti dans la relation. Vincent Mandinaud, de l’Anact, a insisté sur le risque de voir la productivité basculer dans le productivisme. Cyril Berteau, pour le Département de la Gironde, a averti que le temps gagné risquait surtout de se traduire par davantage de dossiers dans l’objectif de diminuer les files d’attente sans moyens supplementaires. Car faut-il le rappeler ? L’IA est d’abord et avant tout un outil de productivité.

Face à ces risques, les intervenants de la table ronde ont proposé une même solution : celle qui consiste à construire un cadre collectif, avec les professionnels de l’action sociale et non imposé d’en haut. Héloïse Boquillon a indiqué que dans le Nord, environ 4.000 agents utilisaient déjà l’IA à bas bruit, sans en parler. Ce département a fait le choix d’utiliser l’outil Copilot ce qui peut poser question quant à la souveraineté des usages qui en sera fait. Mais elle a aussi  fait part de l’élaboration en cours d’une charte d’usage associant les professionnels.

Cyril Berteau a plaidé pour une même démarche. Celle qui vise un cadre institutionnel de référence en Gironde, quitte à limiter certains usages, afin d’éviter que chacun se retrouve seul face à cet outil. David Puzos a rappelé que la capacité d’évaluer une situation et de décider ne saurait être déléguée à l’IA, tandis que Vincent Mandinaud a insisté sur trois nécessités : une culture technique pour comprendre les outils, un dialogue réel pour construire des compromis, et une participation des professionnels dès la première phase de réflexion. En fait il faut pouvoir se demander à quoi va servir l’IA et quelle est sa réelle plus-value.

Le drame japonais : quand l’algorithme masque le manque de moyens

L’intervention d’Akiko Awa, assistante sociale et sociologue à l’Université de Waseda, a offert à la journée un éclairage international. Elle a présenté l’expérience d’un logiciel déployé au Japon depuis 2020 dans le champ de la protection de l’enfance. Ce logiciel permettait « d’évaluer » les situations à partir de 21 critères pour produire une estimation statistique du risque.

Elle a évoqué le cas d’un enfant pour lequel l’outil avait estimé le risque à 39%, avant qu’une absence de suivi ne conduise à son décès. La réponse de l’administration avait invoqué le manque de places, de personnel et de formation, alors que des éléments importants de la situation n’entraient simplement pas dans les cases prévues par le logiciel. Akiko Awa a toutefois précisé, qu’il n’est pas certain que le drame aurait pu être évité sans l’IA.

Pour la sociologue, cette expérience révèle surtout le risque de sacraliser les résultats algorithmiques dans un contexte où les professionnels ne sont pas toujours suffisamment formés. Au Japon, ce sont souvent des personnels issus de l’administration qui font fonction de travailleur social, avec des charges de 80 à 200 situations suivies et des formations parfois réduites à des modules à distance.

Dans le cas évoqué, l’IA avait évalué positivement le comportement de la mère, et les professionnels l’avaient crue. Akiko Awa a élargi son propos à d’autres outils numériques, comme des applications prétendant traduire les pleurs des bébés ou permettant aux jeunes de s’entraider en l’absence de psychologues scolaires suffisamment nombreux . Elle a enfin relevé un paradoxe : le Japon a investi 2,56 milliards d’euros pour équiper de tablettes des enfants dès l’âge de trois ans, alors que le pays connaît un taux de suicide infantile trois fois supérieur à celui de la France. Cet argent aurait pu financer un investissement humain.

« La machine n’a pas de cœur » : ce que demandent les personnes accompagnées

La seconde table ronde, réunissant Adrien Guionie, Céline Rousee, et les représentants des personnes accompagnées Orély Morin et Bruno Sejean, a déplacé le regard vers la relation elle-même. Orély Morin a résumé en une phrase ce qui ne lui convient pas. Cette phrase a marqué les échanges : « la machine n’a pas de cœur », ajoutant aussitôt que « nous attendons des professionnels qu’ils nous accompagnent avec leur cœur ».

Bruno Sejean a insisté sur le fait que l’IA apprend de nous, que les données se vendent, et qu’il refuse que ces outils apprennent de sa vie et de son âme. Il a toutefois nuancé son propos pour des usages moins engageants, comme la musique, où il choisit lui-même ce qu’il lui apprend. Il y aurait ainsi l’IA que l’on choisit et celle que l’on subit.

Adrien Guionie de son côté a rappelé que les travailleurs sociaux n’ont pas demandé l’IA. Il a posé la question du choix collectif que le secteur devrait se donner pour construire une doctrine, avec ou sans elle.

Céline Rousee a résumé l’enjeu central de cette table ronde : où placer la frontière, et quels sont les fondamentaux du travail social qu’il s’agit de préserver ? Elle a rappelé qu’aucun travailleur social ne dirait à une personne accompagnée de « se débrouiller avec l’IA », mais que la question posée est celle du processus d’autonomie inhérent à l’accompagnement.

Déjà des personnes accompagnées arrivent à leur rendez-vous avec les réponses de l’IA qu’ils ont posé avant de venir. Adrien Guionie a présenté une situation qui pose de nombreuses questions. Lors d’un entretien, il a constaté que le père d’un enfant signalé pour une IP, lui récitait en quelque sorte ce qu’il fallait dire pour qu’il considère que le danger n’était pas avéré. Après une échange un peu plus intense la mère présente a invité son conjoint à dire la vérité. Il ne s’agissait pas alors de juger ce parent, mais plutôt de revoir avec lui ce qu’avait produit l’IA et ce qu’ils pouvaient en faire ensemble dans le cadre d’un futur accompagnement.

Il a aussi été question du risque de voir diminuer le nombre de rendez-vous si l’IA répond en amont à certaines questions. Finalement il vaudrait mieux interroger une IA qu’une assistante sociale ! Bruno Sejean a évoqué ce risque : des personnes renonçant à se tourner vers les travailleurs sociaux par crainte des conséquences d’un signalement.

Adrien Guionie a rappelé que dans certains département l’outil Copilot avait été déployé sans formation préalable. Ce qui pose la question de son appropriation et des biais à comprendre (les biais humains autant qu’algorithmiques ). Il y a aussi le risque de paresse intellectuelle et de surconfiance du travaileur social le conduisant à valider sans recul une réponse de l’IA, alors même qu’il reste légalement responsable de ce qu’il signe.

Aucune posture binaire, mais un besoin partagé de cadre

On retiendra en fin de journée l’absence de posture binaire chez l’ensemble des intervenants. Aucun n’a réclamé un rejet pur et simple de l’IA, aucun n’en a fait la promesse d’une modernisation qui pouvait améliorer notre travail.

Il s’est dessiné, au contraire  un besoin partagé de cadre : charte d’usage construite avec les professionnels dans le Nord, cadre institutionnel de référence réclamé en Gironde, appel à la formation et au dialogue de la part du représentant de l’Anact. Il y a eu aussi un rappel constant que la décision, la responsabilité et la relation ne peuvent être déléguées à un algorithme, aussi performant soit-il.

Adrien Guionie l’a formulé clairement en fin de journée : l’IA peut devenir un outil de manipulation du travailleur social lui-même et le seul rempart possible reste d’en parler, de décrypter collectivement, et d’éviter le jugement hâtif.

Ce que nous refusons de déléguer

Reste alors la question posée en creux par l’ensemble de la journée : les travailleurs sociaux n’ont pas demandé l’IA. Quel choix nous donnons-nous alors, collectivement, pour construire une doctrine du travail social avec ou sans elle ?

Cette question n’appelle pas de réponse technique. Elle appelle une délibération politique et professionnelle, dans laquelle les travailleurs sociaux eux-mêmes, et les personnes qu’ils accompagnent, doivent avoir voix au chapitre. non pas comme utilisateurs finaux d’un outil déjà décidé ailleurs, mais comme acteurs de ce qu’ils acceptent, ou refusent, de lui confier. C’est d’ailleurs ce qui ressort des travaux du LaborIa que je vous invite à utiliser pour alimenter votre réflexion.