Vous savez sans doute que l’Union européenne s’est dotée d’un règlement inédit pour encadrer le déploiement de l’intelligence artificielle sur son territoire. Son nom ? l’AI Act. Ce règlement (UE) est consultable sur artificialintelligenceact.eu. Il classe les systèmes d’IA selon leur niveau de risque et impose des obligations proportionnées à ce risque, allant de l’interdiction pure et simple de certaines pratiques jusqu’à de simples obligations de transparence.
Parmi ces dispositions, l’article 50, intitulé « Obligations de transparence pour les fournisseurs et les déployeurs de certains systèmes d’IA », est entré en vigueur au début du mois d’aout, le 2 précisément. Parmi ces obligations qui sont nombreuses, il y en a une particulière qui concerne tous les professionnels de l’aide et de l’accompagnement susceptibles d’utiliser l’IA dans la rédaction des textes qu’ils rédigent. En effet, il est écrit que « les déployeurs d’un système d’IA qui génère ou manipule un texte publié dans le but d’informer le public sur des questions d’intérêt public doivent indiquer que le texte a été généré ou manipulé artificiellement ».
Dans les faits, l’intelligence artificielle s’installe discrètement dans le quotidien professionnel du travail social, que ce soit via des agents conversationnels, (chatbots) d’accueil sur les sites d’associations, des outils de rédaction automatique de rapports sociaux… L’article 50 fixe des obligations de transparence qui concernent directement les professionnels de l’accompagnement social, qu’ils soient prescripteurs, utilisateurs ou simples témoins de ces technologies dans leur environnement de travail, mais également les institutions et directions de service qui décident de leur déploiement.
C’est en quelque sorte l’équivalent de ce que la CNIL oblige pour la gestion des fichiers nominatifs. Il faut informer les usagers de leurs droits d’opposition, de modification et de rectifification des informations qui les concernent. Généralement personne ne parle de cela. La façon trouvée de respecter la loi consiste à écrire en petit en bas des documents une formule sibylline. Ainsi la Haute Autorité de Santé propose la formule suivante :
« Les données personnelles collectées dans ce document sont utilisées par [Nom de l’établissement] pour [préciser la finalité : ex. « la prise en charge de votre santé », « l’accompagnement dans le cadre de votre projet de vie »]. Conformément au RGPD et à la loi n°2002-303 du 4 mars 2002, vous pouvez accéder à vos données, les faire rectifier ou vous opposer à leur traitement. Pour exercer ces droits, contactez notre DPO à l’adresse suivante : [email ou adresse postale]. »
Et hop le tour est joué. Tout le monde sait que nous ne lisons pas les petites lignes en bas de page. Pour autant, vous l’avez compris. Si vous utilisez une IA, il est désormais nécessaire de le signaler. Mais ce n’est pas tout
L’obligation d’informer que l’on parle à une machine
Concrètement, cet article impose que les personnes sachent qu’elles interagissent avec une machine. C’est le principe central : quand un système d’IA est conçu pour dialoguer avec des personnes physiques, le fournisseur du service doit s’assurer que ce système informe clairement à celles-ci qu’elles échangent avec une intelligence artificielle et non avec un être humain.
Il existe plusieurs exceptions prévues par le texte : si c’est évident pour une personne « normalement informée et raisonnablement attentive » qu’elle parle à une machine, l’obligation d’information explicite ne s’applique pas. Une autre dérogation est prévue lorsque l’usage est autorisé par la loi pour détecter, prévenir ou enquêter sur des infractions pénales. Mais, celle là ne nous concerne pas directement.
Dans le champ social, les publics accompagnés sont souvent en situation de vulnérabilité, de fragilité psychique, de barrière linguistique ou d’illettrisme numérique. Il est donc délicat de considérer que l’utilisation d’un assistant conversationnel (vocal ou écrit) est une évidence. Il me paraît difficile qu’elle puisse être présumée. C’est là que la vigilance des professionnels devient déterminante : un assistant IA qui aide à l’orientation vers des dispositifs d’aide sociale (ou pour l’insertion socioprofessionnelle), aussi bien conçu soit-il, doit annoncer sa nature artificielle dès le premier échange, dans des termes simples et compréhensibles par tous les publics visés.
Les contenus générés par IA doivent être signalés comme tels
L’article impose également l’étiquetage des contenus synthétiques, c’est-à-dire tout texte, image, audio ou vidéo produit ou manipulé par un système d’IA. Pour un travailleur social qui utiliserait un outil de génération de texte pour rédiger une partie d’un rapport, d’une note de situation, ou d’un support de communication destiné aux usagers, cette obligation implique une traçabilité : le contenu généré artificiellement doit être identifiable comme tel, sauf exceptions limitées prévues par le texte.
Plusieurs limites sont posées. Il n’y a pas d’obligation lorsque le contenu fait l’objet d’une révision humaine significative et qu’une personne physique assume la responsabilité éditoriale de la publication. Cela ne concerna pas non plus le cadre d’usages artistiques, créatifs ou satiriques manifestes. Les travailleurs sociaux sont certes des artistes à leur manière, mais je ne pense pas qu’ils entrent dans cette catégorie lorsqu’ils utilisent une IA pour rédiger leurs écrits.
Cette nuance mérite d’être comprise avec précision : si un professionnel rédige un premier jet avec une IA générative puis le relit, le corrige et l’assume pleinement, l’obligation d’étiquetage peut ne pas s’appliquer selon les termes de l’article. Mais, la prudence commande de ne jamais présenter comme entièrement humain un contenu qui ne l’est pas, en particulier dans des écrits professionnels engageant l’avenir d’une personne accompagnée, comme une évaluation sociale ou un rapport destiné à une commission d’attribution de droits. Là, c’est à minima une question éthique.
Le texte prévoit un régime spécifique pour les contenus qui touchent à des sujets d’intérêt public. Lorsqu’un système d’IA génère ou manipule un texte publié dans le but d’informer le public sur des questions d’intérêt général, cette origine artificielle doit être divulguée. Or les services sociaux produisent des textes d’intérêt général pour informer leurs publics.
Mais, là aussi il y a une limite : lorsqu’un contrôle humain a été exercé et qu’une personne physique ou morale assume la responsabilité éditoriale du contenu cela peut se passer de l’obligation d’information. Cette disposition concernera particulièrement pour les structures associatives et les services sociaux qui communiquent sur des enjeux de société, des campagnes de prévention ou des analyses de besoins sociaux : la tentation de recourir à des outils d’IA pour produire rapidement du contenu ne doit jamais se faire au détriment de la transparence envers les publics informés, qu’il s’agisse d’usagers, de partenaires institutionnels ou de citoyens.
Pour autant les exceptions paraitront pour certains comme une forme de marché de dupes. L’objectif initial est de lutter contre les fake-news et autres informations biaisées qui visent à altérer le débat démocratique et influencer les lecteurs avec des moyens fallacieux. Pour autant les trolls ne s’embarrasseront pas de ce règlement, sauf s’ils sont nommément identifiés.
La reconnaissance des émotions et la catégorisation biométrique, des usages à haut risque de dérive
Deux dispositions de l’article 50 concernent des technologies particulièrement sensibles dans le champ social : les systèmes de reconnaissance des émotions et les systèmes de catégorisation biométrique. Le règlement impose que les déployeurs de tels systèmes informent les personnes qui y sont exposées de leur fonctionnement, et qu’ils traitent les données à caractère personnel conformément aux réglementations applicables.
Ces technologies commencent à être évoquées dans certains contextes d’accompagnement au nom du suivi de la sécurité des personnes désorientées qui ne peuvent être « surveillées » 24 heures sur 24. Elles posent des questions éthiques considérables que l’article 50 ne fait qu’effleurer sous l’angle de la transparence. Il ne les interdit pas dans l’absolu, mais il oblige à ce que la personne concernée sache qu’elle est observée et analysée par une machine qui prétend détecter ses émotions ou la classer selon des catégories biométriques.
Pour les travailleurs sociaux, cela doit interroger et, à mon sens être banni : un système capable de « détecter » la détresse ou l’agressivité d’une personne accueillie dans un foyer, un CHRS ou un service de protection de l’enfance, aussi transparent soit-il sur son fonctionnement, reste un dispositif dont la fiabilité scientifique fait l’objet de débats importants. La transparence imposée par la loi ne dispense pas d’une réflexion collective sur la pertinence même du recours à ces outils dans une relation d’aide qui repose fondamentalement sur la confiance et l’écoute humaine.
L’article distingue avec soin ces usages des situations relevant du champ pénal, pour lesquelles des dérogations existent sous contrôle des autorités compétentes. Ce distinguo n’est pas neutre : il rappelle que les outils de surveillance algorithmique, initialement pensés pour des contextes sécuritaires ou judiciaires, ne doivent pas glisser sans encadrement strict vers le champ de l’accompagnement social, où la finalité n’est jamais le contrôle mais le soutien.
Les obligations qui pèsent sur les institutions et les directions de service
Le texte de l’article 50 distingue deux catégories d’acteurs responsables : les fournisseurs de systèmes d’IA et leurs déployeurs. Cette seconde catégorie désignant toute personne physique ou morale qui utilise un système d’IA sous sa propre autorité. Cela inclut directement les associations, établissements sociaux et médico-sociaux ou services publics qui décident d’intégrer ces outils dans les pratiques de leurs salariés.
Une direction de service qui déciderait de mettre en place un chatbot d’accueil, un outil de génération de courriers automatisés ou tout autre système relevant du champ de l’article 50 endosse donc une responsabilité juridique propre. Elle est distincte de celle de l’éditeur du logiciel. Le texte ne détaille pas dans cet article les modalités précises de contrôle interne ou de formation que devraient mettre en œuvre ces institutions. Cependant, l’obligation de résultat, à savoir que l’information parvienne effectivement et clairement aux personnes concernées, repose sur elles autant que sur les concepteurs des outils.
Les sanctions existent. C’est la CNIL qui assure pour l’IA le rôle de gendarme. Le règlement impose des sanctions administratives et financières strictes, mais il ne prévoit pas de sanctions pénales au niveau européen. Les États membres peuvent, s’ils le souhaitent, compléter le dispositif par des sanctions pénales nationales, mais cela relève de leur souveraineté. Le cœur du dispositif répressif reste donc administratif et financier, avec des montants dissuasifs.
Ce que cela change concrètement pour les pratiques professionnelles
Au-delà du texte juridique, l’article 50 pose une question de fond pour les métiers de l’accompagnement : celle de la place de l’humain dans une relation qui repose sur la confiance, l’écoute et le discernement. Aucun texte réglementaire ne peut se substituer à la vigilance éthique des professionnels de terrain. L’AI Act donne un cadre minimal qui doit désormais être intégré dans les pratiques : s’assurer que l’information donnée aux usagers est réellement compréhensible et non noyée dans des mentions légales illisibles, et surtout ne jamais laisser la technologie se substituer au jugement professionnel dans l’évaluation d’une situation sociale.
Les employeurs et directions d’établissements portent ici une responsabilité particulière, celle de ne pas déployer un outil d’IA générative, de chatbot ou de système d’analyse comportementale dans un service social sans formation des équipes, sans concertation avec les professionnels de terrain qui connaissent les publics accompagnés, et sans vérification de la conformité de ces outils avec le règlement européen.
Le Haut Conseil du travail social ainsi que les organisations professionnelles gagneraient à produire des repères pratiques sur ce sujet. En effet, la technicité du texte réglementaire peut décourager les équipes de terrain qui ont très souvent autre chose à faire en priorité.
Ce texte européen, aussi technique parait-il, touche donc à quelque chose d’essentiel dans nos métiers : la sincérité de la relation. Informer une personne qu’elle parle à une machine, signaler qu’un texte a été généré artificiellement, expliquer le fonctionnement d’un système qui prétend lire ses émotions… Ce sont là des actes de respect envers des publics qui ont déjà, trop souvent, l’expérience d’être traités comme des dossiers plutôt que comme des personnes.
Aux travailleurs sociaux, comme aux directions qui les emploient, de s’emparer de ce cadre juridique. Il nous faut voir cela non comme une contrainte supplémentaire, mais comme un point d’appui pour continuer à défendre, au cœur même des mutations technologiques, l’exigence d’une relation d’aide fondée sur la vérité et la dignité.
Et vous, rencontrez-vous déjà ces outils dans votre pratique quotidienne ? Votre institution vous a-t-elle informé de ces obligations ? La discussion mérite d’être ouverte largement, tant les usages se développent parfois plus vite que les cadres pour les penser collectivement.
Source
Photo : DepositPhotos
