Gouvernance de l’Intelligence Artificielle responsable dans les collectivités : le guide qui refuse la fuite en avant technologique

Il n’existe pas de méthode parfaite pour encadrer l’intelligence artificielle dans l’action publique locale, et c’est précisément ce que reconnaît avec honnêteté le guide publié par Les Interconnectés sous la plume de Soizic Pénicaud. Intitulé « Gouvernance de l’IA responsable : Les bonnes pratiques des collectivités pour se lancer », ce document publié en juin dernier s’adresse aux élus et agents territoriaux

En effet, il leur est demandé de déployer l’IA sans perdre la maîtrise de ce qu’elle transforme dans le service public. Loin des discours incantatoires sur l’innovation, le texte s’appuie sur les travaux de la commission numérique conjointe aux Interconnectés, à France urbaine et à Intercommunalités de France. Il s’appuie en outre sur les retours concrets de plus de quarante collectivités mobilisées dans le cadre du dispositif Territoir’Prod IA. C’est cette matière de terrain, plutôt qu’une doctrine descendante, qui donne toute sa force à ce guide que je vos invite à découvrir.

Franckie Trichet, président des Interconnectés et vice-président de Nantes Métropole, pose d’emblée le cadre politique du sujet dans son édito.  Il écrit que « l’IA est un sujet politique. Les outils que nous déployons, la qualité des données, le cadre éthique sont autant de choix déterminants pour permettre l’émergence d’une IA responsable ». Cette phrase mérite qu’on s’y arrête, car elle déplace le débat hors du seul registre technique où on voudrait trop souvent le cantonner.

Il ajoute, dans le même mouvement, une mise en garde sur les rapports de force économiques : « Face à la concentration du marché entre quelques acteurs dominants et aux risques de dépendances, nous croyons à une autre voie : la mutualisation, les communs numériques, le partage entre pairs. » On retrouve ici une préoccupation que je partage depuis longtemps sur ce blog à propos du numérique dans l’action sociale : la souveraineté n’est pas un supplément d’âme, c’est une condition de la capacité des collectivités à rester maîtresses de leurs choix. On ne peut que lui donner raison.

Une gouvernance pensée comme architecture, pas comme slogan

Le guide définit la gouvernance interne comme « la clé de voûte d’une stratégie IA réussie et maîtrisée ». Cela  suppose de formaliser à la fois des principes, des acteurs et des processus de décision. Trois objectifs structurent cette exigence : répondre à la nécessité de mise en conformité réglementaire, s’assurer de la pertinence réelle des projets, et garantir que les collectivités restent redevables des outils qu’elles proposent à leurs agents et à leurs habitants.

Concrètement, cela peut prendre la forme d’une charte ou d’un comité dédié. L’exemple de Toulouse Métropole est intéressant : deux délibérations y encadrent l’usage de la donnée et de l’IA autour de plusieurs principes, dont la transparence, la non-discrimination et la primauté du service à l’humain. Il a été créé un comité de la donnée et de l’IA installé en janvier 2026. Celui-ci réunit DGA, RSSI, DPO et directions métiers.

Cette architecture ne vaut cependant que si elle intègre, dès sa conception, le dialogue social et la parole des agents, ce que le guide place en deuxième pilier de son premier axe. Il est rappelé le rôle du comité social territorial et du DPO, et insiste sur le fait que les agents doivent être associés « à tout le cycle de vie, de la planification à la post-acquisition et au déploiement ».

Il faut aussi noter que Nantes Métropole illustre une exigence rarement mise en avant ailleurs. Il a été créé un un groupe pluridisciplinaire associant ressources humaines, psychologues du travail et représentants syndicaux. Ce comité valide chaque cas d’usage au regard des conditions de travail, avant tout déploiement. La démarche est accompagnée d’un suivi programmé sur cinq ans avec un Observatoire interne de l’IA générative.

Il est possible de mesurer ici la vigilance sur les conditions de travail des agents publics. On pourrait légitimement y inclure les travailleurs sociaux amenés à utiliser ces outils dans l’évaluation des situations ou l’instruction des droits.

Écouter les personnes accompagnées sans instrumentaliser leur parole

Le guide met en garde contre une dérive fréquente des dispositifs participatifs : consulter les citoyens sans avoir la capacité réelle de tenir compte de ce qu’ils disent. Il recommande de clarifier le pouvoir effectivement accordé aux personnes consultées, et de s’appuyer sur des instances existantes (conseils de développement, conseils citoyens ) plutôt que de multiplier les dispositifs avec de nouvelles instances.

Il est aussi donné en exemple une pratique du CODEV du Sicoval. Il a organisé des « Cafés IA » et une enquête auprès des réseaux ruraux et périurbains pour créer une charte éthique territoriale. Cette démarche nous montre qu’une participation sincère est possible à l’échelle intercommunale.

Mais le guide va plus loin en posant l’équité non comme une simple correction technique de biais algorithmiques. Il tente de maintenir une voie humaine accessible à tout moment. Un exemple intéressant cite une délibération de la ville de Villeurbanne. Elle a rendu le droit au non-numérique opposable en s’appuyant sur deux médiatrices numériques. Elles accompagnent les usagers les plus éloignés. Cette pratique illustre la conviction que l’accès aux droits ne peut jamais reposer uniquement sur une interface.

Cette vigilance rejoint directement les missions historiques du travail social, même si le guide ne lui consacre pas de section dédiée en tant que telle. Il mentionne explicitement les psychologues du travail associés à la gouvernance nantaise, les médiatrices numériques de Villeurbanne, les conseillers numériques dans la formation.

Leur travail se déploie en référence aux enjeux d’équité et de continuité du service public.C’est une reconnaissance implicite pour l’ensemble des métiers de médiation et de relation à l’usager. Les missions qu’assument ces professionnels sont  essentielles lorsqu’il s’agit de traduire une politique publique numérique en accès concret aux droits pour les personnes en difficulté.

Le guide rappelle à cette occasion que Montpellier Méditerranée Métropole a inscrit dans sa stratégie IA le principe de ne jamais remplacer les agents publics par l’intelligence artificielle. Celle-ci doit rester un outil de soutien dont le déploiement est validé en anticipant ses effets sur les conditions de travail. C’est un garde-fou qui mériterait d’être généralisé, tant la tentation de substitution guette particulièrement les métiers de l’accompagnement social sous contrainte budgétaire.

Expérimenter sans se laisser enfermer par les fournisseurs

Le deuxième axe du guide insiste particulièrement sur les risques posés par la commande publique. Il identifie clairement la concentration du marché, la dépendance à un fournisseur unique et le rapport de force technique défavorable aux collectivités comme des risques structurels, et non de simples désagréments.

Il recommande d’intégrer dès les marchés des clauses de réversibilité, d’explicabilité et de portabilité. Un exemple est donné avec la Communauté d’agglomération Paris-Saclay qui a permis d’imposer à un prestataire de documenter et justifier ses modèles de calcul. Cette exigence rejoint une préoccupation que porte de longue date la CNIL : sans transparence algorithmique exigible contractuellement, la collectivité perd toute capacité de contrôle réel sur ce qu’elle déploie.

L’évaluation, elle, ne saurait se réduire à un jugement de performance technique : le guide invite à se demander d’abord si l’on a vraiment besoin d’une IA. C’est une question simple, presque désarmante de bon sens. Elle tranche avec l’empressement technologique ambiant. Grand Paris Sud utilise à cet effet le « radar d’acceptabilité » conçu par l’Observatoire Data Publica et le LaborIA. Il est structuré autour des notions d’utilité réelle, des conditions de la confiance, de la frugalité environnementale et des impacts sur les métiers.

Ce sont là quatre dimensions qui refusent de dissocier la performance technique de ses conséquences humaines et écologiques. Le guide résume d’ailleurs le risque premier par une formule sans détour : « garbage in, garbage out » (« Des données erronées produisent des résultats erronés. »). Cela nous rappelle que la qualité d’un système d’IA ne peut jamais dépasser la qualité des données qui l’on alimenté.

La transparence et la réversibilité sont des conditions de la confiance.

Le troisième axe du guide est consacré à l’intégration organisationnelle de l’IA dite responsable. Il inscrit la transparence dans une logique de responsabilité démocratique, au-delà du seul respect des obligations réglementaires.

La communauté d’agglomération de La Rochelle publie ainsi son registre d’algorithmes en open data, y compris pour des dispositifs aussi concrets que le calcul des indemnités de covoiturage. Cette transparence, précise le guide, doit être à la fois générale (c’est à dire accessible à tout citoyen sur l’existence et les objectifs du système ) et individuelle, lorsqu’une décision concerne directement une personne.

Cette distinction est loin d’être anodine pour les publics accompagnés par les travailleurs sociaux. Faut-il rappeler qu’ils sont souvent en position de vulnérabilité administrative ? savoir qu’un algorithme intervient dans l’instruction d’un dossier, et pouvoir en obtenir l’explication, constitue un droit et non une faveur.

Enfin, la réversibilité, présentée comme la capacité de renoncer à un déploiement, ferme la boucle d’une gouvernance qui refuse l’irréversibilité technologique comme fatalité. La Ville de Marseille distingue à cet égard la réversibilité technique qui consite à pouvoir changer de solution et exporter ses données, de la réversibilité d’usage, qui suppose de maintenir un processus alternatif sans IA.

Cette réversibilité permet de désigner clairement qui, parmi les agents, a l’autorité de contredire la machine. Cette précision me paraît décisive : elle replace l’agent public, et singulièrement le travailleur social confronté à une préconisation algorithmique en désaccord avec son évaluation professionnelle, au centre de la décision plutôt qu’en simple exécutant d’un système qu’il n’aurait pas les moyens de questionner.

Un bon schéma valant tous les discours, voici un résumé proposé par les interconnectés :

Ce que le guide ne dit pas, et ce qu’il faudrait encore documenter

Il faut cependant noter, avec la rigueur que ce travail impose, que le guide ne consacre aucune section spécifique aux travailleurs sociaux ni aux enjeux propres à l’évaluation sociale ou la gestion de l’attribution des prestations. Les métiers de la médiation et de l’accompagnement y apparaissent en creux, à travers des exemples ponctuels sans qu’une réflexion d’ensemble soit menée sur les risques spécifiques que fait courir l’IA aux pratiques d’évaluation sociale.

Ces risques sont pourtant déjà documentés notamment dans les travaux du LaborIA que j’évoquais récemment. C’est une limite qu’il convient de signaler clairement plutôt que de la combler par supposition : le guide construit une méthode de gouvernance générale et transposable, mais laisse à chaque collectivité, et à chaque secteur professionnel, le soin d’en décliner les implications concrètes pour ses métiers.

Reste que la conclusion du document pose quatre conditions transversales qui, elles, parlent à quiconque a vu passer des réformes numériques imposées sans moyens ni méthode : un pilotage stratégique porté par une direction générale et des élus, une culture de la donnée partagée, un binôme constant entre représentants des métiers et direction des systèmes d’information, et une évaluation inscrite dans la durée.

Cette exigence  de méthode, à rebours de l’urgence technologique qu’on nous impose trop souvent, mérite d’être vraiment d’être défendue.  De la méthode et de l’écoute dans nos institutions, avec ceux qui, au quotidien, accompagnent les personnes sont nécesaires. Ne l’oublions pas : ces systèmes sont censés servir les personnes accompagnées sans jamais se substituer à la pratique humaine de l’accompagnement.