Contre-sommet « réinventer l’IA : pour une technologie au service de l’humain ». Le regard affuté d’Olivier Griffith

Vendredi 7 février se tenait à Paris un contre-sommet sur l’IA intitulé : « Réinventer l’intelligence artificielle ? Pour une technologie au service de l’humain et de la planète ». Cette journée était organisée par le député européen, David Cormand (EELV) en partenariat avec le magazine Chut. Olivier Griffith, consultant formateur sur le numérique et le travail social y a participé. Il nous propose de partager ses notes et ses impressions sous forme d’interview

Bonjour Olivier, quel est lien entre ta participation à ce contre-sommet et le numérique en travail social ?

Peux tu nous présenter les éléments forts de cette journée ?

Cette série de rencontres a été ouverte par Thierry Breton, l’ex-commissaire européen. Il nous a rappelé l’histoire de l’informatique et comment nous sommes aujourd’hui « à la croisée des chemins ». Nous avons réussi à stocker toutes les traces de l’activité humaine et l’expérience accumulée. Grâce à cela, nous pouvons désormais définir des probabilités et des liens de corrélation à l’aide de supercalculateurs répartis sur différents continents.

Il a souligné que l’Europe compte 450 millions d’habitants, soit une fois et demie plus que les États-Unis. Nous sommes le continent qui produit le plus de données, suscitant ainsi des convoitises pour s’approprier et monétiser cette manne. Il a posé la question de l’appartenance de ce patrimoine et plaidé pour la souveraineté européenne ainsi que pour un encadrement nécessaire de l’usage de ces données et du numérique en général. Il est également revenu sur les différents textes adoptés par l’Union européenne : le Data Act, le DSA, le DMA, et bien sûr l’IA Act, qui a commencé à entrer en vigueur au début du mois.

Nous avons ensuite reçu en pleine figure le témoignage très émouvant, voir éprouvant de David Maenda Kithoko de l’Association Génération Lumière,  Il nous a alerté sur les 3.000 morts récents du côté de Goma en République Démocratique du Congo (RDC) et l’accaparement du sol riche en terres rares qui ont justifié les pires exactions de la part de groupes armés soutenu par le Rwanda voisin.

Il faut comprendre que Rwanda est devenu le premier exportateur mondial de matières premières alors que son sol est beaucoup moins prolifique que celui de la RDC. L’extraction des matières premières pour le numérique aurait fait entre 6 et 10 millions de morts depuis 2018. Le pire étant que l’Union Européenne a signé l’an dernier un accord avec le Rwanda pour une intégration des chaines de valeur des matières premières. Il s’agit de faciliter l’importation de ces matières premières afin d’assurer l’approvisionnement énergétique européen.

Cela pose de sérieuses questions mais malheureusement l’ex commissaire européen était déjà parti. Il n’a pas pu entendre ce qui pose problème. Pourtant la pression s’accroît sur l’UE pour qu’elle gèle l’accord sur les minéraux avec le Rwanda en raison des combats dans l’est de la RDC. Des députés européens demandent un embargo sur ces minerais en provenance de ce pays qui soutient des bandes armées qui visent les ressources de la RDC.

Au delà les conflits géopolitiques, il y a aussi les aspects environnementaux

Oui, il a été présenté les aspects les plus écologiques.  Ils ont été développé par Lorraine De Montenay de GreenIT, Pierre Terras de Beyond Fossil Fuels. Tous deux ont parlé impacts des serveurs de stockage, du coût de tout le cycle de vie des produits numérique : de la production, au fonctionnement, pour terminer par le recyclage. Bref les milliards de smarphones sur la planète polluent, provoques des crises  et interrogent notre mode de vie.

Il faut le reconnaitre l’impact environnemental du numérique grandit sur la planète tout comme dans notre pays. Selon une étude de l’Agence de la transition écologique (ADEME) et del’ARCEP, à l’horizon 2030, si les tendances actuelles se poursuivent sans changement, le trafic de données serait multiplié par six.  Le nombre d’équipements devrait augmenter de près de 65 % par rapport à 2020, principalement en raison de l’essor des objets connectés. Cela entraînerait une augmentation de l’empreinte carbone du numérique de 45 % et une consommation accrue de ressources d’électricité.

Cette étude souligne que le numérique, bien qu’il contribue à la transition écologique, engendre également des impacts environnementaux significatifs. Il faut toujours plus d’énergie, plus de terres rares et d’eau. Tout cela va contribuer à augmenter notre empreinte carbone de façon assez considérable. les données qui concernent la population mondiale sont impressionnants.

Déjà en 2019, l’univers numérique était constitué de 34 milliards d’équipements pour 4,1 milliards d’utilisateurs, soit 8 équipements par utilisateur. Ce taux d’équipement cache de très fortes disparités selon la zone géographique observée. Cette année là, a masse de cet univers numérique atteint 223 millions de tonnes, soit l’équivalent de 179 millions de voitures de 1,3 tonnes (5 fois le parc automobile français).

J’ai retenu qu’il fallait diviser par 12 notre impact numérique pour être en deçà des 1% de réchauffement climatique. Si nos pratiques numériques, ne changent pas d’ici 2030, alors l’énergie consacrée au numérique dans le monde sera du même volume que celui d’un pays comme l’Espagne. Bref, il nous a été rappelé combien le numérique n’avait rien de virtuel.

Quel rapport avec le travail social ?

Nous savons bien désormais du côté du travail social que les usages numériques ont de sérieux impacts sur les questions de parentalité ou de violence faites aux femmes. Nous voyons aussi en tant que travailleurs sociaux les conséquences de la dématérialisation ou des réseaux sociaux sur les personnes en situation de handicap, les jeunes et les personnes fragiles ou manipulables.

Les personnes âgées qui perdent leurs droits, le non recours qui augmente depuis que toutes les procédures de demandes d’allocations sociales ont été dématérialisées. Tout cela est aussi une des conséquences d’un « tout numérique » qui ne prend pas suffisamment en compte les aspects humains. Il nous faut une réflexion sérieuse dur ce sujet. Sans tout rejeter il nous faut retrouver la voie d’un numérique équitable, humain et responsable.

Pour ma part, j’ai apprécié les différents termes d’IA frugale, de sobriété, d’ébriété numérique, voire de véganisme numérique. pour qualifier les différentes pratiques de décroissance numérique ou de ralentissement de nos usages numériques. : A quoi ça sert d’avoir une gourde, une tasse ou encore plus inutile, un slip connecté !

Qu’en est-il de la possible menace de nos droits fondamentaux et de nos démocraties par l’IA

La deuxième table ronde s’intitulait : « De la promesse libérale au capitalisme de surveillance : Comment l’IA menace nos droits fondamentaux et nos démocraties ». Les intervenants ont exploré la manière dont l’IA qui est censée améliorer nos vies, a été détournée pour renforcer le contrôle social et l’injustice sociale. On était là au cœur des pratiques liées au travail social et la non-neutralité de la technique a bien été rappelée.

Katia Roux, chargée de plaidoyer chez Amnesty France a évoqué tous les aspects du numérique aujourd’hui et de l’IA demain en tant que menaces sur notre vie privée. Les outils de vidéo surveillance, les algorithmes automatisés, la reconnaissance faciale et désormais la reconnaissances des « émotions » ont des conséquences sur la liberté d’expression, de circulation. Il y a un effet dissuasif, de renoncement à ses droits fondamentaux, comme aller manifester ou de s’exprimer dans tel réseaux… Les citoyens s’auto-censurent afin de ne pas laisser de traces de leur présence dans tel endroit ou telle manifestation.

Bien souvent, ces usages viennent empirer des situations, les plus vulnérables se trouvent soumis à une double peine dont les travailleurs sociaux vont devoir s’occuper. C’est le cas avec la surveillance via des algorithmes des ressources des allocataires de la CAF, le suivie des demandeurs d’emploi par France travail, ou la gestion des 15 heures d’activité des allocataires du RSA. Beaucoup d’applications auront un impact sur la perte ou le non renouvellement des droits avec des risques de non-recours.

Benoît Piédallu de la Quadrature du Net nous a expliqué comment l’IA produisait des discriminations. Il est revenu longuement sur l’algorithme de la Caf et ses paramètres de contrôles qui utilisent l’IA pour déterminer une « notation » des allocataires » et évaluer les risques d’indu ou de fraudes.

Tous deux ont expliqué que de nombreux textes « protecteurs » prévoyaient de nombreuses exceptions qui finalement dénaturaient les objectifs de protection. Souvent sous prétexte de « reconnaissances d’enfants perdus, de bagages perdus, ou encore de protections contre le risque de terrorisme, les algorithmes de reconnaissances faciales s’imposaient doucement dans les espaces publics. Pour eux, l’IA act est une occasion manquée car c’est une négociation politique, un consensus et que son approche est basée sur les risques et non pas sur la protection des droits fondamentaux.

Le sujet des algorithmes et de l’IA ont aussi été abordés dans un atelier ?

Oui, la troisième table ronde portait sur les impacts de l’Intelligence Artificielle sur la santé mentale. Jean Massiet (Créateur de Backseat), Laure Boutron-Marmion (Avocate au barreau de Paris, et Fondatrice du collectif Algos Victima et Alice Guyon, (Directrice de recherches au CNRS, Centre de Recherche en Psychologie et Neuroscience) et Fritjhof Michaelsen (UFC Que Choisir) ont évoqué les stratégies de captation de notre attention et de prise en otage de nos émotions par les IA de recommandations utilisés par différents réseaux sociaux.

Ils ont rappelé comment pour certaine personnes, l’IA pouvait nourrir une spirale de dépendance numérique. Cela favorise une forme d’anxiété et même parfois d’isolement social et d’enfermement mental. Bien sûr, ils ont réaffirmé qu’il n’y avait pas d’homogénéité des pratiques, notamment chez les jeunes, bien que les mêmes systèmes numériques soient à l’œuvre dans toute la société. Là aussi, la notion de « groupe social » joue, mais l’on comprend bien comment les personnes avec des fragilités mentales peuvent se retrouver prisonnières d’un fonctionnement addictif ou stigmatisant ou se trouver rapidement en situation d’endettement.

L’IA est souvent présenté comme bénéfique pour la santé. Il nous est avancé qu’elle peut anticiper la détection de cancers, ce qui n’est pas faux, mais le manque de transparence des banques de données qui la constitue ou sur laquelle elle est entraînée et les éventuels biais que cela comporte sont rarement documentés.

Les risques, en fonction de l’âge, les questions de retard du développement ou du langage et les effets la formation cérébrale structurelle ont ensuite été abordés. Il a été question de « technoférence » un terme bien connue des éducatrices jeunes enfants. Pour rappel ce terme fait référence à la manière dont l’utilisation excessive ou inappropriée de la technologie peut interférer avec les interactions sociales, les relations interpersonnelles, et la qualité de vie en général. Elle a des effets très nocifs dès les premiers âges de la vie.

Il a largement été discuté de la place des parents en cherchant des solutions pour ne pas les culpabiliser. Il est nécessaire de trouver des stratégies d’explications « en toute confiance » sur les conséquences pour leurs enfants de la surexposition aux écrans.

Laure Boutron-Marmion a présenté ses actions en justice engagées depuis 2023 contre tik Tok pour provocation au suicide. Elle nous a interpelé sur nos éventuelles représentations quant aux familles concernées. La simple information ne suffit pas, le phénomène touche tous les milieux. En effet, l’exploitation des biais cognitifs est subtile et particulièrement efficace chez les adolescents.

Les autres tables rondes ont été consacrées à la défense des droits d’auteur. Les auteurs, les artistes sont confrontés aux machines génératives puis une dernière table ronde s’est attachée aux conséquences de l’IA dans les milieux professionnels. Il y aurait eu beaucoup à dire à ce sujet sur les effets possibles à venir dans les établissements sociaux et médico-sociaux.

Enfin la journée s’est terminée sur la notion de souveraineté numérique européenne. Nous avons pu mesurer avec le dialogue entre David Cormand et Cécile Duflot de l’ONG d’Oxfam combien il s’agit à la fois d’une question écologique mais aussi d’une question démocratique essentielle.

Merci Olivier

Photo : Olivier Griffith sur LinkedIn