Ce n’est pas moi qui le dit, mais une étude menée par des chercheurs de Microsoft et de l’Université Carnegie Mellon aux États-Unis. Leur travail sur l’intelligence artificielle vient de mettre en évidence qu’une utilisation régulière aux outils d’IA peut entraîner une diminution des capacités cognitives et de la résolution de problèmes de celles et ceux qui l’utilisent.
J’abordais ce sujet encore récemment lors d’une de mes interventions auprès d’étudiants. Il suffit de vous poser deux questions : Combien connaissez-vous de numéros de téléphone par cœur aujourd’hui ? Puis combien en connaissiez-vous dans les années 90 (désolé ce test ne convient pas aux milléniums). Nous sommes passés de 10 à 15 numéros stockés dans notre mémoire à un ou deux voire trois aujourd’hui. Comment en sommes-nous arrivés là ?
La réponse est simple. Nous avons confié à nos smartphones une partie de notre mémoire que nous sollicitions par le passé beaucoup plus fréquemment qu’aujourd’hui. Mon grand-père avec son certificat d’étude pouvait réciter tous les départements français, leurs préfectures et sous préfectures. Je ne sais pas si cela était utile, mais en tout cas sa mémoire était considérée comme normale. Il n’avait rien d’un génie. Je me souviens qu’à 20 ans, travaillant à la SNCF aux renseignements téléphonés, je connaissais par cœur toutes les heures de train entre Nantes et Paris, Lyon, Quimper et Marseille. Je récitais mes réponses à mes interlocuteurs sans avoir à ouvrir le bottin qui me servait pour les destinations atypiques. Aujourd’hui, j’en serais bien incapable. Par contre, je dispose de ces informations en quelques clics sur mon smartphone et je ne verrai pas aujourd’hui l’intérêt de les retenir.
Que peut-il se passer avec un usage immodéré de l’intelligence artificielle ?
Eh bien, c’est le même processus qui s’enclenche. En utilisant régulièrement l’IA, nous ne sollicitons plus notre réflexion comme par le passé. Nous changeons les processus mentaux de notre cerveau. Revenons à cette étude
Cette étude a interrogé 319 professionnels issus de métiers qui demandent une réflexion et de la rédaction. Pas moins de 936 exemples réels d’utilisation de l’IA ont été analysés. Un résultat surprenant est apparu : la dépendance accrue aux outils d’IA est corrélée à une détérioration des compétences de production en pensée critique.
Les résultats sont sans appel : les chercheurs écrivent que « L’ironie de l’automatisation est qu’en mécanisant les tâches de routine et en laissant la gestion des exceptions à l’utilisateur humain, vous privez l’utilisateur des opportunités habituelles d’exercer son jugement et de renforcer sa musculature cognitive ». Il la laisse atrophiée et non préparée lorsque les exceptions surviennent.
Une histoire de confiance en soi ?
Une majorité de personnes acceptent les résultats de l’IA sans les examiner correctement. Fait intéressant, la recherche a mis en évidence une relation différente entre les niveaux de confiance et la pensée critique : Plus on a confiance en l’IA, plus celle-ci est associée à un effort réduit en pensée critique. Plus on a confiance en soi, plus on est conduit à développer une pensée critique renforcée et à évaluer les résultats en les interrogeant.
Ce phénomène dit de « convergence mécanisée » se produit lorsque les utilisateurs ne parviennent pas à donner un jugement personnel et contextualisé aux réponses apportées par l’IA. Cela entraîne des résultats moins diversifiés pour des tâches similaires. C’est un peu comme si vous utilisiez sans recul une application de navigation telle Google Map ou Waze. Votre confiance en ses résultats érode votre sens critique pour choisir un autre chemin que celui qui vous est proposé. Vous répondez alors aux indications des algorithmes qui tracent votre route sans que votre cerveau fasse l’effort de s’orienter. Plus vous utilisez cette application, moins vous êtes en capacité de vous en passer. Elle « pense » à votre place le chemin qu’il vous faut prendre.
Nous devons être conscients du mécanisme en jeu
L’exemple des numéros de téléphone est révélateur de la manière dont nous avons délégué certaines fonctions cognitives à nos appareils. De même, l’utilisation régulière de l’IA peut entraîner une diminution de notre disposition à réfléchir de manière autonome. Cela ne signifie pas que l’IA est intrinsèquement mauvaise, mais plutôt que nous devons être conscients de la manière dont nous l’utilisons pour ne pas perdre nos compétences cognitives.
Dans le domaine du travail social, la pensée critique est particulièrement nécessaire pour résoudre des problèmes complexes. Il est, en toute logique, essentiel de maintenir un équilibre entre l’utilisation de l’IA et le développement des compétences humaines. Les travailleurs sociaux doivent être capables d’évaluer les situations avec nuance et d’adapter leurs interventions en fonction des besoins spécifiques des personnes qu’ils aident.
Le rôle des travailleurs sociaux à l’ère du numérique
Les professionnels du travail social fournissent des soutiens aux personnes et aux groupes qui demandent un savoir être associé à une pensée critique. Alors que l’IA peut aider à automatiser certaines tâches administratives ou analytiques, elle ne peut pas remplacer notre capacité humaine à comprendre les nuances émotionnelles et sociales. Les travailleurs sociaux doivent donc être formés pour utiliser l’IA de manière à renforcer leurs compétences, plutôt que de les remplacer.
Ils doivent aussi et surtout avoir conscience du risque d’affaiblissement de leurs compétences d’analyse critique s’ils utilisent sans réserves les outils proposés par l’IA. Des sociétés proposent actuellement aux institutions des systèmes dits « intelligents » de gestion des données sociales dans des champs comme la protection de l’enfance, la gestion des priorités d’accès aux services, l’insertion sociale et professionnelle, etc. Ces outils utilisés sans réserve ni analyse sérieuse des résultats risquent de provoquer des dégâts non seulement auprès des personnes, mais aussi dans notre façon de penser les situations et de les analyser. Pour autant, ces outils peuvent être utiles si on ne leur reconnait pas une autorité non discutable et que nous restons capables de proposer des alternatives à leurs réponses, alternatives issues de notre propre jugement.
Cela implique de développer des stratégies pour intégrer l’IA dans leur travail tout en maintenant notre compétence à réfléchir de manière autonome. Ce n’est pas si évident que cela. En tout cas, il est nécessaire que les travailleurs sociaux utilisateurs de l’IA aient bien conscience du mécanisme mental en jeu. L’atteinte à l’esprit critique est bien réel.
Irons-nous vers un équilibre entre technologie et pensée autonome ?
Pour éviter que l’IA ne réduise notre disposition à penser de manière indépendante c’est-à-dire en n’étant pas sous influence de la nouvelle religion en place, le technosolutionisme, il est essentiel de concevoir ces outils de manière à ce qu’ils puissent « en même temps » encourager notre esprit critique. Cela pourrait inclure des fonctionnalités qui expliquent le raisonnement derrière les résultats donnés par l’IA. Il faudrait aussi pouvoir disposer d’outils qui aident les utilisateurs à identifier les limites des réponses apportées et les biais potentiels utilisés.
En résumé, l’IA est certes un outil puissant pour améliorer l’efficacité et la productivité. Mais elle ne doit pas se substituer à la pensée autonome et critique de son utilisateur. Tout cela me rappelle ce que nous disait le philosophe et psychanalyste Miguel Benasayag : « la technologie génère toujours sa propre problématique ». Il nous dit aujourd’hui que « la technologie a transformé notre monde et que notre cerveau accompagne ce changement« .
L’humanité a depuis longtemps « l’habitude de décharger les tâches cognitives sur les nouvelles technologies au fur et à mesure de leur apparition, et les gens craignent toujours que ces technologies ne détruisent l’intelligence humaine » nous rétorquent les chercheurs de Microsoft. Certes, mais tout cela n’est pas forcément plus rassurant. Je reste à penser que les bâtisseurs de cathédrales utilisaient hier leur cerveau de façon bien plus efficiente que nous aujourd’hui. Mais vous aujourd’hui ? qu’en pensez-vous ? Merci à vous d’y répondre sans utiliser Chat-GPT !
Sources :
- Rapport : The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers (PDF) | Microsoft
- Une étude de Microsoft révèle que plus les gens utilisent l’IA dans leur travail, moins ils font preuve d’esprit critique | developpez.com : très bon développement du sujet
- L’IA va-t-elle tous nous rendre débiles ? Une étude stupéfiante de Microsoft | Presse Citron (Certes ce titre est racoleur, mais le fond du problème est posé).
