L’emprise invisible : Comment les géants de l’internet façonnent nos vies (1)

Le 30/09/2024
Classé dans Engagement, Ethique et Valeurs, Inégalités, Numérique
Livres, Point de vue, Société

Il nous faut lire l’ouvrage d’Alain Damasio « La vallée du silicium ». Cet auteur nous plonge au cœur de l’épicentre mondial de l’innovation technologique, La Silicon Valley. Il dresse un portrait saisissant de cette région qui façonne notre quotidien numérique. À travers ses observations et rencontres, il soulève des questions essentielles sur l’emprise grandissante des géants du net sur nos vies et notre avenir collectif.

Le centre névralgique de notre monde numérique

C’est le berceau des géants de la technologie comme Google, Apple, Facebook, Amazon, Microsoft que l’on appelle communément les GAFAM. La Silicon Valley s’est imposée comme le centre névralgique de l’innovation mondiale. Ces entreprises ont réussi à s’immiscer dans chaque aspect de notre quotidien, influençant nos comportements, nos relations sociales et notre rapport au monde. Il nous faut prendre conscience de cette réalité : nous sommes devenus les fidèles d’une nouvelle religion technologique, dont les rituels quotidiens sont dictés par nos smartphones et nos applications.

Premier exemple : Apple. Cette société a créé un véritable culte autour de ses produits. L’Apple Center à Cupertino, cet immense anneau de 1200 mètres de circonférence, est présenté comme l’épicentre d’un séisme qui a révolutionné nos vies depuis 30 ans. Les autres Gafam ne sont pas de reste. Nos gestes quotidiens, nos interactions sociales, notre façon de travailler et d’acquérir des connaissances sont désormais orchestrés par ces géants technologiques.

Apple est une entreprise paramilitaire verrouillée. 2 milliards de fidèles, 150 milliards d’évasion fiscale logés dans les Iles Vierges, 70 milliards de bénéfices annuels grâce à des marges indécentes : un iPhone est vendu 1300 € pour un coût de 150 €. 2000 milliards de capitalisations boursières, c’est-à-dire l’équivalent du PIB du Canada, de l’Italie, du Brésil ou de la Russie.

La Fausse neutralité de la technologie

Il est nécessaire de s’attaquer frontalement à l’idée répandue selon laquelle la technologie serait neutre. Alain Damasio comme avant lui Miguel Benasayag démontre que la technologie porte en elle des valeurs et des orientations qui influencent profondément notre société. Il nous faut prendre en considération quatre raisons principales pour lesquelles la technologie n’est pas neutre :

Le premier aspect concerne cette idéologie qui se traduit par la recherche permanente d’efficacité. Cette volonté imprègne tous les domaines de notre vie, nous poussant à être performants en toutes circonstances. Ainsi, l’intelligence artificielle va avoir pour principale conséquence de nous imposer des nouveaux rythmes pour accroitre notre productivité au travail.

La seconde raison qui nous montre que la technologie ne peut pas être neutre est le choix de financement qui s’opère en amont. Ces choix orientent la recherche vers des découvertes considérées comme utiles, mais surtout lucratives.

Le 3ᵉ point aborde les effets imprévus ou inattendus que révèlent les usages des technologies. Elles transforment nos pratiques et nos comportements.

Enfin, la quatrième et dernière raison se trouve dans la capacité de la technologie à transformer le monde au-delà d’elle-même. Par exemple, l’irruption de l’automobile et la fin de la traction animale a créé de nouvelles réalités sociales et physiques. Il en est de même pour le déploiement massif en quelques années seulement du smartphone et de ses effets sur nos comportements.

Si l’on aborde le monde des applications numériques, cette non-neutralité se manifeste également dans la programmation elle-même. Les développeurs, en traduisant nos besoins en code, intègrent inévitablement leurs propres présupposés et visions du monde dans les technologies qu’ils créent. Cette dimension a de sérieuses conséquences sur la vie de nos concitoyens à travers le déploiement des calculs algorithmiques et de celui de l’intelligence artificielle.

L’Illusion de la liberté numérique

L’un des aspects les plus troublants mis en lumière par Alain Damasio est la façon dont les géants du net ont réussi à nous vendre l’illusion de la liberté tout en renforçant notre dépendance. Cet auteur prend l’exemple d’Apple, dont les produits sont conçus pour maximiser notre dépendance au fabricant. Un iPhone, nous dit-il, ne se possède pas, il vous possède.

Cette dépendance s’étend à tous les aspects de notre vie numérique. Les réseaux sociaux, censés nous connecter au monde, nous enferment en réalité dans des bulles algorithmiques qui renforcent nos biais et limitent notre exposition à la diversité des opinions. Il faut souligner que ces plateformes, nées de la peur de l’autre et du désir d’échange malgré tout, ont fini par créer des communautés virtuelles qui se substituent aux interactions réelles.

La surveillance omniprésente

Sans entrer dans la paranoïa, on ne peut que s’interroger sur la place que prennent les technologies numériques et l’augmentation de la surveillance. Chaque clic, chaque recherche, chaque interaction sur les réseaux sociaux alimente des bases de données gigantesques qui permettent de nous profiler avec une précision effrayante. Cette surveillance n’est pas le fait d’un Big Brother orwellien, mais le résultat de notre propre complaisance face aux commodités offertes par la technologie.

Nous n’avons pas conscience des effets de cette accumulation d’informations personnelles sur nos comportements qui sont exploités. Alain Damasio va plus loin en montrant comment nous sommes devenus en quelque sorte les bureaucrates de notre propre vie numérique. Nous alimentons volontairement les bases de données qui vont nous tracer, externalisant l’ensemble des tâches administratives et assumant les coûts, le temps passé et les risques d’erreurs. Cela ne nous libère pas de la nécessité sans cesse d’utiliser les outils numériques pour accéder à nos droits, mais on voit bien comment en Chine par exemple, la notation sociale des individus les catégorise et limite leurs libertés.

Le Mythe du transhumanisme

Les libertariens, issus de la Silicon Valley, tel Elon Musk, ont fait des émules. Ils sont persuadés que la technologie apportera des solutions à tous les problèmes qui nous concernent. Ils croient dur comme fer au transhumanisme. C’est une vision d’un futur dans lequel l’homme serait « augmenté » par la technologie. C’est une véritable idéologie avec de multiples risques de dérives. Il faut toutefois reconnaitre qu’elle peut permettre des avancées médicales.

Mais ce transhumanisme cher aux « Silicon leaders » est utilisé comme un point de fuite du futur. C’est devenu pour eux un horizon absolu à atteindre. Ils imposent ainsi un imaginaire dominant qui sert avant tout leurs intérêts économiques. Pour que cela fonctionne, il ne suffit d’avoir des calculateurs et des « calculés ». Ces calculés sont des personnes comme vous et moi qui ont de moins en moins de prise sur ce qui se passe. Leurs données nourrissent d’immenses bases permettant de modéliser des systèmes visant à « réparer » nos défauts

L’Intelligence Artificielle : une nouvelle rupture anthropologique

Alain Damasio considère l’IA comme une rupture anthropologique majeure, comparable à l’invention de l’écriture ou de l’imprimerie. Il n’a pas tort. Les usages de l’IA auront de réels impacts notre rapport au savoir et à la créativité. Il s’inquiète de la façon dont nous avons déjà délégué à la machine notre sécurité, nos routines mentales, nos déplacements, notre mémoire, nos apprentissages et jusqu’à notre autonomie.

Nous ne vivons pas dans un monde de Bisounours ! Nous allons voir apparaitre la multiplication des IA biaisées, racistes, sexistes ou pire, qui pourra envahir nos territoires mentaux et obscurcir nos consciences. Il nous faut comprendre que l’IA n’est pas conçue pour être au service de besoins existants, mais pour développer des nouveaux marchés en créant de nouveaux besoins.

L’IA n’est pas utilisée pour réduire la faim dans le monde ni la misère. Elle sert plutôt à permettre à des milliardaires de se promener dans l’espace « pour le plaisir » sans réelle recherche scientifique. Alors bien sûr cet usage n’est pas uniquement réservé aux très riches. Vous pouvez l’utiliser, mais vous n’aurez que les miettes. Pendant que nous picorons de multiples applications, d’autres pensent pour nous, mais surtout pour leurs futurs profits, car l’IA est un d’abord un formidable marché qui nécessite des investissements colossaux.

Vers la perte de notre autonomie

L’un des aspects les plus inquiétants de cette évolution est la façon dont la technologie érode notre autonomie. L’exemple de la voiture autonome est particulièrement frappant. Présentée comme une avancée en termes de sécurité et de confort, elle représente en réalité une perte de liberté et d’autonomie. Nous passons du statut de conducteur actif à celui de passager passif, soumis aux algorithmes de la machine. Gare à la panne ! nous perdrons alors notre capacité de maitriser nos futurs véhicules bardés de technologies.

Cette perte d’autonomie s’étend à tous les aspects de notre vie. Nous devenons déjà de plus en plus dépendants de nos appareils connectés pour les tâches les plus simples. Nous perdons progressivement nos capacités à agir par nous-mêmes. La « puissance » de chacun qui se définit comme la compétence humaine à faire directement quelque chose d’élaboré, laisse la place au « pouvoir », qui consiste à faire faire à d’autres (humains ou machines) ce que nous ne voulons pas faire nous-mêmes.

Le Technococon : Notre Nouvelle Prison Dorée

Dans son ouvrage, Alain Damasio introduit le concept de « technococon », cette bulle numérique dans laquelle nous nous enfermons volontairement. Nos smartphones, nos objets connectés forment un nid numérique qui reconfigure notre territoire, notre chez-nous. Nous ne pouvons plus nous contenter d’un réel déconnecté des réseaux, devenant une « chair électrisée par des stimuli sonores et lumineux ».

Tentez l’expérience : éteignez pendant une journée tous les appareils numériques qui vous entourent. Regardez ce qui se passe pour vous qui êtes continuellement connecté(e). Votre cerveau proteste. Vous avez un sentiment de manque, vous vous ennuyez. Vous tournez en rond. Ouvrez un livre « papier » sa lecture sera malaisée, mais elle fera appel à des connexions de moins en moins utilisées dans votre cerveau. Vous allez alors développer votre imaginaire initialement capté par les écrans. Vous allez ensuite aller acheter du pain. Il va vous falloir compter votre argent liquide et calculer le prix à payer au lieu de présenter votre carte de paiement devant un terminal, etc.

Ce technococon nous isole progressivement du monde réel, remplaçant les interactions physiques par des échanges virtuels. C’est une forme d’ « assignation consentie à résidence ». Nous vivons alors dans un monde reconstitué à travers nos écrans. Nous perdons le contact avec la réalité tangible.

La fracture sociale exacerbée

Nous sommes face aux contradictions flagrantes de cette société ultra-connectée. D’un côté, une richesse démesurée concentrée dans les mains de quelques géants technologiques, de l’autre, une pauvreté criante, comme dans les quartiers pauvres de San Francisco ou d’ailleurs. Cette juxtaposition interroge les valeurs et les priorités de notre société moderne.

Alain Damasio critique la façon dont la Silicon Valley, tout en se présentant comme le centre du progrès, se montre incapable de résoudre les problèmes sociaux les plus basiques à sa porte. Cette fracture sociale est exacerbée par les technologies qui, loin de démocratiser les opportunités, creusent davantage le fossé entre les nantis et les démunis. On le voit bien dans notre pays aussi avec ces 12 millions de Français exclus du numérique. Ils y perdent beaucoup, mais ne sont pas vraiment protégés des effets néfastes des manipulations qui circulent sur les réseaux sociaux.

L’urgence d’une réponse

Que pouvons-nous faire face à ce constat alarmant ? Il ne faut pas se contenter de critiquer. Il nous faut réfléchir pour une utilisation plus éthique et humaine de la technologie. Alain Damasio plaide pour que l’IA au lieu d’être une « Intelligence Artificielle » devienne une « Intelligence Amie ». (Quoique ce terme « ami » ait bien été défiguré par les réseaux sociaux). Il nous faut penser une approche de l’IA qui serait au service de l’homme plutôt qu’un outil de domination.

Seule l’éducation nous permettra de développer un esprit critique face aux avancées technologiques. Il nous faut dans un même temps pouvoir cultiver des liens plus forts avec le vivant. Il s’agit de redécouvrir notre autonomie et notre capacité à agir par nous-mêmes. Cela va devenir demain une résistance active, non pas contre la technologie elle-même, mais contre son utilisation déshumanisante.

Vers une technologie émancipatrice ?

Quels sont les contours d’une technologie qui serait véritablement au service de l’humain ? C’est là une question qui va vite se poser. Alain Damasio imagine des IA personnalisées qui deviendraient des partenaires de nos vies que nous pourrions maitriser. Cela est déjà techniquement possible. Comme dans le monde du logiciel libre, ce seraient des technologies ouvertes que l’utilisateur pourrait modifier selon ses besoins. L’auteur rêve d’une technologie conviviale, qui renforcerait nos liens sociaux plutôt que de les éroder.

Pour y parvenir, il nous faut retrouver des liens avec le vivant, expérimenter l’autonomie et le « faire ensemble ». C’est une tâche essentielle. Il nous faut « lancer des ponts » plutôt que d’ériger des murs, cultiver l’ouverture à l’autre et la diversité plutôt que de nous enfermer dans des bulles algorithmiques. Les travailleurs sociaux avec d’autres, auront sans aucun doute un rôle à jouer.

Un appel à l’action

« La vallée du silicium » d’Alain Damasio est bien plus qu’un simple récit de voyage. C’est un cri d’alarme, un appel à la prise de conscience et à l’action. L’auteur nous invite à rester vigilants et actifs dans la construction de notre avenir technologique, pour qu’il soit véritablement au service de l’humanité.

Face à l’emprise grandissante des géants du net sur nos vies, il nous est rappelé que nous avons le pouvoir de choisir. Choisir de ne pas être de simples consommateurs passifs de technologie, mais des acteurs éclairés de notre avenir numérique. Choisir de préserver notre autonomie, notre liberté de penser et d’agir. Choisir de cultiver des relations humaines authentiques plutôt que de nous contenter d’interactions virtuelles.

Tout cela nous lance un immense défi puisqu’il s’agit de repenser notre relation à la technologie. Quoi de plus stimulant que d’imaginer et de construire un futur où la technologie serait un outil d’émancipation plutôt qu’un instrument de domination. Ce livre est un appel à la responsabilité collective, à l’engagement citoyen face aux enjeux technologiques qui façonnent notre monde.

En fin de compte, « La vallée du silicium » nous rappelle que l’avenir n’est pas écrit. Il dépend de nos choix, de notre vigilance et de notre capacité à rester maîtres de notre destin numérique. L’homme et la femme, quoiqu’en pensent certains, ne sont pas des moutons. Car c’est bien sur cela que s’appuient ceux qui veulent penser à notre place. Ils comptent sur nos paresses intellectuelles et physiques. C’est pourtant à nous de relever ce défi et de façonner un futur technologique à visage humain.

Vous trouverez ci-joint une remarquable recension du livre « la vallée du silicium » rédigé par Didier Minot. Didier est coprésident du collectif « Changer de Cap ». Une soirée débat sera organisée dans les prochains mois par le collectif sur « les conséquences dès aujourd’hui de la révolution numérique. Comment construire un numérique au service des gens ? » à partir de ce livre, des travaux de l’INRIA et des propres observations du collectif sur les usages des algorithmes dans la Caf. Si vous êtes intéressé, vous pouvez envoyer un mail à : contact[@]changerdecap.net pour plus d’infos. (retirez les crochets autour du @. Je les ai mis pour éviter que des robots captent cette adresse mail pour envoyer des malwares ou publicités).