Nicholas Carr tire la sonnette d’alarme sur les transformations du travail et de la société induites par une automatisation grandissante.

Il est loin, l’automate qui amusait par sa capacité à résoudre de basiques problèmes mathématiques. Pas d’inquiétude alors, à l’humain, les tâches intellectuelles complexes, et à la machine les tâches répétitives. L’essor des algorithmes a bouleversé la situation. Aujourd’hui, les programmes automatisés sont capables d’effectuer des opérations d’une grande complexité. Le rapport entre l’humain et la machine en est profondément transformé et, avec lui, se posent de nouvelles questions sur le monde du travail et sur les rapports sociaux. Nicholas Carr, éditorialiste américain et spécialiste des technologies, mène depuis plusieurs années une réflexion sur ce sujet. Son précédent ouvrage, The Shallows : What the Internet is Doing to Our Brains (traduit en français sous le titre d’Internet rend-il bête ? Réapprendre à lire et à penser dans un monde fragmenté, chez Robert Laffont, 2011), lui a valu d’être finaliste du prix Pulitzer 2011 dans la catégorie Essais. Dans Remplacer l’humain, critique de l’automatisation de la société, il se penche sur le prix social et humain de notre dépendance accrue aux systèmes automatisés.Ce « remplacement de l’humain » renvoie moins au fantasme d’envahissement par les machines et à la peur du chômage de masse – qui est rapidement évoqué. Comme l’indique le titre original de l’ouvrage, The Glass Cage : Automation and Us, le sujet central du livre est l’abrutissement par algorithme, l’amoindrissement des compétences humaines face à leur puissance, l’enfermement dans une prison invisible et consentie.

Un faux sentiment de liberté

C’est en effet à un renversement considérable qu’on assiste. La machine était jusqu’alors censée assister l’humain dans des travaux déterminés, le soulager de tâches pénibles ou répétitives. L’essor de la robotique et de l’informatique a imposé des systèmes automatisés dans tous les domaines et pour des usages permanents, autant professionnels que privés : objets connectés, drones, GPS, applications diverses et variées.Face à cette généralisation censée nous faciliter la vie, Nicholas Carr cite l’historien des technologies George Dyson, qui s’inquiétait déjà en 2008 :« Et si le prix à payer des machines qui pensent était des gens qui ne pensent pas ? » Sans remettre en cause la nécessité de créer de nouveaux outils pour améliorer la vie, ni être un nostalgique des lavoirs et des moissons à la faux, Nicholas Carr estime que ces progrès n’en sont que si leurs conséquences sont bien comprises et maîtrisées. Or justement, la multiplication des systèmes automatisés est selon lui insuffisamment questionnée sous l’angle du besoin réel que ceux-ci viennent satisfaire. Il s’inquiète du « faux sentiment de liberté » qu’ils procurent et d’un aspect pernicieux qui, sous couvert de facilitation, nous prive d’une expérience nécessaire au développement et au maintien de nos capacités.

Nicholas Carr s’appuie sur de nombreux exemples : conduite routière, aviation. Dans ces domaines où l’enjeu majeur est la sécurité, plusieurs accidents graves auraient pu être évités si l’on ne s’en était pas autant remis aux systèmes de pilotage automatique. En 2013, l’Agence fédérale de l’aviation américaine donne pour consigne aux pilotes de « passer en mode manuel si la situation de vol le permet » : « Après avoir réuni de nombreux éléments émanant d’enquêtes sur des catastrophes aériennes, de rapports d’incidents et d’études menées à l’intérieur des cockpits, l’agence en avait tiré la conclusion que les pilotes étaient devenus trop dépendants à l’égard du système de pilotage automatique qui équipe les avions. » Une dépendance qui devient rapidement synonyme de désapprentissage faute de pratique suffisante. En droit, en finances, en médecine, en architecture, dans l’enseignement…, le risque est de trop se reposer sur la machine, donc de relâcher ses capacités de concentration et de coordination. En médecine, où la relation humaine est centrale, le médecin, occupé à renseigner son programme informatique, passe moins de temps à parler au patient et à l’ausculter de façon empirique. Sans parler des surcoûts induits par des fonctions d’aide à la décision qui suggèrent des actes complémentaires et les facturent.

Nicholas Carr n’aborde pas tant ici la question essentielle de la collecte des données et de la dépendance aux fabricants de ces systèmes – même s’il évoque les risques liés à la surveillance et à la manipulation, ainsi que la marchandisation des relations humaines –, que la perte de compétence pour l’humain. Son argument central est qu’on ne peut dissocier le travail manuel du travail intellectuel. « Tout travail est par nature intellectuel », explique-t-il : la notion de cognition incarnée permet de comprendre « l’importance de notre rapport au monde sensible » : « En phase avec l’espace environnant, le corps et le cerveau sont capables d’intégrer rapidement des artefacts aux processus de réflexion, c’est-à-dire de les traiter comme faisant partie de nous d’un point de vue neurologique. » On apprend en faisant, en développant et en entretenant nos capacités psychomotrices. Or « l’automatisation de nos fonctions cognitives (comme la résolution d’un problème) empêche notre esprit de transformer une information en connaissance puis en savoir-faire », s’inquiète-t-il. « Loin de nous avoir ouvert de nouvelles perspectives, l’informatique a fortement réduit notre capacité d’action et de réflexion en nous imposant des tâches routinières et monotones ». Une cage de verre qui vide le travail de son sens et de son intérêt, limite nos horizons et nos choix personnels, reconfigure l’ensemble des relations humaines et sociales. « Des services publics aux liens amicaux et familiaux, la société se reconfigure pour s’adapter à la nouvelle infrastructure numérique. »Une infrastructure qui est le reflet de l’hégémonie du modèle marchand, entendant appliquer ses normes de productivité standardisées à tous les domaines, en gommant les points d’achoppement qui fondent justement l’humain, sous couvert qu’il serait dépassé. Or, conclut Nicholas Carr, « aboutir aux mêmes résultats que le cerveau humain n’a rien à voir avec l’acte de penser ». Il existe des systèmes automatisés qui augmentent notre compréhension du monde. Il est grand temps de s’y intéresser.

Par Kenza Sefrioui

Remplacer l’humain, critique de l’automatisation de la société

Nicholas Carr, traduit de l’anglais (États-Unis) par Édouard Jacquemont

Éditions L’Échappée, 272 p., 19 € / 250 DH