Nos écrans et nous

Sans ignorer les dimensions techniques ou économiques de l’arrivée imminente de robots ou autres artefacts dans la société, Nicholas Carr traite avant tout des conséquences de cette invasion sur le plan humain. Chacun d’entre nous est en effet soumis à cette injonction pressante de la connexion universelle et, pour finir, nous nous en remettons à la puissance des algorithmes censée simplifier la vie en exécutant de plus en plus de tâches fastidieuses ou pénibles à notre place. Cependant, maintenant que les ordinateurs sont devenus nos compagnons de tous les instants, nos assistants conviviaux et serviables, il est urgent de porter un « regard critique sur la façon dont ils modifient ce que nous faisons et ce que nous sommes ».

L’ordinateur est devenu l’outil multifonction à travers lequel nous parcourons et comprenons le monde dans ses manifestations physiques et sociales. Sans nos servants numériques, nous sommes totalement désemparés, comme l’a observé Katherine Hayles, professeur de littérature à l’université Duke : « Lorsque […] ma connexion Internet fait des siennes, je me sens perdue, désorientée, incapable de travailler. Pour tout dire, j’ai l’impression d’avoir été amputée des deux mains. » L’ordinateur ne nous soumet-il pas à la question la plus importante : aujourd’hui, qu’est-ce qu’être humain ? La question posée par Norbert Wiener en 1950 était la suivante : les systèmes automatisés ne progresseraient-ils pas plus rapidement que l’homme ? Il lui paraissait évident que l’automatisation créerait une situation de chômage qui ferait passer la Grande Dépression « pour une bonne plaisanterie ». Et, surtout, nous devrons adapter nos modes de vie et notre travail au mode de fonctionnement des machines dont nous dépendons dès aujourd’hui. Les logiciels et les robots vont continuer à travailler plus vite, à moindres frais et peut-être plus efficacement que nous ; et c’est à nous qu’il revient d’en garder le contrôle, alors qu’ils sont partis « à la conquête du monde », comme l’écrit Marc Andreessen, fondateur de Netscape et gourou de la Silicon Valley. 

Historiquement, l’industrie aéronautique a été à l’avant-garde dans le domaine de l’automatisation des tâches naguère confiées aux pilotes. Ainsi, par exemple, le système de commande de vol électronique de l’A320 a brisé le lien charnel qui soumettait encore le pilote aux « grands problèmes naturels », comme l’écrivait Antoine de Saint-Exupéry à l’époque de l’aérospatiale dans les années 1920. Désormais, le destin des pilotes et celui des avions ne font plus qu’un et, d’après Don Harris, professeur d’aéronautique et expert en ergonomie, l’automatisation a tellement envahi les avions d’aujourd’hui que leur poste de pilotage « ressemble à une gigantesque interface d’ordinateur volante ». En ce début de XXI^e siècle, le pilote tient en moyenne les commandes pendant trois minutes, lors du décollage et de l’atterrissage ; et il passe l’essentiel de son temps à la surveillance des écrans et à la saisie des données du contrôle de vol. Et du coup, les vols sont devenus infiniment plus sûrs, bien que les pilotes soient dans une dépendance accrue vis-à-vis de l’automatisation, aboutissant à une forme d’oubli, de « désapprentissage » des bons réflexes en cas d’imprévu exigeant de repasser en mode manuel de pilotage. L’automatisation a plus généralement tendance à accroître la complexité d’un travail au pire moment, c’est-à-dire quand les travailleurs ont déjà trop de problèmes à traiter en simultané. Ainsi, la transformation profonde des systèmes de commande des avions est le signe avant-coureur de l’évolution de nos sociétés, et le « glass cockpit » représente le prototype d’un monde « où l’informatique est omniprésente ». Un monde dans lequel, à l’instar des pilotes enfermés dans leurs prisons de verre, nous pourrions être dépossédés de nos moyens et « relégués par nos propres machines ». 

Autre secteur d’activité directement touché par l’automatisation : celui de la médecine. À la fin de l’été 2005, les chercheurs de la Rand Corporation annonçaient que le passage du support papier au support électronique permettrait « d’économiser plus de 81 milliards de dollars par an et d’améliorer grandement la qualité du système de santé ». Le passage à l’action fut d’abord une aubaine financière pour l’industrie de l’informatique médicale. Grâce aux aides de l’État fédéral, quelque 300 000 médecins et 4 000 hôpitaux passèrent à l’informatisation des dossiers médicaux. Depuis 2011, plusieurs études ont démontré que ni les dépenses de santé ni le bien-être des patients n’ont été améliorés de façon significative ; mais, plus grave, la « baisse des connaissances cliniques » et la tendance à « stéréotyper les patients » ont contribué à une compréhension moins approfondie de leurs pathologies par des médecins se contentant de dupliquer et de recycler des textes standard. Selon Leth Lown, professeur à la Harvard Medical School, « l’ordinateur entre en compétition avec le patient pour capter l’attention des cliniciens », dégradant ainsi la qualité de l’acte médical. Plus généralement, dès que l’on interpose un écran entre le clinicien et son patient, « il devient beaucoup plus difficile pour lui d’acquérir de bons réflexes et de se fier à son intuition ». La place croissante de l’informatique dans le système médical témoigne des avancées spectaculaires en matière d’intelligence artificielle. Il est probable que les algorithmes accéléreront le processus de remplacement du jugement clinique des professionnels de santé par des résultats statistiques intégrant la médecine fondée sur les faits, de telle sorte que les médecins, soumis à des impératifs de rendement, « devront alors céder toujours plus de pouvoir aux logiciels ». Ils courent ainsi le risque de voir leur métier déqualifié, comme la plupart des activités faisant appel à la réflexion et à de longs apprentissages. Cette situation avait été pressentie par le philosophe britannique Michael Oakeshott qui, dès 1947, brossait le portrait de l’individu rationnel moderne dont les processus intellectuels, « isolés de toute influence extérieure, se poursuivent dans le vide ». La richesse du monde est idéalement réduite, pour lui, à une simple formule ; il n’éprouve aucun intérêt pour la culture et l’histoire, et il préfigure le robot dépourvu de toute curiosité, imagination et subtilité. 

Notre monde, changeant, étrange et parfois dangereux, se réduit le plus souvent, pour le commun des mortels, à l’image que leur en donnent leurs écrans, par exemple ceux des GPS qui leur permettent se géolocaliser. Cependant, l’usage de ce nouveau facilitateur d’orientation peut être lourd de conséquences, comme en témoignent des histoires de pilotes, de chauffeurs de bus ou de chasseurs désorientés ; et si notre faculté d’orientation n’est certes plus un enjeu culturel, il n’en va pas de même de notre humanité, car nous sommes des créatures terrestres habitant des lieux concrets. C’est ainsi qu’il faut entendre la parole d’un humain affirmant qu’il « s’est trouvé », car l’expression exprime le sentiment profond selon lequel qui nous sommes a trait à là où nous nous trouvons. La véritable question est ici encore de savoir à quel point voulons-nous être coupés du monde ? Et, par conséquent, de quels moyens disposons-nous pour briser la prison de verre de nos écrans, sans perdre pour autant les multiples avantages que nous procurent les ordinateurs ?

Comme l’écrit Langdon Winner, « les relations et les rapports qui faisaient partie de l’expérience courante », manifestes entre les individus et les choses, sont devenus des « réalités abstraites ». Lorsqu’une technologie comme l’informatique devient « invisible », il y a lieu de s’inquiéter et d’y réfléchir, car nous ne savons plus si le logiciel est là pour nous aider ou pour nous contrôler. Si, dans les systèmes hommes-machines de la révolution industrielle, la machine n’était qu’un prolongement de l’humain, les composants électroniques des systèmes informatiques ont tendance à transformer l’humain en assistant des machines. Ainsi devons-nous réfléchir plus profondément à ce que signifie l’humain pour nous ; et, à cette fin, nous réapproprier pleinement les outils robotiques. Telle est la leçon ultime de cet ouvrage majeur.