L’humanité est en train de dépasser la capacité de charge de sa planète. Colonisateur par nature, l’homme a déjà envahi la surface entière de la Terre et « bute désormais sur les bornes de son territoire en tant qu’environnement naturel ». Le génie technologique, s’il peut certes constituer un bénéfice de certains points de vue, est destructeur pour la planète et donc pour le genre humain : épuisement des ressources, dérèglement climatique, toxicité croissante de l’environnement, risque de guerre (chimique, biologique ou nucléaire). Nous sommes, écrit Paul Jorion, comme « la grenouille dans la marmite à petit feu : elle est consciente de la température qui grimpe, mais, celle-ci n’augmentant que très progressivement, elle se retrouve cuite avant même de s’être inquiétée ».
L’homme va plus loin que la grenouille. Il ne se contente pas d’oublier qu’il cuit, il se prépare un successeur. Paul Jorion met sous nos yeux ce paradoxe : tandis qu’il dégrade les conditions de sa propre survie sur la planète, l’homme excelle dans la conception d’un « substitut technologique à la vie biologique ». Les programmes d’intelligence artificielle sont déjà dotés de fonctions qui imitent nos affects. Seule leur manque pour l’instant la capacité de se reproduire. Quand cette fonction leur sera acquise (ou programmée), nous ne serons plus très loin d’une possible prise d’autonomie de leur part. Car, théoriquement, rien ne s’oppose à ce qu’un robot puisse fabriquer un autre robot.
Qui choisit la technologie que nous utiliserons demain ? Ce sont les entreprises. Mais les industriels poursuivent des intérêts économiques. Pour remédier au réchauffement climatique, il faudrait que cet enjeu coïncide avec les intérêts des industriels. Ce n’est pas le cas. Lutter contre le dérèglement climatique implique de réduire la consommation d’énergies fossiles. Les producteurs œuvrent en sens contraire. Ils distillent le doute sur la validité scientifique des études sur l’évolution du climat. Ils créent des think tanks à leur botte et mettent des moyens importants dans la contre-communication, en faisant réaliser leurs propres « études ». Certains s’en emparent, ce sont des « climatosceptiques ». L’évolution du climat devient une… hypothèse. La boucle est bouclée.
Ces procédés ne sont pas particulièrement nouveaux. Ce sont notamment ceux que l’industrie du tabac avait utilisés entre les années 1920 et 1950. Les marques de cigarettes soumettaient les populations à des campagnes publicitaires vantant les bienfaits du tabac, avec la caution de… médecins !
L’éthique ou bien la fin
Transhumanisme et posthumanisme sont des projets cherchant à repousser les limites de l’humain. Le transhumanisme poursuit la quête de l’immortalité par les techniques biomédicales et prothétiques. C’est la recherche d’une perfectibilité humaine. Paul Jorion déplore sa « relative désinvolture quant à l’éthique » et l’absence de garde-fous institutionnels : « Rares sont les domaines où des comités d’éthique sont habilités à interdire telle ou telle innovation. » Le posthumanisme vise la constitution d’un être hybride, entre l’homme et la machine. C’est la « philosophie spontanée de la Silicon Valley », ironise Jorion.
Mais penser le progrès doit être une démarche éthique, non pas économique ni technique. L’humanité doit engager une réflexion sur ce qu’elle se donne pour avenir ou bien devra bientôt se résigner à choisir entre le posthumanisme et l’extinction définitive.
Ce scénario peut paraître extrême. On peut trouver extraordinairement pessimiste d’imaginer sérieusement que le robot (ou sa version édulcorée : le cyborg) puisse devenir autonome au point de remplacer l’homme, son créateur. Mais Paul Jorion affirme que cette hypothèse se précise et il nous explique comment. Dans un passage assez troublant, il évoque la singularité informatique et décrit de manière effrayante l’issue possible des relations entre l’homme et la technologie. La singularité est une notion mathématique. Elle désigne « un point, une valeur, un cas où un objet n’est pas bien défini ou subit une transition ». En matière d’évolution, il s’agirait du moment où l’intelligence artificielle trouverait en elle-même les ressources pour progresser vers des systèmes plus évolués que ceux dans les limites desquels elle a été programmée. Nous assisterions alors à un emballement de la croissance technologique, facilité par la communication des machines entre elles et par leur aptitude à user d’algorithmes dits « génétiques » (c’est-à-dire permettant, lorsqu’il n’y a pas de solution connue à un problème d’optimisation, d’obtenir une solution approchée). Souvenons-nous du 30 janvier 2017 : Ce jour-là, une intelligence artificielle (Libratus) a gagné une partie de poker contre quatre champions. Et son programmeur, Noam Brown, de s’exclamer : « Quand j’ai vu l’IA[1] se lancer dans le bluff en face d’humains, je me suis dit : “Mais je ne lui ai jamais appris à faire cela !” »
Si elle devait s’amplifier et se généraliser, la progression de l’intelligence artificielle pourrait nous conduire à un tournant majeur de l’histoire. L’homme serait, face à la machine, dans la position du chimpanzé face à lui. Il lui faudrait interpréter (et tenter d’anticiper) les réactions de machines devenues autonomes et supérieures à lui. L’humanité perdrait le contrôle de son destin ; il lui échapperait de manière irréversible.
La Chine aujourd’hui
Quel espoir nous reste-t-il ? Paul Jorion dresse un état des lieux des acquis du genre humain. Qui sommes-nous ? Il cherche à puiser dans la vie et l’œuvre des grands hommes des modèles pour l’avenir. Et lance un appel solennel : « Il faut réunir l’équipe de ceux qui ne se résolvent pas à notre remplacement définitif par ces machines que nous avons inventées, […] qui veulent qu’il y ait encore à l’avenir ce que nous appelons aujourd’hui la “vie quotidienne”, […] bâtissant sur les principaux acquis de l’humain, de la réciprocité au génie technologique. »
Selon lui, la civilisation chinoise est apte à assurer notre avenir. La nôtre, engluée dans l’apathie et le désespoir, a déjà fait le deuil de la survie du genre humain. La Chine, au contraire, dispose aujourd’hui de tous les atouts pour prendre la mesure du danger et vouloir changer les choses. La pensée chinoise est riche de tous les héritages intellectuels de l’humanité, qu’elle a su synthétiser : « Si l’on observe attentivement ce que fait le président chinois aujourd’hui, on ne peut que constater qu’il essaie de tirer parti de l’ensemble des éléments de la culture humaine, de tout ce qui résulte de l’expérience du genre humain. » Aujourd’hui, la civilisation gréco-chrétienne fait du « fondamentalisme de marché » son seul horizon, adossé au « culte du prix Nobel d’économie, notre équivalent actuel du Veau d’or », et au « principe idéologique de l’individualisme », selon lequel une société se réduirait à la somme des intérêts des individus qui la composent.
Ce livre est celui d’un lanceur d’alerte. Il est délibérément redondant sur certaines de ses conclusions ; des récapitulatifs viennent parfois alourdir le propos. La propension de l’auteur à s’autociter peut également agacer. Mais l’ouvrage a le mérite de développer son sujet de manière très documentée. On espère qu’il participera à une prise de conscience plus que jamais nécessaire.
[1]. L’intelligence artificielle.
Patricia De Pas
Commentaires (identifiez-vous pour commenter)