"Homo Deus, une brève histoire du futur " est la suite de "Sapiens, une brève histoire de l'humanité", du même auteur : l'historien Israélien Y. Harari.
Je conseille la lecture des deux ouvrages, qui permettent une prise de recul historique intéressante. J'en propose ici une note de synthèse, qui est surtout celle d'Homo Deus car ce second tome reprend en fait en son début les thèses principales de Sapiens.
1. Rappel historique : des chasseurs-cueilleurs à l’humanisme-libéral
Homo-sapiens s’est développé spectaculairement en quelques millénaires et domine aujourd’hui la planète. La clef de cette supériorité humaine n’est pas une âme divine, une conscience ou une capacité cognitive individuelle que les autres animaux n’auraient pas : c’est sa capacité unique à collaborer en masse et avec souplesse grâce à de grandes fictions fédératrices. Entre réalité objective et subjective, ces fictions sont des réalités intersubjectives qui définissent des règles auxquelles ceux qui y croient se soumettent.
La première révolution cognitive, en développant un langage abstrait et symbolique capable de se détacher de la réalité immédiate, a fait naître cette capacité à créer des mythes communs. Ceux-ci ont permis aux chasseurs-cueilleurs de fonctionner en communautés de plus de 50 individus, et de plus en plus grandes.
La révolution agricole il y a environ 10 000 ans, a donné une supériorité aux Hommes sur la Nature et induit l’émergence des premières grandes fictions de masse : les religions [1]. Leurs Dieux et leurs Grands Plans Cosmiques ont servi à légitimer la supériorité des hommes et à assurer la médiation exclusive entre les humains et l’écosystème, au détriment de la symbiose entre les hommes et la nature. Agriculture et religions ont permis des collaborations de masses impressionnantes (comme la construction des pyramides égyptiennes), des progrès notoires et le développement démographique massif de l’humanité, mais ont contribué à développer une société inégalitaire de maîtres et prêtres pénétrés de leur importance, de sous-hommes exploités et d’animaux maltraités voués à l’extermination, avec au-dessus un grand Dieu donnant sa bénédiction à tout cela.
L’invention de l’écriture il y a 5 000 ans par les prêtres Sumériens, pour mieux gérer les fortunes croissantes de leurs Dieux immortels, a amplifié cette capacité à partager ces religions en masse.
La révolution scientifique débutée avec Copernic au XVIe siècle puis incarnée par Newton, a déstabilisé les religions sur le terrain des énoncés factuels. En échange d’un renoncement au Grand Plan Cosmique des religions, elle a promis d’augmenter le pouvoir des hommes sur la Nature [2]. Le capitalisme a exploité ce deal jusqu’à en faire un culte de la croissance, mais vide de sens. Ce vide a été comblé par l’humanisme, qui a habilement renversé la logique : alors que les Grands Plans cosmiques des religions donnaient du sens à la vie humaine, pour l’humanisme ce sont la sensibilité et les expériences des individus humains qui donnent du sens au cosmos. L’humanisme se décline en économie (le client a toujours raison), en politique (l’électeur sait mieux), en esthétique (la beauté est dans l’œil du spectateur), en éducation (penses par toi-même !), en éthique (si ça fait du bien, faites-le !), etc.
La révolution industrielle au XIXe siècle a apporté une variante à l’humanisme orthodoxe-libéral : l’humanisme socialiste (Marx). Le XXe siècle a vu se développer une seconde variante, l’humanisme évolutionniste, incarné par les nazis de sinistre mémoire. Après des conflits entre ces 3 humanismes bien plus sanglants que les guerres de religions antérieures, l’humanisme libéral a fini par l’emporter.
En quelques millénaires, l’humanité n’a pas amélioré grandement le bonheur des gens de façon irréfutable, mais elle s’est développée de manière spectaculaire d’un point de vue démographique en même temps que les animaux domestiques qu’elle exploite, et en quelques siècles a presque mis fin aux grands problèmes de survie - famines, épidémies, et guerres. L'humanisme libéral n’a plus aujourd’hui d’opposants crédibles : les mouvements sociaux reprochent plutôt au système actuel de ne pas être assez proche de l’idéal (pas assez de démocratie et/ou pas assez de libéralisme car trop de lobbys) ; les mouvements écologistes, s’ils ont raison d’alerter sur les risques liés à la finitude des ressources et surtout à l’effondrement écologique, ne sont pas mobilisateurs ; un retour aux vieilles religions ou au marxisme n’est pas une alternative crédible, elles ne sont plus du tout créatrices comme elles ont pu l’être par le passé mais uniquement des forces réactives sur la défensive [3], car leurs textes fondateurs sont périmés; le terrorisme est plus une mouche qui essaie d’énerver un éléphant dans un magasin de porcelaine, le danger est plus du côté de nos réactions ; enfin, la Chine semble chercher sa voie, mais ne l’a pas encore trouvée.
2. Pourquoi la fin de l’humanisme libéral ?
Malgré sa domination, l’humanisme libéral porte en lui les germes de sa perte. En effet la science du cerveau et des processus de décision montre de plus en plus que notre cerveau est un assemblage d’algorithmes biochimiques : or la notion d’assemblage est incompatible avec la notion de « Moi » et d’individu (au sens « Un », indivisible), et la notion d’algorithme biochimique incompatible avec la notion de libre-arbitre. Deux fondements du libéralisme sont donc remis en question. Ce questionnement philosophique n’est pas nouveau et il ne remettrait pas en cause l’humanisme libéral s’il ne s’accompagnait pas de menaces technologiques concrètes liées aux progrès du big data et de l’intelligence artificielle notamment.
La première menace concrète est la perte de la valeur militaire et économique des hommes, dont la conséquence serait que le système n’accorderait plus d’importance aux individus. Des technologies concrètes ont déjà réduit la valeur militaire des hommes, l’armée se reposant désormais sur des soldats d’élite et des outils technologiques tels que les drones ou les virus informatiques. La robotique et l’intelligence artificielle, qui devraient permettre de remplacer jusqu’à 50% des hommes d’ici 2030 (des ouvriers, médecins et pharmaciens, avocats, juges, chauffeurs de taxi, courtiers, professeurs, et même certains administrateurs d’entreprises et artistes) vont quant à elles réduire la valeur économique des hommes.
La deuxième menace concrète réside dans l’externalisation progressive des décisions individuelles vers des algorithmes extérieurs non organiques plus intelligents et traitant plus de données que les humains n’en sont capables (big data et intelligence artificielle, dans la lignée de Dr Watson d'IBM, Google, Facebook, Cortana…). Ces algorithmes en silicium pourraient finir par connaître les hommes certes toujours imparfaitement, mais mieux qu’ils ne se connaissent eux-mêmes. Ils pourraient alors contrôler leurs décisions, et les hommes perdraient ainsi leur libre-arbitre et leur autorité individuelle.
La troisième et dernière menace concrète est l’émergence d’une caste supérieure d’hommes augmentés bénéficiant de capacités inouïes et de créativité sans précédent, indéchiffrables par le système mais lui rendant des services cruciaux. Ces élites se soucieront-elles du bien-être des castes inférieures inutiles et oisives qui n’ont plus de valeurs pour le système ?
Si ces menaces se concrétisent, c’est-à-dire si les progrès technologiques scindent l’humanité en une masse d’hommes inutiles d’un côté et une petite élite de surhommes, et si l’autorité échappe aux êtres humains pour se retrouver aux mains d’algorithmes très intelligents, l’humanisme libéral s’effondrera. Les hommes devront donc se trouver une ou plusieurs nouvelles fictions, sous peine de sombrer dans le chaos.
3. Les candidats pour remplacer l’humanisme libéral
Alors que l’humanité a (presque) réussi à régler les problèmes de survie (épidémies, famine et guerres), les objectifs d’une nouvelle idéologie pourraient être le bonheur, l’immortalité et donc une forme de divinité. Deux idéologies pourraient émerger : un descendant de l’humanisme, le techno-humanisme, et une idéologie en rupture, le dataïsme.
Le techno-humanisme, dont le berceau pourrait être la Chine qui cherche sa voie, est une variante pacifique de l’humanisme évolutionniste d’Hitler. Ce dernier comptait sur la reproduction sélective et le nettoyage ethnique pour améliorer Sapiens, le techno-humanisme quant à lui comptera sur la génétique, les nanotechnologies, la robotique, les drogues et des interfaces cerveau-ordinateurs pour créer un modèle d’Homme supérieur, plus heureux voire immortel : Homo Deus. Mais quelle serait vraiment la supériorité d’Homo Deus ? Depuis les chasseurs-cueilleurs, la sélection naturelle a déjà vu nombre de nos capacités individuelles à sentir, rêver et être attentif se réduire au profit de nos capacités de collaboration de masse. Le techno-humanisme pourrait accélérer ce phénomène à dessein et réduire encore plus l’être humain à sa seule fonction pour le système : nous avons été des chimpanzés augmentés, nous deviendrions des fourmis surdimensionnées : de cerveaux individuels, les neurones d’un super-cerveau composé de l’Humanité entière [4].
Mais ce techno-humanisme n’évacue pas un paradoxe crucial déjà évoqué [5] : si les technologies permettent petit à petit de contrôler et remodeler la volonté humaine, cette dernière ne peut plus être la valeur suprême. Il lui sera donc in-fine impossible de composer avec ces technologies et il devra se réinventer.
Le dataïsme [6] ou religion des données est la fiction qui se positionne pour remplacer le techno-humanisme. Le dataïsme est d’abord une approche scientifique et technique issue de la fusion de deux tsunamis : la théorie de l’Evolution de Darwin qui a permis de voir les organismes vivants comme des algorithmes biochimiques, et la théorie informatique d’Alan Turing qui a permis de développer des algorithmes électroniques toujours plus sophistiqués. Le dataïsme fait valoir que ce sont les mêmes lois qui s’appliquent aux algorithmes biochimiques et électroniques, et attend que les algorithmes électroniques (big data, intelligence artificielle) finissent par surpasser les algorithmes biochimiques, incapables de traiter les flux immenses de données qui excèdent les capacités du cerveau humain.
Le dataïsme interprète l’histoire de l’humanité tout entière comme celle d’un système de traitement de données dont les hommes sont les « processeurs ». Le système a visé à améliorer sa propre efficacité suivant 4 méthodes de bases :
- La première méthode a été permise par la révolution cognitive : connecter les processeurs entre eux.
- La deuxième méthode est l’augmentation de la diversité des processeurs. Elle a eu lieu lorsque les hommes ont essaimé dans le monde entier, les différentes branches évoluant alors indépendamment dans les différentes régions du globe.
- La troisième méthode est l’augmentation du nombre de processeurs. Elle a été rendue possible par la révolution agricole il y a 10 000 ans environ.
- La quatrième méthode a été initiée avec l’invention de l’écriture puis s’est accélérée depuis la découverte de l’Amérique en 1492 : accroître et fluidifier la circulation des données entre processeurs suivant les flux existants. Le dataïsme explique par exemple que la démocratie et le libéralisme ont fini par l’emporter sur les dictatures et le communisme car le système de traitement des données « distribué » (grand nombre de processeurs interconnectés de façon fluide) des premiers a été plus efficace que les systèmes de traitement des données « centralisés » (faible nombre de processeurs) des seconds, inadaptés à la période d’accélération du changement technique du XXe siècle [7].
Si le dataïsme part d’une approche scientifique et technologique, séduisante car unifiant de nombreuses disciplines, il s’étend aussi sur le champ idéologique définissant le Bien et le Mal : si la vie est circulation d’information, et que la vie est bonne, il faut approfondir et élargir le flux d’information dans l’Univers. L’Homme n’est plus sacré, mais un outil au service de la création d’un Internet-of-All-Things, qui partant de la Terre, pourrait se propager à tout l’Univers. Ce système sera partout et contrôlera tout, sorte de Big Brother [8] pareil à Dieu. Sapiens, dont la technologie interne est obsolète, est destiné à se fondre en lui. Pour le dataïsme, les expériences humaines qui sont au cœur de l’humanisme peuvent exister, mais n’ont pas de valeur intrinsèque. Seul le fait de connecter ces expériences a de la valeur.
En synthèse on peut résumer l’idéologie dataïste comme suit : l’humanisme a dit aux croyants que Dieu était le résultat de leur imagination et que donc l’imagination et le sentiment humain étaient la valeur suprême. Le dataïsme dit aux humanistes que leur imagination et leurs sentiments sont les fruits d’algorithmes biochimiques, qu’on va pouvoir construire des algorithmes en silicium capables de les contrôler et que par conséquent ils ne sont plus les valeurs suprêmes. Il ajoute que comme c’est la capacité à collaborer qui est cruciale, c’est la circulation de l’information qui est la valeur suprême [9].
Au-delà de ces idéologies que l’on peut trouver oiseuses, le dataïsme a d’ores et déjà des commandements pratiques qui ont des conséquences concrètes. La valeur accordée à la circulation de l’information induit en effet un accroissement du volume de données, qui devient ingérable par les processus politiques, au point que parlementaires et électorat semblent perdre le contrôle, ne savent plus qui croire. La démocratie pourrait ainsi décliner voire disparaître. Les gens sentent d’ailleurs que le pouvoir leur échappe, parfois soupçonnent quelque coterie de milliardaires de diriger secrètement le monde, mais en cela ils sous-estiment la complexité du monde : la vérité est que plus personne ne dirige ou n’a de vision.
Mais alors qui va combler ce vide de pouvoir qui semble échapper aux hommes ? Dans un premier temps, le dataïsme sera bien au service des hommes, l’aidant dans sa quête du bonheur, de la santé immortelle et du pouvoir. Il se propagera en promettant de satisfaire ces aspirations humanistes. Mais du jour où l’autorité passera des hommes aux algorithmes de silicium, les choses pourraient changer drastiquement : de rôle d’ingénieur, l’homme pourrait devenir une simple puce, puis une source de données du Internet-of-all-things, avant de se dissoudre comme une motte de terre dans une rivière. Le dataïsme ferait subir ainsi à l’Homme ce que ce dernier a fait subir aux autres animaux : soumission ou extinction. Peut-être ceux qui aujourd’hui défendent les droits des animaux le font-ils car ils ont cette intuition ?
4. Conclusion
Le dataïsme décrit ci-dessus n’est pas une fatalité, mais nous en prenons déjà un peu le chemin. Nous ne saurions prédire l’avenir des technologies, et les mêmes technologies peuvent produire des mondes très différents (la Corée du Sud et la Corée du Nord par exemple). L’objet du livre est plutôt d’élargir les horizons pour inciter le lecteur à envisager d’autres options idéologiques. Mais quelle que soit l’idéologie que nous adopterons, il ne faudra pas oublier que les idéologies ne sont que des moyens de collaborer, pas des lois éternelles, et ne doivent pas légitimer des souffrances humaines ou animales comme cela a été largement le cas jusqu’à présent.
Si nous prenons encore plus de recul, nous constatons trois choses, qui posent chacune une question :
- La science converge vers un dogme universel suivant lequel les organismes sont des algorithmes et la vie se réduit à un traitement de données. Les organismes sont-ils réellement uniquement des algorithmes et la vie se réduit-elle au traitement de données ?
- L’intelligence se découple de la conscience. De l’intelligence et de la conscience, laquelle est plus précieuse ?
- Des algorithmes non conscients mais très intelligents pourraient bientôt nous connaître mieux que nous-même. Qu’adviendra-t-il de la société lorsque les algorithmes hautement intelligents nous connaîtrons mieux que nous nous connaissons nous-même ? Nous avons en tout cas intérêt à bien nous connaître.
[1] Ici, on exclut des « religions » les « chemin spirituels » individuels qui n’ont que peu de portée historique, donc peu pertinents pour le propos du livre qui se centre sur les destins collectifs.
[2] On notera à cet égard que le mythe de Newton sous un arbre de son jardin de Whoolstorpe, qui reçoit une pomme sur la tête par hasard et découvre les lois de la gravité, plagie la scène du jardin d’Eden, à ceci près que Newton est seul (pas de Dieu ou de Satan), que la pomme tombe par hasard (pas de dessein divin) et qu’il n’est pas puni de sa curiosité, bien au contraire.
[3] Le nombre d’adeptes ne doit pas laisser croire à une « renaissance » de Dieu sur le plan historique, pour deux raisons : (1) l’Histoire ne s’écrit pas par les majorités (2) Les vieilles religions peuvent encore jouer un rôle dans les « chemins spirituels » individuels mais n’en jouent plus au niveau historique et collectif (voir note 1). Bref, sur le plan historique, « Dieu est mort, mais on met du temps à évacuer le corps… »
[4] Une idée similaire est d’ailleurs envisagée par Isaac Asimov dans le célèbre cycle de romans « Fondation », sous forme de la planète Gaïa.
[5] Voir la deuxième menace concrète au chapitre 2.
[6] De data qui signifie données en informatique. Le terme vient du latin datum (pluriel data) qui signifie « choses données »
[7] Le fonctionnement centralisé a cependant mieux fonctionné que le décentralisé à certaines époques, par exemple du temps de l’Empire Romain.
[8] Il est d’ailleurs étonnant que Harari ne fasse pas référence au roman « 1984 » de Georges Orwell (à moins que cela ne m’ait échappé). On peut aussi penser au film « Matrix ».
[9] Il ne faut pas la confondre avec la liberté d’expression : il s’agit ici de la libre circulation de l’information, par opposition au droit à posséder des données « privées » et à en contrôler la circulation.