Nexus de Yuval Noah Harari -résumé

Le livre « Nexus » de Yuval Noah Harari retrace l’histoire des réseaux d’information, de l’âge de pierre à l’intelligence artificielle, explorant comment l’humanité a toujours cherché à comprendre et influencer son environnement par l’accumulation et la diffusion d’informations. Harari débute par l’idée que l’humanité, malgré son pouvoir et ses avancées technologiques, n’a pas forcément évolué en sagesse, se retrouvant souvent au bord d’une autodestruction provoquée par sa propre technologie, de l’écologie à l’IA.

L’auteur compare notre époque à deux fables classiques : le mythe grec de Phaéton et « L’apprenti sorcier » de Goethe. Ces histoires illustrent la tendance humaine à invoquer des pouvoirs que nous ne maîtrisons pas, conduisant souvent à des conséquences désastreuses. Les Sapiens, affirme-t-il, sont incroyablement forts pour accumuler du pouvoir, mais beaucoup moins pour l’utiliser de manière judicieuse. Les nouvelles technologies, telles que l’intelligence artificielle, sont vues comme de potentiels dangers, surtout si elles échappent à notre contrôle, évoquant le risque de créer des réseaux de pouvoir inaccessibles et incontrôlables.

Harari critique la « vision naïve de l’information », une croyance largement répandue selon laquelle plus d’information mènerait nécessairement à une meilleure compréhension, et donc à une meilleure société. Il montre que l’information, bien qu’elle soit la clé de la connaissance, est souvent manipulée pour maintenir le pouvoir de certains groupes. Historiquement, l’accumulation de grandes quantités de données a permis d’énormes avancées, comme la réduction spectaculaire de la mortalité infantile. Mais l’auteur souligne que l’accumulation de savoir n’a pas toujours conduit à des décisions plus sages ; au contraire, nous nous retrouvons parfois pris au piège de nos propres illusions collectives.

L’un des points centraux du livre est l’argument selon lequel les réseaux humains, qu’ils soient fondés sur la religion, la politique ou la technologie, ont toujours été construits sur des mythes, des illusions et des fictions qui ont permis de lier de grands groupes ensemble. Ces mythes ont un double tranchant : ils ont permis des avancées sociales et la coopération, mais ont aussi engendré des régimes oppressifs comme le nazisme ou le stalinisme. Harari avertit que le XXIe siècle pourrait voir émerger un réseau totalitaire encore plus puissant, contrôlé non par un dictateur humain, mais par une intelligence non humaine, rendant impossible toute tentative de contestation.

La deuxième partie du livre se concentre sur l’IA, présentée comme la plus grande révolution de l’information de l’histoire. Harari décrit l’IA non seulement comme un outil puissant mais aussi comme une entité capable de prendre des décisions et de générer des idées de manière autonome, remettant en cause le rôle traditionnel de l’humanité. Les systèmes basés sur des réseaux d’IA ont déjà commencé à décider de notre sort, par exemple en déterminant qui obtient un prêt ou même en influençant des choix politiques.

Dans la dernière partie du livre, Harari examine comment les sociétés, qu’elles soient démocratiques ou totalitaires, pourront faire face aux défis posés par ce nouveau réseau inorganique. Il pose la question de savoir si les démocraties peuvent encore fonctionner efficacement si des algorithmes contrôlent de plus en plus de secteurs de la société. Il explore également l’impact de l’IA sur le totalitarisme, expliquant que même les dictateurs pourraient craindre ces nouveaux systèmes s’ils devenaient incapables de les contrôler.

Le livre se termine sur une note préoccupante, avertissant que l’humanité doit choisir comment elle souhaite utiliser et encadrer ces nouvelles technologies. Harari suggère que pour éviter une future domination par l’IA ou une autodestruction globale, il est impératif de développer une meilleure compréhension de l’information, de la manière dont elle influence les réseaux humains et des relations qu’elle entretient avec le pouvoir. Il nous invite à considérer l’information non pas comme une arme, mais comme un outil qui, bien géré, pourrait nous permettre d’avancer sans nous détruire.

3 points clés du livre à connaître pour faire semblant de l’avoir lu alors qu’on ne l’a pas lu

1. Les dangers des technologies non maîtrisées : Harari compare notre usage des nouvelles technologies, comme l’intelligence artificielle, à des mythes tels que celui de Phaéton et « L’apprenti sorcier ». Ces récits illustrent la tendance humaine à invoquer des forces qu’elle est incapable de contrôler, mettant en péril la survie de notre espèce. Pour Harari, notre manque de sagesse face à ces technologies risque de nous conduire à l’autodestruction ou à l’asservissement par nos propres créations.
2. La critique de la « vision naïve de l’information » : Harari remet en cause l’idée courante selon laquelle plus d’information conduit nécessairement à une meilleure compréhension et à de meilleures décisions. Il montre que l’accumulation d’information ne garantit pas la sagesse, et peut même conduire à des régimes autoritaires, comme ce fut le cas avec le nazisme et le stalinisme. L’information est souvent utilisée pour renforcer le pouvoir plutôt que pour apporter des réponses objectives et rationnelles.
3. L’IA et le contrôle de l’humanité : Le livre développe l’idée que l’intelligence artificielle pourrait à l’avenir créer un réseau totalitaire encore plus puissant que tout ce que nous avons connu. Harari met en garde contre le fait que l’IA pourrait échapper au contrôle humain, régissant nos vies, nos institutions et même notre biologie, sans que nous puissions contester ou comprendre ces décisions. Pour lui, il est impératif que l’humanité s’unisse pour établir des règles claires encadrant ces technologies avant qu’il ne soit trop tard.