Presque tous ceux qui se plongent même un peu dans le sujet de l'intelligence artificielle en arrivent à la conclusion que soit cela nous mènera à une apocalypse enflammée, soit à une utopie magique. Il n'y a pratiquement pas d'options entre les deux. Bien sûr, cela est en partie dû au fait que des slogans comme "La fin est proche!" ou "L'utopie arrive!" Mais reste…
Cela se résume en partie à ce que les gens ressentent face au changement, en particulier en ce qui concerne les changements. Le millénarisme n'a rien à voir avec le fait d'être un millénaire, d'être né dans les années 90 et de se souvenir de la série Buffy the Vampire Slayer. C'est un style de réflexion sur l'avenir qui est associé à un sens profond du destin. Le millénarisme est «l'attente que le monde sera détruit et remplacé par un monde parfait et qu'un rédempteur viendra qui renversera le mal et réconfortera les justes».
Les croyances millénaires, par conséquent, lient étroitement les idées de destruction et de création. Parmi eux se trouvent les idées de changements sismiques énormes et apocalyptiques qui détruiront le tissu de l'ancien monde et construiront quelque chose de complètement nouveau. Un système de croyance similaire existe dans de nombreuses grandes religions du monde, et même dans les religions pas tout à fait athées et agnostiques qui croient en la technologie.
Voyez, par exemple, comment les futuristes attendent une singularité technologique. Selon Ray Kurzweil, la Singularité est la création du paradis. Chacun deviendra immortel grâce à la biotechnologie qui guérira nos maladies; nos cerveaux peuvent être téléchargés sur le cloud; l'inégalité et la souffrance disparaîtront en tant que phénomènes. «Destruction du monde» est remplacé par le terme préféré de la Silicon Valley: rupture ou changement radical de l'industrie. Et comme pour d'autres croyances millénaires, votre vision finale dépend si vous attendez la fin du monde ou la naissance d'une utopie.
Il y a de nombreuses bonnes raisons d'être sceptique face à ce genre de pensée. Le plus convaincant est peut-être que les croyances de la génération Y reflètent simplement les attitudes des gens envers le changement; regardez simplement combien de variations de ces croyances se sont développées dans le monde.
Ces croyances sont présentes dans certains aspects de la théologie chrétienne, bien qu'elles soient devenues populaires sous leur forme moderne aux XIXe et XXe siècles. Des idées comme la douleur éternelle - de nombreuses années de souffrance et d'épreuves - et l'enlèvement, lorsque les justes seront ressuscités et la perversité punie. Après cette destruction, le monde sera reconstruit, ou les gens iront au ciel.
Malgré l'athéisme dogmatique, il y avait de nombreuses croyances similaires dans le marxisme. La seule question est en relation avec l'histoire. Tout comme les croyants recherchent des signaux qui suggèrent l'accomplissement de la prophétie, les marxistes recherchent des signes que nous sommes dans les derniers stades du capitalisme. Ils croient que la société se dégradera inévitablement et dégénérera jusqu'au fond - en fait, comme le croient les chrétiens.
Selon le marxisme, lorsque l'exploitation de la classe ouvrière par les riches devient insoutenable, la classe ouvrière se rassemble et renverse l'oppresseur. «Chagrin» est remplacé par «révolution». Parfois, des figures révolutionnaires comme Lénine ou Marx lui-même sont saluées comme des messies qui rapprochent le millénaire; leur rhétorique contient inévitablement des appels à la destruction de l'ancien système, sur les ruines duquel «nous bâtirons le nôtre, nous bâtirons un monde nouveau». Les travailleurs justes obtiendront leur droit et la bourgeoisie perverse sera détruite.
Vidéo promotionelle:
Même dans la mythologie nordique, il y a un élément de ceci, comme le note James Hughes dans son essai dans le livre de Nick Bostrom, Global Catastrophic Risks. À Ragnarok, les humains et les dieux sont vaincus dans la bataille apocalyptique finale, mais comme tout cela est un peu sombre, les Scandinaves ont ajouté l'idée d'une nouvelle terre sur laquelle les survivants vivront en harmonie.
Doomsday est également devenu un sentier culturel. Prenez les anciens Egyptiens et leurs croyances sur l'au-delà; le seigneur des enfers, Osiris, pèse le cœur d'un mortel avec une plume. Si le cœur du défunt est trop alourdi par les transgressions, le démon le mangera et l'espoir d'une vie après la mort disparaîtra.
Peut-être que quelque chose comme cela se produira pendant la singularité. Au fur et à mesure que notre technologie s'améliorera, et donc notre force, nos cœurs, les cœurs des gens, seront mis en balance avec des plumes. S'ils s'avèrent trop lourds - avec stupidité, arrogance, préjugés, mal - nous échouerons au test et serons détruits. Mais si nous traversons et sortons de la singularité, le ciel nous attend. Comme avec d'autres systèmes de croyance, il n'y a pas de place pour les incroyants; toute la société changera radicalement, que cela vous plaise ou non. Admiration technologique.
Il semble que chaque développement majeur provoque une telle réponse. Et les armes nucléaires aussi. Soit ce sera la dernière goutte et nous nous détruirons, soit l'énergie nucléaire peut être utilisée pour créer un monde meilleur. Au tout début de l'ère nucléaire, les gens parlaient d'électricité «trop bon marché pour être comptée». Les scientifiques qui ont travaillé sur la bombe pensaient souvent qu'avec un tel pouvoir destructeur entre les mains de l'homme, nous devrions simplement nous rassembler et travailler ensemble en tant qu'espèce.
Lorsque nous voyons la même réponse, maintes et maintes fois, dans des circonstances différentes, émerger dans différents domaines, que ce soit la science, la religion ou la politique, nous devons tenir compte des préjugés humains. Nous aimons les croyances des milléniaux, alors quand l'idée d'une intelligence artificielle qui dépasse l'intelligence humaine surgit, nous imposons immédiatement un schéma familier.
Nous n'aimons pas les faits. Nous n'aimons pas les informations. Nous ne sommes pas aussi rationnels que nous le pensons. Nous créons des récits. Les physiciens observent le monde et nous tissons nos propres observations dans des théories narratives, des histoires sur de minuscules boules de billard qui volent ici et là et se heurtent, ou sur l'espace et le temps qui se plient, se plient et se dilatent. Les historiens essaient de donner un sens à un flot infini d'événements. Nous aimons les histoires: des histoires racontant notre passé, notre présent et elles nous préparent aussi pour l'avenir.
Le récit du millénaire est beau et convaincant. Il vous apporte un changement social. Il peut justifier votre souffrance quotidienne si vous êtes en deuil. Il vous donne l'espoir que votre vie est importante et significative. Cela vous donne une idée des choses qui progressent dans une certaine direction, selon les règles, et pas seulement dans le chaos. Il promet que les justes seront sauvés et les hérétiques punis, même s'il y a de la souffrance sur le chemin. Enfin, le récit millénaire promet le paradis au bout du tunnel.
Nous devons être prudents avec le récit du millénaire lorsque nous pensons au développement technologique, à la singularité et aux risques existentiels. Nous avons crié «loups!» Plusieurs fois quand ils n'étaient pas là. Peut-être que même maintenant, le monde n'est pas au bord du désastre. Bien sûr, cette histoire n'est pas si attrayante. Bien sûr, tout le monde veut une fin enchanteresse.
Mais creusez plus profondément et vous constaterez que les croyances millénaires ne sont pas toujours les plus prometteuses, car elles retirent l'agent humain de l'équation. Il faudra croire aux nuances de gris et abandonner la sinistre apocalypse avec l'IA aux yeux rouges et la fabuleuse utopie avec l'IA toute-puissante qui adore les gens.
Ilya Khel
