Presque tous ceux qui ont plongé même un peu dans le sujet de l'intelligence artificielle doivent en arriver à la conclusion que l'intelligence artificielle nous conduira soit à une terrible apocalypse, soit directement à une utopie fabuleuse. Et il n'y a pratiquement pas d'options intermédiaires. Bien sûr, cela est en partie dicté par le fait que des slogans forts tels que "La fin est proche!" ou, par exemple, "Utopia is coming!" Mais reste…
Cela se résume en partie à la façon dont les gens ressentent le changement, en particulier les grands changements. Le millénarisme n'a rien à voir avec le fait d'être né dans les années 90, d'être un «millénaire» et de se souvenir de la série sur Buffy le vampire vainqueur. C'est un style de réflexion sur l'avenir associé à un sens profond du destin. Le millénarisme est "l'attente que notre monde sera détruit et remplacé par un monde parfait et qu'un rédempteur apparaîtra qui renversera tout mal et pourra réconforter les justes."
En conséquence, les croyances des milléniaux lient étroitement les idées de création et de destruction. Parmi eux, il y a les idées de changements apocalyptiques, énormes et sismiques qui peuvent détruire le tissu de l'ancien monde et construire quelque chose de complètement nouveau. Un système de croyance similaire existe dans de nombreuses grandes religions du monde, et même dans les religions pas très agnostiques et athées, qui croient en la technologie plutôt qu'en les essences divines.
Considérez, par exemple, comment les futuristes anticipent une singularité technologique. Selon Ray Kurzweil, la singularité s'apparente à la création du paradis. Tout le monde sera immortel, car la biotechnologie apparaîtra qui peut guérir nos maladies; et nos cerveaux peuvent être téléchargés sur le cloud; la souffrance et l'inégalité disparaîtront en tant que phénomènes. «Destruction du monde» est remplacé par le terme préféré de la Silicon Valley: disruption, qui est un changement radical dans l'industrie. Et, comme c'est le cas avec d'autres croyances millénaires, votre vision finale dépend fortement de ce que vous attendez: la naissance d'une utopie ou la fin du monde.
Il y a de très bonnes raisons d'être sceptique face à ce genre de réflexion. La plus convaincante de ces raisons est peut-être que toutes les croyances de la génération Y reflètent simplement les attitudes mêmes des gens envers le changement; voyez combien de variations de ces croyances se sont développées dans le monde.
Ces croyances se retrouvent dans des aspects de la théologie chrétienne, bien qu'elles soient devenues populaires sous leur forme moderne aux XIXe et XXe siècles. Des idées telles que la douleur éternelle, de nombreuses années d'épreuves et de souffrances, et l'enlèvement, lorsque les justes sont ressuscités et le mal est puni. Après toute cette destruction, le monde sera recréé, ou les gens iront au ciel.
Malgré l'athéisme dogmatique, il y avait aussi de nombreuses croyances similaires dans le marxisme. La seule question est en rapport avec l'histoire. Tout comme les croyants recherchent des signaux qui peuvent faire allusion à l'accomplissement de toutes les prophéties, les marxistes recherchent des signes que nous sommes dans les derniers stades du capitalisme. Ils croient que la société se dégrade et dégénérera inévitablement jusqu'au fond - en fait, comme le pensent aussi les chrétiens.
Comme le marxisme le soutient, lorsque l'exploitation de la classe ouvrière par les riches est instable, la classe ouvrière se rassemble et renverse l'oppresseur. «Chagrin» est remplacé par «révolution». Parfois, des figures révolutionnaires comme Lénine ou Marx lui-même sont proclamées comme des messies qui rapprochent le millénaire; leur rhétorique contient toujours des appels à la destruction de l'ancien système, sur les ruines duquel «nous bâtirons le nôtre, nous bâtirons un monde nouveau». Les travailleurs justes obtiendront ce qu'ils méritent et la bourgeoisie perverse sera détruite.
Vidéo promotionelle:
Même dans la mythologie nordique, il y a un élément de ceci, comme l'a noté James Hughes dans son essai dans le livre de Nick Bostrom, Global Catastrophic Risks. À Ragnarok, les humains et les dieux sont vaincus dans la bataille apocalyptique finale, mais comme tout cela est un peu sombre, les Scandinaves ont ajouté l'idée d'une nouvelle terre sur laquelle les survivants vivront en harmonie.
Doomsday est également devenu un sentier culturel. Prenez les anciens Egyptiens et leurs croyances sur l'au-delà; le seigneur des enfers, Osiris, pèse le cœur d'un mortel avec une plume. Si le cœur du défunt est trop alourdi par les transgressions, le démon le mangera et l'espoir d'une vie après la mort disparaîtra.
Il se passera probablement quelque chose de similaire pendant la singularité. Au fur et à mesure que notre technologie s'améliorera, et donc notre force, nos cœurs, les cœurs des gens, seront mis en balance avec des plumes. S'ils s'avèrent trop lourds - avec stupidité, arrogance, préjugés, mal - nous échouerons au test et serons détruits. Mais si nous traversons et sortons de la singularité, le ciel nous attend. Comme avec d'autres systèmes de croyance, il n'y a pas de place pour les incroyants; toute la société changera radicalement, que cela vous plaise ou non. Admiration technologique.
Chaque développement majeur semble provoquer une réponse similaire. Et les armes nucléaires aussi. Soit ce sera la dernière goutte et nous nous détruirons, soit l'énergie nucléaire peut être utilisée pour créer un monde meilleur. Au tout début de l'ère nucléaire, les gens parlaient d'électricité «trop bon marché pour être comptée». Les scientifiques travaillant sur la bombe pensaient souvent qu'avec un tel pouvoir destructeur entre les mains des humains, nous devrions simplement nous rassembler et travailler ensemble en tant qu'espèce.
Lorsque nous voyons la même réponse, maintes et maintes fois, dans des circonstances différentes, surgir dans différents domaines, que ce soit la science, la politique ou la religion, nous devons considérer les préjugés humains. Nous aimons les croyances des milléniaux, alors quand l'idée d'une intelligence artificielle qui dépasse l'intelligence humaine surgit, nous imposons immédiatement un schéma familier.
Nous n'aimons pas les faits. Nous n'aimons pas les informations. Nous ne sommes pas aussi rationnels que nous le pensons. Nous créons des récits. Les physiciens observent le monde et nous tissons nos propres observations dans des théories narratives, des histoires sur de minuscules boules de billard qui volent ici et là et se heurtent, ou sur l'espace et le temps qui se plient, se plient et se dilatent. Les historiens essaient de donner un sens à un flot infini d'événements. Nous aimons les histoires: des histoires racontant notre passé, notre présent et elles nous préparent aussi pour l'avenir.
Le récit du millénaire est très beau et convaincant. Il vous apporte un changement social. Il peut justifier votre souffrance quotidienne si vous êtes en deuil. Il vous donne l'espoir que votre vie est importante et significative. Cela vous donne une idée des choses qui progressent dans une certaine direction, selon les règles, et pas seulement dans le chaos. Il promet que les justes seront sauvés et les hérétiques punis, même s'il y a de la souffrance sur le chemin. Enfin, le récit millénaire promet le paradis au bout du tunnel.
Nous devons être prudents avec le récit du millénaire lorsque nous pensons au développement technologique, à la singularité et aux risques existentiels. Nous avons crié «loups!» Plusieurs fois quand ils n'étaient pas là. Peut-être que même maintenant, le monde n'est pas au bord du désastre. Bien sûr, cette histoire n'est pas si attrayante. Bien sûr, tout le monde veut une fin enchanteresse.
Mais creusez plus profondément et vous constaterez que les croyances millénaires ne sont pas toujours les plus prometteuses, car elles retirent l'agent humain de l'équation. Il faudra croire aux nuances de gris et abandonner la sinistre apocalypse avec l'IA aux yeux rouges et la fabuleuse utopie avec l'IA toute-puissante qui adore les gens.
