Si vous avez déjà joué à des jeux de rôle - que ce soit en ligne ou dans la cour à l'ancienne - vous savez combien il est facile de s'attacher à votre avatar, c'est-à-dire de s'habituer au rôle du "voleur cosaque". Vous ressentez littéralement de la douleur lorsqu'un personnage est battu par un troll, rôti par un dragon ou tué par un chaman. Le sociologue américain (et joueur passionné) William Sims Bainbridge a poussé cette relation encore plus loin en créant des représentations virtuelles de 17 membres de la famille décédés. Dans un essai de 2013 sur les avatars en ligne, il envisage un moment où nous pouvons charger notre personnalité dans une simulation artificielle et intelligente de nous-mêmes qui peut agir indépendamment de nous et même rester après notre mort.
Quel genre de responsabilité pouvons-nous attribuer à ces personnes simulées? Alors que nous nous méfions des jeux informatiques violents, personne ne considère sérieusement comme un meurtre de saper un attaquant virtuel. Cependant, il n'est plus absurde d'imaginer qu'une fois modélisés, des personnes existeront et auront également un certain degré d'autonomie et de conscience. De nombreux philosophes croient qu'un esprit comme le nôtre n'a pas à être stocké dans le réseau de neurones de notre cerveau, mais pourrait exister dans divers types de systèmes matériels. S'ils sont corrects, il n'y a aucune raison de croire que des ordinateurs suffisamment puissants ne pourraient pas stocker la conscience dans leurs puces.
Allez-vous tuer une mouche numérique?
Aujourd'hui, de nombreux philosophes moraux tentent de comprendre l'éthique du changement de la population humaine et posent des questions comme celles-ci: quel est le coût de la vie humaine? Quel genre de vie devons-nous nous efforcer de façonner? Quelle valeur devrions-nous investir dans la diversité humaine? Mais quand il s'agit de l'éthique de la gestion des entités modélisées, il n'est pas tout à fait clair si nous devrions nous fier à la même logique et à l'intuition que nous utilisons dans notre monde de chair et de sang. Au plus profond de notre âme, nous nous sentons mal de tuer un chien ou même une mouche. Mais la désactivation de la mouche - ou du modèle du cerveau humain - tuerait-elle? Lorsque la «vie» prend de nouvelles formes numériques, notre propre expérience ne peut plus servir de compagnon moral fiable.
Adrian Kent, physicien théoricien à l'Université de Cambridge, a décidé d'explorer cette lacune du raisonnement moral. Supposons que nous ayons appris à imiter la conscience humaine sur un ordinateur à moindre coût et simplement, écrit-il dans l'un des articles. Nous souhaitons offrir à cette créature virtuelle un environnement de communication riche et enrichissant - une vie qui vaut la peine d'être vécue. Peut-être pourrions-nous le faire avec de vraies personnes en scannant leur cerveau en détail et en les reproduisant sur un ordinateur. On peut imaginer comment une telle technologie «sauve» les gens d'une maladie mortelle; certains transhumanistes y voient le chemin vers la conscience immortelle.
Bien sûr, tout cela pourrait être une chimère - mais supposons le contraire. Maintenant, mettons la main sur un ensemble de principes moraux utilitaires introduits par Jeremy Bentham à la fin du 18e siècle et affinés par la suite par John Stuart Mill. Tout bien considéré, a dit Bentham, nous devrions nous efforcer d'apporter un maximum de bonheur (ou «utilité») au plus grand nombre de personnes possible. Ou, selon les mots de Mill, «les actions sont justifiées proportionnellement à leur bonheur, et non justifiées si elles conduisent à un manque de bonheur».
Les principes de bonne conduite ont de nombreux critiques. Par exemple, comment pouvons-nous mesurer ou comparer les types de bonheur - peser la valeur de l'amour d'une grand-mère, par exemple, sur la même échelle avec l'admiration d'un pianiste de concert virtuose? «Même si vous voulez prendre l’utilitarisme au sérieux, vous ne savez pas quelles qualités vous mettez dans vos calculs», dit Ken. Cependant, la plupart des systèmes de croyance reconnaissent aujourd'hui par défaut qu'une boussole morale qui pointe vers un plus grand bonheur est définitivement préférable à celle qui en détourne le regard.
Vidéo promotionelle:
Selon le scénario de Kent, si nous partons de motifs utilitaires, on peut penser que nous devons aller de l'avant et multiplier nos créatures modélisées ou simulées - appelons-les sims - sans restrictions. Dans le monde réel, une telle procréation incontrôlée présente des inconvénients évidents. Les gens souffriront, émotionnellement et économiquement, avec une famille nombreuse; la surpopulation exerce déjà une pression sur les ressources mondiales, et ainsi de suite. Mais dans le monde virtuel, il se peut qu'il n'y ait pas de telles limites. Vous pouvez créer une utopie avec des ressources presque illimitées. Pourquoi, alors, ne pouvez-vous pas créer autant de mondes que possible et les remplir de Sims joyeux?
Notre intuition suggère la réponse: mais pourquoi? Peut-être qu'un sim conscient n'aura tout simplement pas la même valeur intrinsèque qu'une personne de chair et de sang? Ce point est exprimé par Michael Medery, un éthicien de la philosophie de l'esprit et de la réalité virtuelle à l'Université de Tulane à la Nouvelle-Orléans, et estime qu'il devrait être pris au sérieux.
Certains philosophes pensent que nous pouvons être nous-mêmes des êtres simulés similaires. Nous ne pouvons tout simplement pas exclure une telle possibilité, mais nous considérons néanmoins ces questions comme significatives. On pourrait donc également supposer que les Sims ont le droit de poser des questions.
Kent pose à nouveau la question: qu'est-ce qui serait plus correct - pour créer une population de créatures identiques ou complètement différentes? De toute évidence, il serait plus efficace de créer des créatures identiques - suffisamment d'informations sur l'une d'entre elles pour en créer N. Mais notre instinct nous dit que la diversité a un sens et une valeur. Et pourquoi, je me demande s'il n'y a aucune raison de croire que N individus différents seront plus heureux que N individus identiques.
L'approche de Kent est que des vies différentes sont préférables à plusieurs copies de la même. «Je ne peux pas me débarrasser de l'idée qu'un univers avec un milliard d'émulations identiques indépendantes d'Alice sera moins intéressant et de moins bonne qualité qu'un univers avec un milliard d'individus différents», dit-il. Il appelle ce concept d'infériorité de réplication.
Si nous considérons le cosmos habité par des milliards d'Alice, vaut-il même la peine de parler d'une vie, multipliée plusieurs fois, ou parlons-nous d'une seule vie, répartie sur plusieurs mondes. Il peut en résulter que de nombreuses Alice dans un environnement identique n'auront pas plus d'une valeur. Il appelle ce scénario l'inutilité de la réplication. «Je suis enclin à cette opinion», dit Kent, admettant cependant qu'il ne trouve pas d'argument irréfutable pour sa défense.
L'expérience de pensée de Kent touche à plusieurs vieux mystères de la philosophie morale qui n'ont jamais été résolus. Le philosophe anglais Derek Parfit, décédé l'année dernière, s'est adressé à eux dans son ouvrage monumental sur la personnalité et le moi, Reasons and Personalities (1984). Parfit a réfléchi à des questions telles que combien de personnes devrait-il y avoir, et s'il sera toujours moralement préférable d'ajouter une vie digne d'être vécue à l'agitation du monde lorsque nous en aurons l'occasion.
Même si l'on accepte le point de vue utilitaire, il y a le problème de trouver le plus grand bonheur pour le plus grand nombre: le double critère crée l'ambiguïté. Par exemple, imaginez que nous contrôlions le nombre de personnes vivant dans un monde aux ressources limitées. On pourrait penser qu'il devrait y avoir un nombre optimal de personnes qui (en principe) utiliseront au mieux les ressources pour assurer le bonheur et la prospérité pour tous. Mais n'y aurait-il pas place dans une telle utopie pour une autre personne? Ne serait-il pas acceptable de diminuer un peu le bonheur de chacun pour assurer une autre vie heureuse?
Le problème est que ce processus n'a pas de fin. À mesure que le nombre augmente, le bonheur supplémentaire de nouvelles vies peut l'emporter sur les coûts de ceux qui sont déjà en vie. En fin de compte, dit Parfit, vous arrivez à une "conclusion dégoûtante": un scénario dans lequel le meilleur résultat serait une population gonflée de personnes désespérément malheureuses, mais mieux loties que de n'avoir aucune vie. Pris ensemble, leurs maigres bribes de bonheur totalisent plus que la somme d'un petit nombre de personnes vraiment heureuses. «Il m'est difficile d'accepter cette conclusion», écrit Parfit, mais pouvons-nous justifier cette approche? Kent ne sait pas. "Je ne sais pas s'il peut y avoir une décision équilibrée sur l'inférence dégoûtante", dit-il.
Au fond de cette question se trouve ce que Parfit a appelé le «problème de la non-identité»: comment raisonner rationnellement sur les questions des individus inquiets si leur existence même dépend des choix que nous faisons (comme trouver une place pour «un de plus»)? Peser le pour et le contre qui peuvent affecter un individu, selon les décisions que nous prenons, n'est, en principe, pas si difficile. Mais étant donné la possibilité que ce caractère n'ait jamais existé, nous ne savons plus comment calculer. Comparé à zéro ou au néant, tout sera gagnant, donc même les pires scénarios d'existence peuvent être moralement justifiés.
Il y a un autre scénario très étrange dans ce jeu de population utilitaire. Et s'il y avait des gens avec un tel besoin de bonheur qu'ils exigeraient plus des autres qu'ils ne pourraient se permettre de donner? Le philosophe américain Robert Rozick a qualifié cette création de "monstre utilitaire" et l'a critiquée dans son livre Anarchy, State and Utopia (1974). Selon Nozick, cette image "nous obligera tous à nous sacrifier pour le bien du monstre afin d'augmenter notre utilité globale". Une grande partie du livre de Parfit était une tentative - finalement infructueuse - d'échapper à la fois à la conclusion hideuse et au monstre utilitaire.
Revenons maintenant aux mondes virtuels de Kent pleins de Sims et à son principe de réplication incomplète - quand un certain nombre de vies différentes valent plus que le même nombre de vies identiques. Cela nous permettra peut-être d'éviter la hideuse conclusion de Parfit. Malgré ce que disait Léon Tolstoï à propos de l'inégalité des familles malheureuses au début d'Anna Karénine (1878), il semble qu'un grand nombre de vies malheureuses seront à peu près les mêmes dans leur triste tristesse. Par conséquent, il ne sera pas possible de les récupérer et d'augmenter le bonheur global goutte à goutte.
Mais de la même manière, l'infériorité de la réplication pardonne le monstre utilitaire - par définition, il doit être unique, et donc plus «valable», comparé à l'inévitable similitude des vies qui le nourrissent. Cette décision ne nous satisfait pas non plus. «Ce serait bien si les gens réfléchissaient davantage à ces problèmes», admet Kent. "Je suis un peu déconcerté par eux."
Pour l'économiste libertaire américain Robin Hanson, professeur d'économie à l'université George Mason en Virginie, ces réflexions ne sont pas tant des expériences mentales que des prédictions sur l'avenir. Son livre "The Age of Em" présente une société dans laquelle tous les gens téléchargent leur conscience dans un ordinateur pour vivre leur vie sous la forme d '"émulations" (pas des sims, mais des emas). «Des milliards de ces téléchargements pourraient vivre et fonctionner dans un immeuble de grande hauteur, et il y aurait de la place pour tout le monde», écrit-il.
Hanson a examiné en détail comment une telle économie pourrait fonctionner. Les Ems peuvent être de n'importe quelle taille - certains d'entre eux seront très petits - et le temps peut s'écouler différemment pour eux par rapport aux humains. Il y aura une surveillance étroite et un petit salaire, mais ems peut se débarrasser de cette souffrance en choisissant une vie sans travail. (Hanson pense que nous pouvons déjà vivre dans un tel monde.)
Ce scénario permet la possibilité de duplication de lui-même, puisque l'esprit a déjà été transféré vers l'ordinateur, donc faire des copies sera assez simple. Hanson dit que le problème de l'identité dans ce cas est flou: les doublons sont «la même personne» au départ, mais progressivement leur identité diverge lorsqu'ils commencent à vivre séparément.
Hanson suggère que la duplication de personnes sera non seulement possible, mais souhaitable. Dans l'ère à venir des émeus, les personnes ayant des capacités mentales particulièrement précieuses seront "chargées" plusieurs fois. Et en général, les gens voudront de toute façon faire plusieurs copies d'eux-mêmes comme forme d'assurance. «Ils peuvent préférer la redondance dans leur propre implémentation pour s'assurer qu'ils peuvent survivre à des catastrophes inattendues», dit Hanson.
Mais il ne pense pas qu'ils préféreraient le scénario de Kent de vies identiques. Ems «n'accordera aucune valeur particulière au fait de vivre la même vie à des moments et dans des lieux différents. Ils investiront de la valeur dans des copies multiples parce que ces copies peuvent fonctionner ou communiquer avec d'autres. Mais ce type de travail et de relation exigera que chaque copie soit causalement indépendante et que leurs histoires soient entrelacées en fonction des tâches ou en tant que partenaires.
Dans tous les cas, ils devront faire face à des difficultés morales que nous ne pouvons pas encore surestimer. «Je ne pense pas que la moralité des humains soit assez générale ou suffisamment solide pour donner des réponses confiantes à des situations comme celle-ci, qui sont si éloignées de« l'expérience »de nos ancêtres», dit Hanson. "Je prédis que les émeus auront de nombreuses opinions contradictoires sur de telles choses."
Ems, sims et notre futur virtuel
Maintenant, tout cela peut sembler très étrange, comme les discours médiévaux apocryphes sur les anges dansant sur la pointe des pieds. Pourrons-nous jamais créer une vie virtuelle qui ressemblera à la vraie vie? «Je ne pense pas que quiconque puisse dire avec certitude si cela est possible ou non», dit Kent, en partie parce que «nous n'avons pas une bonne compréhension scientifique de la conscience».
Même ainsi, la technologie progresse et ces questions restent ouvertes. Le philosophe suédois Nick Bostrom de l'Institut pour l'avenir de l'homme, a fait valoir que la puissance de calcul disponible pour la civilisation «posthumaine» permettrait de simuler facilement des créatures qui vivent dans le monde et de le sentir aussi réel que nous le nôtre. (Bostrom pense également que nous pourrions vivre dans une telle simulation.) Mais se demander comment nous pouvons peupler de tels mondes présente "un véritable dilemme pour les programmeurs, les scientifiques et les législateurs du futur, bien que pas si lointain", dit Kent.
Le scénario de Kent peut déjà avoir des implications dans le monde réel. Les arguments de maximisation de l'utilité et le problème de la non-identité se posent dans les discussions sur la promotion et la prévention de la conception humaine. Quand faut-il refuser de concevoir en cas de risque, par exemple, développer des anomalies chez un enfant? Aucune des nouvelles méthodes ne garantit une sécurité totale et n'est jamais garantie, mais la FIV ne serait jamais réalisée si c'était une condition préalable. Une telle technique devrait atteindre un certain seuil de risque. Mais l'approche utilitariste remet en question cette idée.
Et si une nouvelle méthode de procréation assistée présentait un risque modéré de développer de petites anomalies à la naissance, telles que des taches de naissance? (C'est un vrai argument: l'histoire de Nathaniel Hawthorne en 1843 raconte l'histoire d'un alchimiste qui a tenté, avec des conséquences fatales, d'enlever la marque à sa femme, a cité le US Bioethics Council de 2002.) Il est difficile de dire que les personnes marquées d'une telle tache seront pires que les autres et ne devraient donc pas être prises en compte par la méthode. Mais où doit-on tracer la ligne? Quand est-il préférable de ne pas appliquer du tout une anomalie congénitale?
Certains ont évoqué ce dilemme pour défendre le clonage humain. Les dangers, tels que la stigmatisation sociale ou les motivations et attentes déformées des parents, l'emporteront-ils sur les avantages de donner la vie. Qui sommes-nous pour faire le choix de l'humain cloné? Qui serons-nous si nous faisons ce choix avant même que l'homme n'existe?
Ce genre de raisonnement semble nous obliger à prendre des décisions divines. Mais une observatrice féministe pourrait penser que nous sommes victimes d'une version du fantasme de Frankenstein. En d'autres termes, n'est-ce pas un groupe d'hommes qui rêvent de commencer enfin à fabriquer des gens alors que les femmes le font depuis des siècles? Le sentiment de nouveauté qui conduit à toutes ces controverses a une saveur patriarcale.
Même ainsi, la perspective de la conscience virtuelle soulève des questions éthiques très fraîches et fascinantes - qui, selon Kent, nous amènent à remettre en question la valeur intuitive que nous accordons à la vie et à la démographie. Il est extrêmement difficile de voir un argument solide en faveur du fait qu'un certain nombre de vies différentes seront moralement meilleures que le même nombre de vies identiques. Pourquoi le pensons-nous? Comment pouvons-nous nous débarrasser des préjugés?
On pourrait dire que l'homogénéité perçue dans les populations humaines érode la capacité d'empathie et de raisonnement éthique. La foule «sans visage», à laquelle se heurte l'individu, est un cliché familier qui évoque un sentiment d'héroïsme. Mais ce n'est pas forcément correct.
Peut-être avons-nous une aversion évolutive pour les mêmes individus, surtout quand on considère que la diversité génétique d'une population assure sa survie? Pensez simplement aux films sur des jumeaux ou des clones identiques - cela n'a pas toujours l'air bien. Cela semble même inquiétant. En 1919, Sigmund Freud associe ce sentiment à l'idée d'un double maléfique (sosie). Et si cela est encore compréhensible dans le cas de jumeaux identiques, une centaine de personnages «identiques» auront l'air terrible.
Il ne semble pas que nous allons bientôt faire face à des armées de doublons, dans le monde réel ou virtuel. Mais la valeur des expériences de pensée est qu'elles vous donnent une nouvelle façon de donner un sens aux questions du monde. En imaginant l'éthique de notre relation avec les Sims, nous découvrons une logique fragile ou inexistante que nous utilisons instinctivement pour peser la valeur morale de nos propres vies.
Ilya Khel
