Connaissez-vous l '«expérience de minecart» mentale? Il a été formulé pour la première fois en 1967 par le philosophe anglais Philip Foote, mais a ensuite reçu des interprétations légèrement différentes. Le concept classique de l'expérience est de trouver une réponse à la question suivante: «Un chariot lourd et incontrôlable se précipite sur les rails. Sur son chemin, cinq personnes sont attachées aux rails par un philosophe fou. Heureusement, vous pouvez basculer l'interrupteur - puis le chariot passera sur un revêtement différent. Malheureusement, il y a une personne sur le revêtement, également attachée aux rails. D'une manière ou d'une autre, le résultat de votre choix est le salut à la mort - une personne ou un groupe de cinq mourra. Quelles sont vos actions?
Différentes versions de Trolley Problems traitent différentes combinaisons de victimes potentielles. Dans l'un, un choix est donné entre un groupe de criminels et une personne complètement innocente, dans l'autre, il est proposé de faire un choix en faveur d'une personne en bonne santé et d'un groupe de patients gravement malades, dans le troisième, il est proposé de mettre la vie d'un grand chirurgien d'un côté de la balance et d'un enfant de l'autre. Il existe de nombreuses options, mais elles tournent toutes autour de la capacité d'une personne à prendre des décisions rationnelles de nature morale.
Dans une nouvelle étude, une équipe de scientifiques de l'Université de Nimègue aux Pays-Bas et de l'Université Ludwig-Maximilians de Munich (Allemagne) a décidé de mener une «expérience de chariot» similaire, mais cette fois, les participants ont été invités à choisir entre un robot humain et un robot humanoïde. Les résultats étaient assez intéressants. Dans certaines circonstances, les gens étaient prêts à sauver le robot en sacrifiant la vie humaine. Les scientifiques ont publié leurs résultats dans la revue Social Cognition.
Les robots modernes sont utilisés dans de nombreux domaines. Ce n'est pas seulement une question de production. Ils commencent à être utilisés à la maison, dans les magasins, dans les hôpitaux, dans les hôtels comme aides. Avec le développement de la robotique et de l'intelligence artificielle, ces machines deviennent de plus en plus «intelligentes». Les robots sont souvent utilisés pour effectuer des tâches très complexes et même dangereuses. Par exemple, les armées modernes utilisent des machines pour rechercher des engins explosifs et les miens. Les observations montrent qu'une personne est capable de s'attacher à une machine. Et plus cet attachement est élevé, plus la réponse émotionnelle peut être élevée si le robot est détruit.
Les chercheurs se sont donné pour tâche de comprendre à quel point l'empathie humaine pour les machines peut s'étendre et quels principes moraux peuvent influencer notre comportement envers ces machines, d'autant plus que les robots modernes deviennent de plus en plus anthropomorphiques. Selon Neissen, il y a très peu de recherches pour étudier ce problème à ce jour.
La question centrale de la nouvelle étude était: dans quelles circonstances et dans quelle mesure les gens seraient-ils prêts à sacrifier un robot pour sauver des vies humaines? Les scientifiques ont invité un groupe de volontaires à participer à l'expérience. Les participants étaient confrontés à un dilemme moral: sauver un ou plusieurs individus. Dans le même temps, on a demandé aux gens de choisir d'abord entre un robot anthropomorphique et un robot ordinaire qui ne ressemble pas à une personne, puis entre une personne et un robot ordinaire, et ensuite entre une personne et un robot anthropomorphique.
L'étude a révélé que plus «d'humanité» était attribuée au robot, plus le choix devenait difficile pour les participants. Bien sûr, dans une situation où il y avait une voiture ordinaire sur un chemin, et une personne ou un robot humanoïde sur l'autre, le choix des participants à l'expérience était simple et évident. Mais tout est devenu plus compliqué quand, avant qu'une personne ne soit confrontée au choix entre un robot humanoïde et une personne - les gens ont commencé à douter plus longtemps, notent les chercheurs. Lorsque les participants à l'expérience ont imaginé le robot comme une créature avec une conscience, ses propres pensées, expériences, expériences et émotions, les gens étaient moins susceptibles de le sacrifier au profit d'une personne totalement inconnue.
Les chercheurs étaient très préoccupés par ces résultats. Selon eux, si les gens commencent à «humaniser» les machines, cela nous privera de l'opportunité de les utiliser aux fins selon lesquelles elles ont été créées à l'origine. Afin de ne pas faire face à une telle situation à l'avenir, lorsque les machines deviendront vraiment autant que possible des personnes, les auteurs de l'étude proposent de développer un concept de cadre du nombre maximum admissible de traits humains «mis» dans un robot.
Panique prématurée
La question de l'humanisation des robots et des conséquences de cette humanisation est-elle si urgente en ce moment? Sommes-nous loin de ce tournant, où la frontière entre les humains et les robots humanoïdes sera si floue qu'il sera problématique de répondre à la question de savoir qui est devant vous - une voiture ou une personne? Quelles sont les vraies conséquences de tout cela qui nous attend?
Selon l'expert, les histoires effrayantes et mystiques associées à l'intelligence artificielle, aux robots humanoïdes et à la souffrance qu'ils peuvent apporter dans nos vies viennent directement des médias de masse. Dans le même temps, l'expert estime que dans une situation hypothétique, le choix entre une machine et une personne dépendra principalement de la sympathie de la personne choisissant l'un ou l'autre camp.
Nikolay Khizhnyak
