Tout le monde se souvient des trois lois de la robotique, formulées par Isaac Asimov dans les années 1940. À l'époque, l'avenir habité par des robots ressemblait à de la fantaisie, mais ces derniers temps, les robots sont devenus une réalité. Et il s'est avéré que trois lois pour réglementer la relation entre les robots et les humains ne suffisent pas. Nous avons demandé à Oksana Moroz, culturologue, professeur agrégé du RANEPA et du MSSES, de nous parler des problèmes éthiques que pose l'intrusion de robots dans nos vies.
La robotique se développe à un rythme si rapide qu'il semble que dans un futur proche les machines deviendront des partenaires permanents de l'homme dans presque tous les domaines d'activité. Les experts s'attendent déjà à une augmentation de la diffusion des robots sociaux et, d'ici 2020, ils prévoient le développement généralisé des entreprises «intelligentes». La machine n'est pas en tant que participant au soulèvement contre l'humanité, mais en tant qu'assistant, élément nécessaire et utile d'une société technocratique - telle est l'image qui se pose lorsque l'on regarde le dialogue entre l'intelligence artificielle et ses créateurs.
Ce rapprochement donne lieu à une lutte pour réguler les relations entre les individus de nature humaine et non humaine. Au cours de l'année écoulée, la légitimation des droits des robots, le mouvement pour la reconnaissance de la machine comme sujet de droit sont devenus partie intégrante de l'agenda politique - il suffit de rappeler les histoires de la gynoïde Sophia, qui a obtenu la citoyenneté, ainsi que la publication de la résolution du Parlement européen, qui a esquissé les normes de droit civil sur la robotique et posé les bases de l'avenir. La charte de la robotique.
La création de tous ces documents peut ressembler à un jeu politique de futurologie. Cependant, de telles conventions sont nécessaires maintenant - ne serait-ce que parce que l'humanité implique des machines dans des relations qui nécessitent une réglementation juridique et la définition d'obligations mutuelles. Et les trois lois de la robotique d'Isaac Asimov peuvent difficilement être considérées comme suffisantes - à la fois d'un point de vue éthique et encore plus formel - pour soutenir de telles interactions.
Par exemple, les ingénieurs se précipitent pour développer un nouveau type d'assistant robotique qui peut non seulement soulager la solitude, mais également satisfaire le besoin humain naturel de plaisir sexuel. Et alors que les tabloïds diffusent des informations sur la création d'androïdes avec des pénis bioniques, les militants ont sérieusement peur de l'impact négatif des machines sur les pratiques intimes humaines. Dans un contexte de scandales de harcèlement qui se multiplient constamment, l'avenir, dans lequel potentiellement toutes les habitudes sexuelles sont satisfaites avec une poupée sexuelle résignée, ne semble que sans nuages.
Les gens encore, apparemment, ne savent pas toujours comment négocier les limites des comportements sexuels permis, acceptables et indésirables, en général ils ne sont pas souvent enclins à discuter de cet aspect de la relation dans un mode de dialogue entre partenaires. Lorsque les machines - programmées pour répondre docilement à tous les souhaits du propriétaire et équipées d'algorithmes pour étudier ses goûts - tombent dans une zone de régulation aussi difficile à formaliser mais nécessitant une sorte de zone de régulation, elles ne ressemblent qu'à première vue au salut.
En fait, ils déshumanisent le sexe, en font un processus d'utilisation d'un objet privé de tout droit de vote et de volonté. Et, selon les militants des droits de l'homme, en conséquence, ils provoquent le développement de la misogynie et de la misandrie. Une personne est capable de ressentir de la sympathie même pour les robots les plus anthropomorphes, de sympathiser avec eux. Les machines extrêmement anthropomorphes sont beaucoup plus faciles à devenir l'objet d'émotions, implicitement basées sur la reconnaissance de la présence d'une certaine identité dans l'objet programmé. L'habitude d'utiliser des robots sexuels, dont l'identité est faite d'attractivité extérieure et d'humilité d'activité, de soutien et de satisfaction de toutes les exigences du propriétaire, peut conduire à la reconnaissance comme norme uniquement d'un tel comportement vis-à-vis. Et même - pour transférer aux personnes vivantes une telle forme de relation,voire de refuser de communiquer avec des partenaires «bio».
À propos, les robots sont bons non seulement au lit, mais aussi en temps de guerre. Au moins l'une des tristement célèbres créatures à quatre pattes de la société Boston Dynamics a été produite avec un financement direct du Bureau des projets de recherche avancée du département américain de la Défense conformément au programme Maximum Mobility and Manipulation. L'utilisation de drones dans la lutte contre le terrorisme international et, en général, dans les opérations militaires menées au Moyen-Orient dans le cadre des conflits dits de faible intensité est une histoire qui ne pouvait être qualifiée de secrète que dans les années 2010.
Vidéo promotionelle:
Certains experts estiment généralement que la numérisation de la guerre est une conséquence de la bulle Internet - l'utilisation de nouvelles technologies a alors servi à accroître l'efficacité des entreprises traditionnelles. Et qu'est-ce qui pourrait être une activité lucrative plus traditionnelle et classique que la guerre?
D'autres experts estiment que le prix que les États et les citoyens paient pour numériser la guerre est trop élevé. L'incapacité d'éliminer complètement le facteur humain du processus de destruction à distance des victimes conduit à l'émergence de nouvelles formes de SSPT chez les opérateurs de drones. Et des méthodes totalement adéquates de traitement de cette maladie n'ont pas encore été trouvées. De plus, reconnaître officiellement ce type de service comme potentiellement traumatisant signifie nuire à l'image de bonheur qui se crée par tous les moyens autour d'opérations militaires à distance.
D'autre part, le développement de la robotique et en particulier de l'intelligence artificielle, dont les solutions ne sont pas toujours claires même pour les développeurs, n'est pas simplement une autre étape dans la résolution du problème de l'automatisation de la guerre en tant que type d'activité humaine très gourmande en ressources et en énergie. Il s'agit d'une intrusion fondamentale dans les conventions éthiques existantes qui ont été incluses dans les lois de la guerre pendant des siècles et qui, à l'époque moderne, ont servi de base à tout un ensemble de normes et de principes juridiques - le droit international humanitaire. Il s'agit de l'inclusion de la logique mathématique et des algorithmes dans l'équation, dont certaines parties étaient «humaines, trop humaines». Ensemble, créer quelque chose qui peut apprendre, mais qui ne sait certainement pas comment faire des choix moraux - c'est-à-dire n'a pas une compétence très importante pour discuter des questions de vie ou de mort.
Il est extrêmement intéressant d'observer l'infini des paradoxes éthiques qui accompagnent la coopération naissante entre des systèmes robotiques prétendant posséder une sorte d'identité et d'humanité. Cependant, les perspectives de collaboration entre les personnes et les machines deviendront vraiment intéressantes lorsque nous nous familiariserons non pas avec les hypothèses fantastiques d'écrivains ou d'évangélistes informatiques sur ce qui préoccupent les robots, mais avec l'opinion des créatures vivantes de nature non humaine elles-mêmes.
Oksana Moroz