Les robots évoluent rapidement - le moment approche où ils rempliront les rues, les bureaux, les appartements et même nos corps. Sommes-nous prêts à coexister avec des machines qui se comportent comme des humains et sont déjà en concurrence avec nous pour des emplois? De nombreux problèmes humanitaires se posent.
Que pouvez-vous confier à un robot et que vaut-il mieux refuser? Est-il capable de prendre des décisions, ressentir des émotions, a-t-il un certain libre arbitre et est-il responsable de ses actes? Comment intégrer les robots dans la société? Ces questions semblent naïves. Tandis que. Mais il se peut que les réponses à ces questions décideront du sort de notre civilisation.
Lorsque les lumières se sont éteintes, une mélodie chaude de ceux qui accompagnent habituellement les mannequins sur le podium a commencé à jouer. Et nous (le personnel du magazine Schrödinger Cat) avons vu deux énormes yeux rouges en forme de cœur. Le robot a abordé le public avec dignité et grâce. Les yeux se sont transformés en deux cercles bleus, rayonnant de bonnes intentions et d'une naïveté enfantine, les mains tendues vers les gens. La lumière a été rallumée.
- Alantim! - le chef du projet Promobot et le chef du département de robotique de l'Institut de technologie de Moscou (MTI) Alexey Yuzhakov l'ont présenté au public. - En 2012, nous l'avons appelé Promobot, puis le surnom offensif de Monument lui est resté, puis il avait le nom sonore Bogdan, mais maintenant il est Alantim - en l'honneur des créateurs du nouveau monde Alan Turing et Tim Berners-Lee.
Photo: Skoltech / kot.sh
Alantim faisait toujours des allers-retours et allait parler aux journalistes, les comblant de blagues et d'histoires sur la façon dont les robots saisiraient le pouvoir sur Terre et le renommeraient Promobotia. Une file de filles s'est immédiatement alignée sur lui, souhaitant être photographiées avec une créature aussi mignonne. Alantim a rencontré les filles, répondu aux questions sur le sens de la vie et le taux de change du dollar et s'est souvenu de tout le monde.
Ainsi, le premier jour de travail du nouveau chef adjoint du département de robotique de l'Institut de technologie de Moscou, le robot Alantim, est passé.
Vidéo promotionelle:
Une voiture de caractère
Alantim n'est pas une créature unique. L'équipe de Perm, qui a créé des promobots, a déjà vendu 60 de ces appareils et a signé cette année des contrats pour 124 autres, remplissant pratiquement le plan annuel panrusse de fourniture de robotique de service - seuls environ 200 robots de service domestiques ont été vendus en 2014.
Un promobot est un robot autonome de caractère, conçu pour travailler dans des lieux bondés: promoteur, guide, showman. Il sait reconnaître certaines émotions de l'interlocuteur, est capable de comprendre la question qui lui est adressée et de trouver la réponse sur le Web, et s'il ne comprend pas la question, il essaie d'en rire.
En attendant, nous sommes allés à la tête d'Alantim - Vice-recteur du MIT Evgeny Pluzhnik
[Le chat de Schrödinger] Comment avez-vous eu l'idée d'embaucher un robot pour l'organisation?
[Grigory Bubnov] Nous venons de réaliser que tôt ou tard, le moment viendra où les robots seront embauchés. Et nous avons décidé de devenir des pionniers.
[KSh] Ce n'est donc pas pour rien qu'ils disent que les robots revendiquent nos emplois
[GB] Ce n'est en fait pas une blague, mais une menace très sérieuse, en particulier dans les zones où un grand nombre de personnes sont employées. Je pense, par exemple, que déjà dans cette décennie, les voitures à contrôle autonome seront largement vendues, et qu'après cela, de nombreux conducteurs se retrouveront sans travail. Les gouvernements seront inévitablement confrontés à ce défi - ils doivent commencer à réfléchir à la création de nouveaux emplois et aux programmes de recyclage.
[KSh] Comment pensez-vous utiliser Alantim? Tout comme un jouet voyant?
[GB] Pas seulement! Par exemple, il a une tâche de recherche - accumuler des données sur la communication des robots avec les gens, étudier les réactions individuelles aux robots. Ces informations aideront à rendre l'apparence et le comportement des futures modifications d'Alantim plus humains et plus confortables pour la communication.
Photo: Skoltech / kot.sh
[KSh] Quel genre d'informations recueille-t-il?
[GB] Tout d'abord, des données sur les réactions à son comportement - il a un système pour reconnaître les émotions. Par exemple, comment les autres réagissent-ils quand il lève la main? Et si sa manière de faire quelque chose leur faisait peur? Nos gestes ont été aiguisés par l'évolution - nous n'hésitons pas, disons, à nous gratter l'arrière de la tête - et avec un robot nous devons encore aller jusqu'au comportement «naturel». Au fait, il se souvient des gens en les photographiant.
Mais il peut y avoir des problèmes: les images de personnes sont considérées comme des données personnelles, et il existe une loi qui limite leur utilisation. En général, de nombreuses questions de nature juridique se poseront ici - par exemple, est-il nécessaire de payer un impôt sur le revenu sur l'électricité qui a été donnée à l'employé du robot pour la facturation? Je pense que nous verrons bientôt comment la législation des différents pays commencera à changer - ainsi que l'attitude des gens envers les robots.
Caoutchouc Pouchkine et autres robots
Le marché mondial des robots est déjà en plein essor, les ventes battent des records - des dizaines de milliards de dollars à la fin de l'année dernière.
0,17% - Cette part du marché mondial des robots industriels se trouve en Russie (selon les données de 2013).
Photo: Skoltech / kot.sh
Des héros des superproductions hollywoodiennes, les robots sont sur le point de devenir de vrais personnages - et nous commencerons à vivre avec eux. Allons-nous nous entendre? En commençant par les histoires d'horreur sur Golem et Frankenstein ou la pièce de théâtre de Karel Čapek, où le mot «robot» apparaît pour la première fois, toutes ces histoires, en règle générale, se terminent par une chose: le soulèvement des créatures artificielles contre leurs créateurs. Serons-nous capables de créer une réalité qui dépasse nos fantasmes?
Une publicité sur le site du projet Promobot explique clairement pourquoi un robot employé est meilleur qu'un humain: n'a pas besoin de salaire et de salopette, travaille sans pause, ne tombe pas malade, ne proteste pas, ne se confond pas, ne dit pas trop, n'a pas besoin de formation … Il y a tellement d'avantages, que, selon diverses estimations, dans les décennies à venir, les robots peuvent prendre de 40 à 80% des emplois, c'est-à-dire que nous sommes menacés par une vague sans précédent de chômage de masse.
Peut-être qu'à la fin cela se transformera en un âge d'or, où, comme Karl Marx l'a rêvé, les gens s'engageront dans une créativité libre. Mais il faut encore vivre pour le voir - et de préférence sans catastrophes sociales. Il est peu probable qu'il soit possible de limiter significativement l'utilisation des robots: jamais auparavant les interdictions législatives n'ont pu arrêter les progrès. À quoi ça sert? Au contraire, les gens seront interdits de conduire lorsque les conducteurs robotiques deviendront omniprésents. L'homme est trop imprévisible. Les pilotes humains, par exemple, capables de diriger un avion vers le sol ou dans des zones résidentielles, ne sont-ils pas dangereux?
Cela signifie que nous devons apprendre à vivre avec des robots
Pour commencer, nous sommes allés à l'endroit où se trouvent de nombreux robots - à la conférence internationale Skolkovo Robotics. Une société hétéroclite de robots et de leurs créateurs s'est réunie dans l'hypercube de Skolkovo. Grands et petits drones volants et marcheurs, pompiers professionnels et essuie-glaces électroniques, bras et jambes mécaniques, torse et têtes …
Voici la tête en caoutchouc de Pouchkine, montée sur un trépied, comme sur un pieu, regardant les passants et fronçant nerveusement un sourcil - il y a trop de monde, les yeux se lèvent. Le visage du poète est tellement similaire au vrai que vous vous sentez impressionné.
Photo: Skoltech / kot.sh
À proximité, il y a un robot qui ne ressemble pas du tout à un humain. Au lieu d'un corps, il y a un bâton sur roues, au lieu d'une tête, un écran qui tourne dans tous les sens. Il s'agit d'un robot de téléprésence Webot, créé à Skolkovo pour aider les enfants handicapés. Vous pouvez vous y connecter via Internet, naviguer dans le bâtiment avec lui, voir et entendre ce qui se passe et interagir avec les autres.
Ces robots sont déjà utilisés dans plusieurs écoles - les enfants se connectent à eux depuis la maison et, avec leur aide, assistent aux cours, remplissent les devoirs, répondent aux questions des enseignants, se rendent au tableau et communiquent avec leurs pairs.
Les principaux consommateurs de robots de service en Russie et dans le monde sont les personnes handicapées. La robotique leur donne l'espoir d'un retour à la vie, comme le premier exosquelette russe ExoAtlet. Son pilote Yaroslav, récemment contraint de mener la vie d'une personne paralysée, marche parmi le public comme un cyborg du futur.
Un autre assistant robot nous a été présenté par le professeur japonais Kazuhiko Terashima:
- La société japonaise vieillit rapidement, il n'y a pas assez de personnel dans les cliniques. Et le robot que nous avons développé Terapio s'est avéré être un excellent assistant du médecin. Il suit le médecin, porte des instruments, mais surtout, il se souvient des données, ce qui rend les dossiers médicaux inutiles. De plus, il fait indépendamment des tournées de patients et, dans ce cas, sonne l'alarme.
Il a une expression enfantine sur son visage et une voix douce, il sait rire et pleurer, ses grands yeux clignotent tout le temps - pour plaire aux patients, pour leur provoquer une réaction similaire à celle provoquée par les enfants ou les chatons. Notre robot est une étape importante dans un projet d'hôpital robotique qui surveille en permanence les patients. Au fait, vous savez, maintenant, les opérations se font avec l'aide de chirurgiens robotiques.
Photo: Skoltech / kot.sh
Vous pouvez reconnaître un androïde en marchant
La robotique et les designers se produisent dans la salle de conférence de l'Hypercube. Mikhail Lebedev de l'Université Duke explique comment il implante des puces dans le cerveau des singes qui leur permettent de contrôler les robots avec leur esprit. La session est animée par Dmitry Teteryukov, professeur à l'Institut des sciences et technologies de Skolkovo, chef du laboratoire de robots spatiaux, qui travaille au Japon depuis de nombreuses années.
Nous l'avons bien entendu parsemé de questions.
[Le chat de Schrödinger] Statistiquement, le nombre de robots augmente rapidement, mais où se cachent-ils - à part ceux utilisés dans l'industrie?
[Dmitry Teterukov] En plus des robots industriels, une armée de robots de service se développe - tout le monde a entendu parler des aspirateurs robotiques ou des quadricoptères robotiques qui livrent des achats. Beaucoup de ces machines sont utilisées en médecine, et dans l'armée américaine, elles sont en guerre depuis longtemps: par exemple, des robots à chenilles munis d'un manipulateur sont engagés dans le déminage. En général, ils ont été très utiles dans les situations d'urgence, ils ont été utilisés dans l'accident de Fukushima.
[KSh] Quels types de robots produisez-vous en Russie?
[JT] Je continue ce que je faisais au Japon. L'un des projets est de contrôler un groupe de robots, lorsqu'ils agissent selon un plan commun, comme un seul troupeau, d'échanger des informations et de prendre en compte les actions de chacun. Nous allons bien sûr tester tout cela ici sur Terre, mais nous prévoyons qu'ils fonctionneront dans l'espace.
[KSh] Les auteurs de science-fiction ont toujours décrit les robots comme de telles créatures solitaires …
[JT] Répartir le travail entre plusieurs est beaucoup plus efficace que de tout attribuer à un seul. Par exemple, une voiture autonome doit traiter toutes les informations sur la route elle-même, mais si de tels appareils sont partout, il est beaucoup plus pratique pour eux d'agir sur la base de l'image générale et du programme.
[KSh] Quand les robots deviennent humains à la fois en apparence et en esprit, cela commence à devenir un peu effrayant, n'est-ce pas?
[JT] Il y a un professeur japonais Hiroshi Ishiguro qui crée des androïdes presque impossibles à distinguer de nous - j'ai récemment confondu l'un de ses geminoïdes pour un humain. Mais ce n'est que pendant qu'il est assis. Il n'est pas encore apparu un tel robot qui puisse marcher comme une personne - il est facile de le reconnaître à sa démarche. Ishiguro a fait le sien et celui de sa fille.
Certes, quand elle l'a vue, la fille a eu peur, a pleuré et s'est enfuie. Autrement dit, lorsqu'un robot devient très similaire à une personne, son rejet se produit. Et lorsque ce seuil est dépassé, l'apparence et les mouvements non naturels sont éliminés, le robot commence à être perçu comme une personne réelle. Mais pour réussir, il faut atteindre non seulement une similitude physique, mais aussi intellectuelle - la capacité de mener une conversation raisonnable.
[KS] Le fameux critère de Turing, selon lequel un robot doit être considéré comme raisonnable, est-il impossible de distinguer un humain dans une conversation? Ou doit-il être reformulé d'une manière ou d'une autre?
[JT] Maintenant, ce critère est compris comme un test pour les programmes qui simulent le chat humain. Mais le point n'est pas seulement dans l'intellect - pour confondre un robot anthropomorphique avec un humain, il doit être émotionnel, se déplacer en douceur, se comporter comme un être humain. Il existe déjà des programmes qui démontrent de manière très convaincante le sarcasme et l'ironie. Je pense qu'il y aura bientôt des tests séparés pour différentes capacités: le test émotionnel de Turing vérifiera l'adéquation des émotions et, par exemple, le test moteur - la capacité à se déplacer comme une personne.
Photo: Skoltech / kot.sh
[KS] N'avez-vous pas peur, grosso modo, d'un soulèvement de robots?
[ДТ] Après tout, les gens écrivent des programmes pour les robots, ce qui signifie qu'ils déterminent ce que les robots peuvent ou non, quels désirs ils auront et ce qu'ils ne voudront pas. Et pourquoi les robots iraient-ils à l'encontre de leurs créateurs, pour quelle raison?
[KSh] Par exemple, à cause de notre malentendu qu'ils ont également besoin de droits, ou parce qu'ils sont démontés et éliminés après leur date d'expiration. Et les programmes pour robots ne seront pas seulement écrits par des humains - tôt ou tard, les machines deviendront autodidactes
[JT] Ils seront formés dans le cadre que nous avons défini. Il me semble que la version du futur avec la confrontation entre humains et robots conduit à la dégradation, peu importe qui gagne dans une telle confrontation. Un scénario évolutif productif est une symbiose, pas une guerre d'anéantissement, de parasitisme ou autre soumission. De plus, cette symbiose se produira également dans le corps humain, de sorte que les questions éthiques les plus intéressantes, à mon avis, se poseront en relation avec la cyborgisation.
Où sera la frontière entre l'homme et la machine lorsque nous commencerons à installer des organes artificiels pour nous-mêmes, à installer des puces dans le cerveau, à améliorer notre mémoire et d'autres capacités avec leur aide? Il me semble qu'un avenir nous attend sans gadgets ni ordinateurs personnels - il suffira de faire une requête mentale ou de donner une commande, car le cerveau sera connecté au réseau.
Mais peut-être que les cyborgs auront besoin de lois restrictives, similaires aux lois de la robotique d'Asimov - je les ai même formulées d'une manière ou d'une autre. Leur essence est que la machine dans le cyborg ne prend pas le pouvoir sur la personne, de sorte que le pouvoir de décision reste avec la personne, et non avec son processeur principal.
[KSh] Avez-vous un robot de rêve?
[DT] Il s'agit probablement d'un robot commandé par l'opérateur avec un effet de téléprésence, qui permettrait une communication complète à distance et transmettrait à l'opérateur toutes les sensations, créant l'effet de pleine présence.
[CS] Avatar?
[JT] Oui. J'ai traité de ce sujet avant la sortie d'Avatar, mais, bien sûr, ces films déterminent dans un certain sens l'avenir - notre compréhension de ce que nous recherchons et de ce qui est possible.
Photo: Skoltech / kot.sh
Machines morales
Pendant ce temps, dans l'Hypercube, une discussion a commencé sur le thème «Portrait moral d'une machine anthropomorphique». Le professeur de psychologie Maxim Kiselev a prononcé un discours d'introduction sur le caractère moral des robots.
«La Roboethics traite tous les problèmes humanitaires liés aux robots», a-t-il expliqué. - Par exemple, juridique: qui est responsable si une voiture sans conducteur conduit quelque part - le robot lui-même, le propriétaire de la voiture ou un programmeur? Ou social, dont le principal est le chômage potentiel. Je suis moi-même allé dans des usines robotiques plus d'une fois - par exemple, dans une usine de Swindon, où sont fabriqués les composants des voitures MINI Cooper. Elle emploie environ deux cents robots et le même nombre de personnes, et avant il y avait quatre mille emplois. Il existe également des problèmes moraux spécifiques, tels que le soi-disant dilemme du robot assistant. Comment savoir quand l'assistance machine devient contre-productive? Imaginez un robot, doux et moelleux, suivant l'enfant et ramassant des jouets. Mais pour le développement normal d'un enfant, il est nécessaire qu'il le fasse lui-même.
Remplis de robophobie, nous sommes allés voir le créateur de la robotique, le professeur Gianmarco Verugio, président du comité scientifique de l'école de robotique de l'Institut italien d'électronique, de technologie de l'information et des télécommunications - il était juste assis à proximité.
[Le chat de Schrödinger] Comment est née la roboéthique?
[Gianmarco Verugio] Une fois j'étais fan d'Asimov, à l'âge de seize ans, j'avais lu tous ses livres. C'est peut-être pour cela que plusieurs années plus tard, quelque chose comme une épiphanie m'est venue, d'où la roboéthique est née. J'ai réalisé que les lois de la robotique d'Asimov - "Un robot ne peut pas nuire à une personne" et ainsi de suite - ne sont pas du tout des lois, mais simplement de bons souhaits, aucune d'elles n'est observée dans la pratique. La vraie loi est e = mc2. Comme les autres lois de la nature, il ne peut être enfreint.
La violation des lois légales est punie. Et les trois lois de la robotique sont comme les commandements bibliques qui disent "Tu ne tueras pas": tout le monde semble être en faveur, mais n'observe pas. À l'heure actuelle, des systèmes d'armes robotiques sont en cours de développement dans de nombreux pays du monde. Des armes sont nécessaires pour tuer, ce qui signifie que ces robots sont créés pour tuer des gens.
Nous devons rendre les lois de la robotique juridiquement contraignantes. La rédaction de telles lois est une tâche difficile. Disons qu'un robot peut tuer une personne exprès, ou peut-être accidentellement, en raison d'une panne ou de défauts de programme, il sera souvent difficile de faire la distinction entre ces situations. Mais il vaut la peine de commencer à réfléchir à ces problèmes dès maintenant: si nous nous trompons, nous pouvons grandement gâcher l'avenir de l'humanité. Il est insensé de créer l'avenir les yeux fermés, mais jusqu'à présent, nous développons la robotique à l'aveuglette.
Les robots de guerre sont l'un des principaux problèmes de la robotique. Nous essayons d’attirer l’attention de diverses organisations internationales sur cette question. Ce n'est pas seulement mon initiative, il existe un mouvement international "Stop aux robots tueurs!", Qui fait campagne sur Internet et qui est soutenu par l'ONU.
Un autre groupe de problèmes est lié au sujet des biorobots et des organes artificiels. Dans quelle mesure pouvons-nous, par exemple, interférer avec le travail du cerveau humain? Un de mes amis expérimente des rats - en insérant des électrons dans leur cerveau et en contrôlant leur comportement. C'est un vrai pilote de rat! Mais lorsque le cerveau humain est rempli de toutes sortes de neuroimplants qui améliorent les capacités ou contrôlent les organes cybernétiques, alors une interception de contrôle similaire peut être effectuée avec les gens.
Photo: Skoltech / kot.sh
[KS] Mais nous ne pouvons pas renoncer aux avantages de la technologie simplement parce que de nouvelles opportunités vont toujours de pair avec de nouveaux dangers?
[DV] Comment résoudre ces problèmes pour que les technologies ne fassent pas de nous des objets de gestion contrôlés, mais au contraire augmentent notre liberté? Je n'ai pas de réponse à cette question, je veux juste la poser, en réalisant toute sa complexité et l'incomplétude de notre vision de la situation.
De nombreuses questions inattendues se posent avant la roboéthique. Imaginez, par exemple, la situation suivante: une infirmière robot s'occupe d'une personne âgée seule qui communique avec la voiture plus que quiconque. Et elle commence rapidement à la considérer comme une personne, à l'aimer en tant que personne et à souffrir si elle tombe en panne - nous avons tendance à le faire même avec les Tamagotchi primitifs, mais ici, les sentiments seront beaucoup plus forts. Un tel robot peut-il être désactivé? Pour moi, une personne est une personne et une machine est une machine, mais j'ai peur que les gens commencent bientôt à faire des erreurs …
[KSh] Comment les différenciez-vous? Les chatbots passent déjà le test de Turing …
[DW] Je commencerais par le fait que notre psyché n'est pas seulement contenue dans le corps, comme dans un contenant. La psyché est intégrée au corps - nous devenons intelligents et conscients à mesure que nous acquérons une expérience corporelle. Le concept d'intelligence artificielle, inventé par les informaticiens dans les années 1960, supposait que le monde virtuel était suffisant pour qu'il apparaisse. Maintenant, cette idée s'appelle en plaisantant GOFAI (bonne intelligence artificielle à l'ancienne), et il est devenu clair pour les développeurs que, pour acquérir un semblant d'intelligence, le programme aura besoin d'un corps de robot et d'une longue expérience d'interaction avec le monde réel. Mais, d'une manière générale, nous ne pouvons pas faire une machine intelligente, ne serait-ce que parce que nous avons encore très peu de connaissances sur le fonctionnement du cerveau, ce que sont la raison et la conscience.
[KSh] Donc, la robotique ne traite pas des droits des robots? Mais que ferez-vous si demain votre ordinateur vous dit: "J'ai peur, ne m'éteignez pas?"
[DW] Eh bien, non, les droits des robots commenceront à m'inquiéter lorsque la dernière personne sur la planète aura tous les droits. Il y a encore trop de travail à faire pour que les gens commencent à s'occuper des voitures. La Roboéthique concerne les gens, nous devons le faire, car nous créons notre propre avenir.
Publié dans le magazine scientifique populaire "Schrödinger's Cat" n ° 5 (07) pour mai 2015
