Soucieux du développement de l'intelligence artificielle créée par lui, Google développe un "bouton" permettant de désactiver l'IA en cas de danger et de menace pour une personne. Cette nouvelle, diffusée par des journalistes en juin 2016, a alimenté l'anxiété quant aux futures relations entre les robots et les humains.
En 2016, des publications occidentales faisant autorité ont rapporté que Google développait un «gros bouton rouge» conçu pour arrêter l'IA au cas où l'intelligence artificielle menacerait l'humanité. Selon les journalistes, pour cela, des spécialistes de la division Google - Deep Mind - se sont associés à des scientifiques de l'Université d'Oxford. 400 millions de livres sterling ont été alloués à la recherche. «Si l'agent (IA) travaille en temps réel sous contrôle humain, l'opérateur a besoin d'un gros bouton rouge qui peut être pressé pour empêcher les actions indésirables de l'agent», expliquent les publications en ligne.
Auparavant, en effet, un document intitulé «Agents interruptibles en toute sécurité» a été publié sur le Web. Ses auteurs sont Lauren Orso de Deep Mind et Stuart Armstrong de l'Université d'Oxford. Le document décrit un futur voisinage possible de personnes dotées d'une intelligence artificielle, opposées aux désirs et aux aspirations de l'humanité comme le fantastique Skynet et le Terminator. Cela ne semble pas fou étant donné qu'il n'y a pas si longtemps, le plus ancien et le plus grand cabinet d'avocats américain Baker & Hostetler a «embauché» un robot avocat pour l'aider dans la procédure. L'intelligence artificielle est alimentée par le supercalculateur IBM Watson. En ce qui concerne Deep Mind, le véritable héros de l'actualité était auparavant l'intelligence artificielle développée par la société Alpha Go, qui a battu l'un des joueurs de go les plus forts, Grandmaster Lee Sedol. Cette victoire a été la raison de la forte impulsion de la Corée du Sud dans le développement de sa propre intelligence artificielle et de l'allocation de fonds importants du budget à cet effet. Il faut ajouter que le responsable de Deep Mind, Demis Hassabis, a exhorté les gens à faire attention aux informations diffusées au public. Dans son compte Twitter, il a noté que, malgré les rumeurs errant sur Internet, la société ne prédit pas encore l'avenir de l'intelligence artificielle Alpha Go. «Au fur et à mesure que nous déciderons, nous ferons une déclaration officielle», a expliqué le chef de l'entreprise.la société ne prédit pas encore l'avenir de l'intelligence artificielle Alpha Go. «Au fur et à mesure que nous déciderons, nous ferons une déclaration officielle», a expliqué le chef de l'entreprise.la société ne prédit pas encore l'avenir de l'intelligence artificielle Alpha Go. «Au fur et à mesure que nous déciderons, nous ferons une déclaration officielle», a expliqué le chef de l'entreprise.
Le champion d'Europe Fan Hui joue à go / wikipedia.
Elon Musk: "Nous sommes déjà des cyborgs"
L'inquiétude concernant les complications à venir dans la relation entre les robots et les humains augmente. De plus, ce sont les principaux tenants du progrès scientifique et technologique qui parlent de cette anxiété. Par exemple, Elon Musk, qui a annoncé en août 2014 que la technologie de l'intelligence artificielle est «plus dangereuse que les armes nucléaires». Et quelques mois plus tard, s'adressant aux étudiants du Massachusetts Institute of Technology, le créateur de Tesla et SpaceX a qualifié l'IA de "plus grande menace pour notre existence". Dans le même temps, fin 2015, Musk lui-même a cofondé la société de recherche à but non lucratif OpenAI, expliquant son objectif par la nécessité d'ouvrir le processus de création de l'intelligence artificielle. «Si vous avez un 'bouton' qui peut faire de mauvaises choses dans le monde, vous ne voulez pas le partager», a expliqué Musk.
Fin mai 2016, lors de la conférence annuelle Recode, Elon Musk a évoqué un certain projet, ou peut-être juste l'idée de "neural lace", qui devrait réduire le risque pour l'humanité de devenir un jouet favori entre les mains de fer des robots. «Par exemple, vous avez le système limbique, le cortex cérébral, et c'est le troisième système, la couche numérique qui fonctionne bien avec votre corps. Comme le cerveau fonctionne en symbiose avec le système limbique, cette couche numérique fonctionnera en harmonie avec le reste du corps », a déclaré Musk. Ce système neuronal doit augmenter le niveau de réception et de transmission des informations par une personne, la capacité de les traiter. «Nous sommes déjà des cyborgs», a déclaré Musk, expliquant qu'Internet, les téléphones portables et autres gadgets, en fait, ont développé des superpuissances chez les humains. «Mais nous sommes limités dans la réception et la transmission d'informations. Surtout dans le programme ",Musk a ajouté. Les gens sont capables de recevoir et d'interpréter une assez grande quantité d'informations, mais générer ces informations est beaucoup plus difficile. Une personne ne peut que parler rapidement, écrire rapidement ou taper. La «dentelle neurale», en connectant une personne à un système de communication numérique, pourrait surmonter cette limitation biologique. Musk n'a pas précisé si cette «dentelle» serait implantée dans le corps ou cultivée naturellement, comme par l'édition de gènes, mais a noté qu'elle pourrait passer «à travers les veines et les artères» qui fournissent des voies pour les neurones.pourrait surmonter cette limitation biologique. Musk n'a pas précisé si cette «dentelle» serait implantée dans le corps ou cultivée naturellement, comme par l'édition de gènes, mais a noté qu'elle pourrait passer «à travers les veines et les artères» qui fournissent des voies pour les neurones.pourrait surmonter cette limitation biologique. Musk n'a pas précisé si cette «dentelle» serait implantée dans le corps ou cultivée naturellement, comme par l'édition de gènes, mais a noté qu'elle pourrait passer «à travers les veines et les artères» qui fournissent des voies pour les neurones.
Vidéo promotionelle:
Cependant, il y a aussi un point de vue opposé. Eric Schmidt, président du conseil d'administration d'Alphabet (Google), dans une interview avec Tech Insider, était sceptique quant aux discours d'Elon Musk et de son collègue Stephen Hawking, qui avaient également mis en garde contre la possible hégémonie de l'IA. «Stven Hawking est certainement un génie, mais il n'est pas un expert en informatique. Elon est également une personne merveilleuse, mais il est aussi plus un physicien qu'un informaticien », a déclaré Schmidt. À propos d'un scénario potentiel du futur, dans lequel les robots détruisent l'humanité, il a déclaré ce qui suit: «Un tel scénario décrit simplement le scénario dans lequel les ordinateurs deviennent si intelligents qu'à un moment donné, en raison, par exemple, d'un bogue dans le programme, ils décident de détruire l'humanité. Ma question pour vous est la suivante: ne pensez-vous pasque les gens le remarqueront et commenceront à arrêter les ordinateurs? Nous aurons une course entre les gens qui éteignent les ordinateurs et l'IA qui essaie frénétiquement de passer à un appareil qui n'a pas encore été éteint. Et ainsi de suite jusqu'au dernier ordinateur. Et nous ne pouvons pas l'éteindre. C'est un film, un film. L'état actuel des choses dans le monde ne soutient pas un tel scénario."
Robotisation à grande échelle
Neil Jacobstein, co-président de la Singularity University de la NASA, a déclaré à PCmag que les entreprises mondiales ont investi plus de 3 milliards de dollars dans la recherche sur l'IA entre 2011 et 2015. Outre les grands investisseurs, dont Facebook et Google, il existe également un certain nombre de startups moins connues. Par exemple, Brighterion est engagé dans l'utilisation de l'intelligence artificielle dans l'analyse du cloud et l'IoT industriel, Feedzai forme des robots pour détecter les fraudes dans les transactions bancaires, Experfy utilise l'IA pour résoudre efficacement les problèmes commerciaux des commerçants, etc. Autrement dit, l'ampleur du développement de l'intelligence artificielle dans le monde n'est plus limitée à une douzaine d'acteurs majeurs du marché informatique - elle est beaucoup plus grande. Dans son interview, Jacobstein a essentiellement poursuivi la pensée de Musk,insistant également sur la nécessité de développer le cerveau humain pour contrer le synthétique. «Nous avons tous les mêmes problèmes. Le cerveau est limité en vitesse, en mémoire, en bande passante et en biais », a déclaré Neil Yakobstein.
Selon le scientifique, la tendance dans le développement de l'IA s'oriente désormais vers la création d'un néocortex artificiel (un nouveau cortex, qui constitue l'essentiel du cortex chez l'homme, contrairement aux mammifères inférieurs) et de l'hippocampe. Ainsi, le cerveau du robot sera comme un humain, mais plusieurs fois plus puissant et plus rapide. «L'IA devient de plus en plus puissante et nous devons décider comment nous nous comporterons dans le cadre de la co-évolution en cours. À la fois en termes de tâches que nous définissons pour l'intelligence artificielle, et en termes de comment nous voulons construire notre relation sans perdre l'estime de soi humaine », a expliqué Yakobstein. Selon le scientifique, dans un premier temps, l'interaction des humains et des robots sera un "processus d'élite", mais elle entrera ensuite dans la vie de tous les jours, comme le faisaient autrefois les téléphones portables. «Grâce à un smartphone, votre cerveau accède à toutes les connaissances du monde et à une puissante intelligence artificielle,traitement des informations numériques. Vous avez déjà une symbiose avec l'IA », a conclu Jacobstein.
Chair de chair
Cependant, il se peut que la menace pour l'humanité ne provienne pas d'un ensemble de glandes et de fils, mais d'une «chair de chair» organique. Fin mai 2016, la communauté scientifique mondiale a été intriguée par la "réunion secrète à Harvard" passée, dont les participants veulent créer un génome humain artificiel et, par conséquent, l'humain lui-même à partir de zéro. Les détails de la réunion sur les pages de Live Science ont été racontés par Jeff Bessen, diplômé de l'Université de Harvard, biologiste moléculaire spécialisé dans l'édition de gènes. Il s'est avéré que nous ne parlons pas d'une idée originale de Frankenstein. Plus de 130 scientifiques, industriels et éthiciens se sont réunis à Harvard pour discuter du Human Genome Project (HGP). Le nom est, en fait, une référence à un projet similaire,à la suite de quoi, en 2003, il a été possible de séquencer complètement le génome humain. Ce projet a débuté en 1990 sous la direction de James Watson sous les auspices de l'Organisation nationale de la santé des États-Unis, et son objectif était de déterminer la séquence de nucléotides qui composent l'ADN et d'identifier 20 à 25 000 gènes dans le génome humain.
La création du génome a sa propre histoire. En 2010, le biologiste américain John Craig Venter a déchiffré le premier génome d'un microorganisme - la bactérie Haemophilus influenzae - et a annoncé la création d'une cellule artificielle. Venter a présenté le premier organisme artificiel au monde, une bactérie synthétique nommée Cynthia. Depuis, les scientifiques ont systématiquement tenté d'avancer davantage dans la recherche, y compris l'organisateur de la réunion de Harvard - le généticien américain Jeff Bouquet, qui a été le premier à créer un chromosome eucaryote fonctionnel contenu dans la levure.
Cependant, un tel travail a un coût. La création d'une bactérie synthétique pour le même Venter a coûté plus de 40 millions de dollars et a demandé des années de travail. Les experts estiment que dans les conditions actuelles, la production d'un génome humain coûtera environ 90 millions de dollars. Cependant, si l'entreprise est «mise en service» et que les technologies éprouvées sont appliquées, d'ici 2036, ce montant pourrait être réduit à 100 000 $. De plus, il y a un problème industriel - la capacité de tous les laboratoires opérant dans le monde, selon Jeff Bessen, ne suffit pas aujourd'hui pour créer un génome humain.
De l'apprentissage à la création
Comme l'a noté Jeff Bessen, lors de la réunion de Harvard, les scientifiques ont appelé à passer de la lecture du génome à sa création à partir des éléments constitutifs de l'ADN. Tel que conçu par les cerveaux de HGP, y compris le généticien George Church, son collègue américain Jeff Bouquet et l'avocat en biotechnologie chez Autodesk Nancy Kelly, il est possible de «synthétiser complètement le génome humain dans une lignée cellulaire». Le processus de création d'ADN artificiel, selon Jeff Bessen, est similaire au processus d'impression offset - l'essentiel est de tout mettre dans le bon ordre. Le résultat est chimiquement identique à la macromolécule naturelle. Le marché mondial de l'ADN synthétisé (nous parlons de la création existante d'éléments d'ADN individuels et non d'un génome complet) est désormais estimé à environ un milliard de dollars par an. Une macromolécule artificielle a des applications pratiques:c'est la culture d'organes humains pour la transplantation, la création d'une immunité contre les virus, les maladies oncologiques, la création de nouveaux médicaments, etc. Les participants à Harvard ont exprimé l'espoir que leur travail contribuera à «développer une thérapie plus sûre, moins coûteuse et plus efficace».
Le halo secret autour de cette réunion s'explique aisément: le projet est suffisamment complexe sur le plan éthique, et on ne sait pas comment les idées des scientifiques seront perçues par le grand public. En particulier, les organisateurs ont désormais opposé leur veto à tout commentaire concernant la réunion avant la publication officielle des résultats de la réunion.
Il y a vraiment beaucoup de questions pour HGP. "Est-ce que ce sera bien d'étudier puis de créer le génome d'Einstein?" - Bio-ingénieur stupéfait de Stanford Drew Andy. Le Dr Church et le bio-ingénieur Andy travaillent ensemble depuis longtemps - ensemble, ils ont créé la société Gen9, dont la spécialisation ressort clairement de son nom. Certains experts estiment que la participation d'hommes d'affaires à la réunion et le prétendu financement privé du projet conduiront à terme à "la privatisation des technologies de modification génétique". Il a également été suggéré que les chercheurs élaborent des plans souterrains pour cloner des humains à l'aide d'ADN synthétique. Selon Jeff Bessen, la production chimique du génome humain - la collection d'instructions génétiques contenues dans chaque cellule - peut en effet donner un nouveau sens au terme «bébé éprouvette». «Si une telle technologie existait,le génome de n'importe quelle personne pouvait être déchiffré puis synthétisé à la demande de quelqu'un », prévient Bessen.
Clones du futur
La peur n'est pas vraiment sans fondement. Les scientifiques chinois, qui ont présenté un projet d '«usine de clones» fin 2015, ont par la suite annoncé qu'ils étaient prêts à cloner des personnes. Le groupe chinois Boyalife construira la plus grande installation de clonage au monde en collaboration avec la Sooam Biotech Research Foundation de Corée du Sud et l'Académie chinoise des sciences à Tianjin, dans le nord de la Chine. Le volume de production de vaches clonées, selon les scientifiques, s'élèvera d'ici 2020 à un million par an. A l'avenir, la «fabrique de clones» entend également se lancer dans la production de chevaux de course et de chiens policiers aux capacités spécialisées (odorat et recherche accrus). Un autre domaine d'intérêt pour l'entreprise est le clonage de primates pour des expériences médicales. Par conséquent, la déclaration de la direction de la future usine sur sa volonté de passer des primates aux humains est devenue logique.«La technologie est déjà là. Si cela est officiellement autorisé, je ne pense pas que quiconque y fera mieux que Boyalife », a déclaré aux journalistes Xu Xiaochong, directeur exécutif de la future usine. Il a souligné que la société n'avait réalisé aucune expérience dans le domaine du clonage humain.
Et pourtant, malgré la nécessité d'aborder les questions éthiques, selon Bessen, la création du génome humain est encore une chimère. «Aujourd'hui, il n'existe aucun moyen efficace de transplanter un génome artificiel dans une cellule humaine. Même les réalisations les plus impressionnantes à cet égard, comme le projet «levure» du Dr Bouquet, sont des centaines de fois plus petites que le défi actuel. Fabriquer le génome de la mouche des fruits ou du nématode est dix fois plus facile et plus sûr sur le plan éthique, cela peut répondre aux mêmes questions que celles qu'ils souhaitent se poser en synthétisant le génome humain », estime le biologiste moléculaire.
La "Dernière Cène" de Harvard, a-t-il dit, a révélé un autre problème de la science moderne - son conservatisme. Les journalistes ont découvert le projet sur Internet, dans les réseaux sociaux. Les informations officielles ont un long chemin à parcourir. «Une fois, mes collègues et moi avons attendu six mois la publication de la publication scientifique requise», ajoute Bessen. Selon le scientifique, ses collègues ont désormais un besoin critique de trouver un équilibre entre le contrôle des publications et le droit des journalistes à faire leur travail, ce qui affecte en fin de compte l'information scientifique.
Alexander Kornev