Les spécialistes dans le domaine de la création d'intelligence artificielle au niveau humain doivent aujourd'hui résoudre des problèmes non seulement scientifiques, mais aussi éthiques. Quels sont les défis auxquels sont confrontés les scientifiques? Comment protéger l'humanité des menaces potentielles posées par la création d'un esprit superpuissant et rester humaine dans le nouveau monde? Le professeur de l'Institut des systèmes cybernétiques intelligents de l'Université nationale de recherche nucléaire "MEPhI" (IIKS NRNU MEPhI) Alexey Samsonovich en a parlé au correspondant du projet "Navigateur social" du MIA "Russia Today" Anna Kurskaya.
- Alexey Vladimirovich, notre conversation se déroule dans le cadre de la conférence internationale «Architectures cognitives biologiquement inspirées» BICA 2019. Quels sont les sujets de discussion aujourd'hui mis en avant en lien avec la création d'une intelligence artificielle au niveau humain?- La conférence nous a permis de réaliser à nouveau les principaux défis dans le domaine de la création d'une intelligence artificielle de nouvelle génération, qui devrait devenir un partenaire et un ami à part entière de l'homme. Premièrement, le défi consiste à créer une intelligence émotionnelle au niveau humain qui peut exploiter les émotions dans la prise de décision et la génération de comportements. En particulier, cette qualité permettra à la machine d'établir des liens sociaux à long terme, similaires à ceux entre proches. Cela lui permettra également de justifier ses actions et ses décisions, de choisir des objectifs et une manière d'apprendre. L'intelligence émotionnelle est la clé pour répondre à d'autres défis. Elle ne se limite pas à la capacité de reconnaître et d'exprimer des émotions, qui sont aujourd'hui occupées par la plupart des chercheurs travaillant dans ce domaine. Bien que ces deux processus soient nécessaires,il est beaucoup plus important et plus difficile de comprendre le lien entre l'un et l'autre, qui est fourni par l'intelligence émotionnelle. Deuxièmement, l'agent intelligent doit comprendre le contexte de ce qui se passe. Cela signifie que, sur la base des informations dont il dispose, il doit générer indépendamment et mettre à jour en permanence le scénario global du passé et du futur, déterminer son rôle dans celui-ci, puis, sur cette base, se fixer des objectifs spécifiques et élaborer des plans pour les atteindre. Dans la littérature scientifique, cette capacité est communément appelée «intelligence narrative» (elle ne doit pas être confondue avec des programmes qui fonctionnent selon un scénario ou un récit préalablement écrit par une personne).qu'il doit générer de manière indépendante et actualiser en permanence le scénario global du passé et du futur sur la base des informations dont il dispose, déterminer son rôle dans celui-ci, puis, sur cette base, fixer des objectifs spécifiques et élaborer des plans pour leur réalisation. Dans la littérature scientifique, cette capacité est généralement appelée «intelligence narrative» (elle ne doit pas être confondue avec des programmes qui fonctionnent selon un scénario ou un récit préalablement écrit par une personne).qu'il doit générer de manière indépendante et actualiser en permanence le scénario global du passé et du futur sur la base des informations dont il dispose, déterminer son rôle dans celui-ci, puis, sur cette base, fixer des objectifs spécifiques et élaborer des plans pour leur réalisation. Dans la littérature scientifique, cette capacité est communément appelée «intelligence narrative» (elle ne doit pas être confondue avec des programmes qui fonctionnent selon un scénario ou un récit préalablement écrit par une personne).ou récit).ou récit). - Y a-t-il un troisième défi?
- Ce sera la mise en œuvre d'un apprentissage actif de l'intelligence artificielle, qui, comme une personne, développe un système de valeurs qui motive le processus d'apprentissage, forme lui-même des objectifs et une feuille de route pour l'apprentissage, et choisit des moyens (par exemple, des expériences pour tester des hypothèses, rechercher des ressources disponibles ou des questions à une personne), et, de sa propre initiative, utilise ces moyens pour atteindre le but. Dans ce cas, la machine doit être capable de se développer indépendamment du niveau d'un enfant au niveau d'un adulte et plus loin, à la superintelligence.
Ce troisième domaine pourrait être appelé «intelligence d'apprentissage au niveau humain» pour le distinguer de «l'apprentissage en profondeur» et d'autres types d'apprentissage automatique qui sont populaires aujourd'hui. Dans ma compréhension, l'intelligence d'apprentissage au niveau humain sera possible grâce à l'intelligence émotionnelle et narrative.
Quelles recherches faites-vous maintenant? Comment évolue votre travail sur la création d'assistants humains virtuels et la modélisation de l'intelligence émotionnelle?
- Nous sommes engagés dans la modélisation de l'intelligence émotionnelle humaine dans le but de développer des assistants humains virtuels socialement compatibles basés sur nos modèles.
Nous considérons un large éventail de tâches et de domaines de recherche spécifiques. Par exemple, il s'agit de la création d'un partenaire virtuel dans un jeu vidéo; coordinateur ou modérateur virtuel; assistant créatif virtuel du compositeur, chorégraphe, designer, assistant du solutionneur de problèmes de perspicacité; un auditeur virtuel (à l'avenir - un interlocuteur virtuel); ainsi qu'un animal de compagnie virtuel, comparable à un animal réel en termes de caractéristiques sociales et émotionnelles.
Les résultats sont difficiles à présenter en détail ici, mais ils peuvent être trouvés dans nos publications ouvertes. Malgré toute l'ampleur de nos tentatives et de nos succès, nous avons besoin d'une percée dans une direction: en prouvant la valeur pratique du modèle général de l'intelligence émotionnelle humaine, incarnée dans un agent intellectuel.
Récemment, notre laboratoire BICA du département de cybernétique du NRNU MEPhI s'est enrichi de nouvelles méthodes de recherche, dont une plateforme expérimentale basée sur la réalité virtuelle et mixte (avec suivi de la direction des yeux du sujet), ainsi que l'électromyographie et l'analyse automatique des expressions faciales, nous permettant d'enregistrer les émotions des sujets immergés dans environnements virtuels. La plupart de notre travail se fait maintenant à l'aide de ces technologies. L'EEG et l'IRMf sont également utilisés dans certaines expériences.
Vidéo promotionelle:
Notre objectif primordial immédiat est d'affiner et de valider empiriquement l'architecture cognitive socio-émotionnelle Ebica (eBICA) et de créer des démonstrations efficaces basées sur celle-ci. Ces travaux sont menés au NRNU MEPhI avec le soutien financier de la subvention n ° 18-11-00336 de la Russian Science Foundation.
Récemment, la startup d'Elon Musk, Neuralink, a annoncé des développements qui, à l'avenir, pourraient faire d'une personne un cyborg, capable de contrôler un ordinateur avec le pouvoir de la pensée. Dans quelle mesure cette ligne de recherche est-elle prometteuse pour vous?
- Selon moi, l'intelligence artificielle doit devenir, d'une part, un partenaire et un ami égaux de l'homme et, d'autre part, une extension de la normale ou un remplacement des capacités humaines perdues, y compris des moyens basés sur une interface directe avec le cerveau humain.
Dans ce cas, une personne pourrait littéralement utiliser un ordinateur ou une puce électronique dans le cadre de son cerveau. Les deux visent le bien et devraient être entièrement contrôlés par son créateur. Je souhaite à Elon Musk plein succès.
Quelle est l'ampleur du besoin de développer des moyens de contrer l'intelligence artificielle?
- Je pense qu'à notre époque, les outils d'intelligence artificielle resteront sous le contrôle d'une personne, ne serait-ce qu'en raison de sa dépendance à son service par une personne et de lui fournir tout ce dont elle a besoin. Si quelqu'un peut les retourner contre une personne, alors seulement la personne elle-même. Ensuite, la question de la confrontation avec ces personnes devrait être envisagée.
Ce n'est un secret pour personne que l'armée a d'abord besoin de l'intelligence artificielle. Aujourd'hui, comme auparavant, de nouveaux moyens d'attaque et de défense sont créés. Mais la particularité de notre époque est qu'ils incluent tous les deux l'intelligence artificielle. En ce sens, la nécessité de développer des moyens de confrontation est grande et pour certains pays, c'est une priorité d'un point de vue financier.
Qu'est-ce qui nous attend après la création de l'intelligence artificielle, supérieure à l'humain? Allons-nous coexister avec des machines ou allons-nous nous unir en une sorte d'un tout unique?
- L'intelligence artificielle deviendra, et est déjà en train de devenir, une partie intégrante de la civilisation humaine. Dans le même temps, deux voies sont encore possibles: l'héritage de nos valeurs, aspirations et idéaux par l'intelligence artificielle, ou leur remplacement par des «valeurs de la machine», qui s'étend non seulement aux machines, mais aussi aux personnes. Laquelle de ces deux voies est réalisée dépend de nous.
Que signifie rester humain à l'ère de l'intelligence artificielle?
- Rester humain à l'ère de l'intelligence artificielle signifie mettre en œuvre la première voie.
