L'académicien Alexander Kuleshov a expliqué à Rusnano à quel point l'humanité était proche de la création de machines auto-améliorées, ce à quoi leur création mènerait et si Stephen Hawking avait raison, craignant les problèmes que posent les machines intelligentes.
Alexander Kuleshov est l'un des principaux spécialistes russes dans la création de réseaux de neurones, d'intelligence artificielle et de systèmes complexes de traitement de l'information. Il dirige maintenant l'Institut Skolkovo des sciences et de la technologie et, jusqu'en février de cette année, il a dirigé l'Institut des problèmes de transmission de l'information de l'Académie des sciences de Russie.
Ce vendredi, l'académicien Kuleshov a donné une conférence dans les murs de la société d'État "Rusnano", au cours de laquelle il a parlé au public, y compris Anatoly Borisovich Chubais, des progrès réalisés dans le domaine de la création d'intelligence artificielle ces dernières années et de la façon dont les technologies de l'IA vont déjà changer notre société à travers quelques années.
«Alien» ou intelligence humaine?
«Pourquoi l'intelligence artificielle et le traitement intelligent des données retiennent-ils autant l'attention aujourd'hui? Qu'est-il arrivé? En fait, les données ont toujours été traitées. Depuis l'époque de Galileo, les résultats des expériences scientifiques ont été traités (mathématiquement). Qu'est-il arrivé aujourd'hui qui a poussé ce problème au premier plan? », Le recteur de Skoltech a commencé son histoire.
Comme le note l'académicien Kuleshov, la quantité de données avec lesquelles les humains et les ordinateurs travaillent aujourd'hui a changé - maintenant, les programmes informatiques collectent, stockent et traitent des téraoctets et des pétaoctets de données, dont le traitement à l'aide de systèmes d'analyse d'informations traditionnels est extrêmement difficile.
Les gens, par exemple, les exploitants de centrales nucléaires ou les pilotes d'avion, ont accès à des dizaines, voire des centaines d'écrans avec diverses informations de diagnostic, dont chacun ne signifie presque rien en soi, et n'aidera pas à trouver une erreur dans le fonctionnement des équipements, mais dont la combinaison avec près de 100 % est susceptible de vous permettre de résoudre le problème avant même qu'il n'atteigne un stade critique.
Naturellement, poursuit le scientifique, une personne n'est pas capable de surveiller simultanément 50 écrans, ce qui oblige à créer des systèmes qui analyseraient ces données et n'afficheraient sur un seul écran que ce qui est vraiment important pour prendre des décisions et surveiller la situation.
Vidéo promotionelle:
«Des systèmes mathématiques absolument nouveaux qui sont apparus pour l'analyse de ces« mégadonnées »se sont développés au-delà d'eux, et ils sont applicables à l'analyse de toute information par tout moyen technique. En fait, ils auraient été nouveaux au 17ème siècle et auraient été utiles aux scientifiques de l'époque. Mais je souligne que tout cela est apparu précisément sur la vague des nouvelles technologies », poursuit Kuleshov.
Une grande partie de la discussion autour de ces technologies, comme le note l'académicien, découle du fait qu'il existe une différence entre le mot russe «intellect» et le mot anglais intelligence, ce qui amène de nombreux participants à ces différends à croire que l'intelligence artificielle devrait être une sorte de construction anthropomorphique qui ressemble et imite propriétés de l'intelligence humaine. En fait, selon Kuleshov, les 25 à 30 dernières années de recherche montrent que cette approche est erronée et ne conduit pas à des résultats significatifs pouvant être appliqués dans la pratique.
«L'anthropomorphisme et la ressemblance avec la nature sont des termes populaires, mais rien n'a jamais fonctionné au cours des siècles passés. Par exemple, Léonard de Vinci a dessiné des chevaux mécaniques, Daedalus et Icare ont essayé de voler comme des oiseaux, mais rien n'a jamais fonctionné - de nos jours, il n'y a pas de chevaux mécaniques qui courent dans nos rues et nous volons différemment. C'est la même chose avec le cerveau - ces tentatives pour comprendre le fonctionnement du cerveau et faire de même avec l'ordinateur ont complètement échoué », ajoute le conférencier.
Toutes ces tentatives infructueuses pour fabriquer des analogues faits à la main de neurones et les connecter à une sorte de cerveau, ainsi que d'autres approches qui imitent le travail du système nerveux humain et la façon dont nous prenons des décisions et analysons les informations, ont conduit au fait que dans les années 90 du siècle dernier, l'expression «L'intelligence artificielle» chez les mathématiciens est devenue un gros mot à cause de ces attentes déraisonnables, qui véhiculaient des idées anthropomorphiques sur les réseaux neuronaux et l'intelligence artificielle.
Profondeurs d'intelligence
En fait, la renaissance du développement de «l'intelligence artificielle» a commencé très récemment, à la fin des années 2000, lorsqu'un certain nombre de mathématiciens et de programmeurs américains et russes ont proposé et mis en œuvre des algorithmes d'IA, qui sont ensuite devenus des méthodes d '«apprentissage profond» et d' «apprentissage basé sur la diversité».
«À la fin, les gens ont commencé à oublier les réseaux de neurones, il est devenu clair que rien ne fonctionnait avec eux, et tout le monde a raté la publication en 2005 de l'article de Hinton et Krizhevsky, qui détermine maintenant notre avenir. J'ai également participé à ces «funérailles», mais il s'est avéré que ce n'était pas si simple », explique le scientifique.
Il s'est avéré que de simples réseaux de neurones, combinés en cascades et des systèmes complexes de réseaux agencés de différentes manières, se comportent différemment de ce que les scientifiques attendaient. Et, comme la pratique l'a montré, ils sont capables de résoudre les tâches qui étaient auparavant au-delà de la puissance de l'intelligence artificielle, y compris la reconnaissance vocale, les photographies de personnes, divers objets et même la prévision des pannes et des catastrophes.
«Une situation tout à fait unique s'est produite - personne aujourd'hui ne peut dire à quel point les réseaux de neurones profonds fonctionnent. L'agence de défense américaine DARPA est prête à émettre un prix d'un million de dollars pour expliquer leur fonctionnement, mais je crois que ce prix restera non réclamé dans les 30 à 40 prochaines années. Je connais des mathématiciens très sérieux qui luttent avec ce problème sans le moindre succès. Nous pouvons dire que nous sommes revenus à l'époque de la philosophie naturelle - il existe une certaine méthode qui fonctionne à merveille, mais nous ne pouvons pas expliquer pourquoi », dit Kuleshov.
Selon le scientifique, les réseaux de neurones profonds ont depuis longtemps rattrapé et dépassé les humains dans de nombreux domaines de la connaissance, étant capables d'identifier et de distinguer des choses qu'une personne ordinaire et non formée ne peut tout simplement pas faire. Les versions les plus récentes de ces réseaux de neurones font moins d'erreurs que les personnes formées pour résoudre les tâches dont ces systèmes d'IA seront responsables à l'avenir.
Par exemple, les scientifiques ont déjà créé des réseaux de neurones qui peuvent décrire ce qui se passe sur des photographies et dans des vidéos pas pire qu'une personne. De tels algorithmes peuvent aider les personnes aveugles ou sourdes à comprendre ce qui se passe autour d'elles et ce qu'elles ne peuvent ni entendre ni voir, et des services spéciaux peuvent utiliser ces réseaux pour rechercher des terroristes ou des suspects dans les archives de vidéosurveillance ou pendant le travail opérationnel dans les aéroports et autres lieux bondés.
«Il y a environ 70 millions d'ingénieurs concepteurs dans le monde aujourd'hui, et les statistiques montrent que seulement 20% des produits de leur activité sont des développements nouveaux. Les 80% restants ont été soit déjà créés par d'autres ingénieurs, soit sont des modifications mineures des modèles existants. Construire un système d'IA capable de trouver ce dont vous avez besoin réduira considérablement le temps et les ressources habituellement consacrés à leur développement. Jusqu'à présent, de tels systèmes n'existent pas, mais dans un à deux ans, ils apparaîtront », poursuit l'académicien.
Selon lui, un autre exemple de tels systèmes est un programme développé par des étudiants diplômés de Kuleshov, qui permet de déterminer si une personne est atteinte de la maladie d'Alzheimer ou non en étudiant des photographies de son cerveau obtenues avec un scanner d'imagerie par résonance magnétique.
Seules 200 images IRM de personnes souffrant de cette maladie ont suffi aux scientifiques russes pour «enseigner» l'intelligence artificielle pour distinguer les cerveaux sains et malades avec une précision de 90%. De la même manière, les mathématiciens russes ont appris à trouver des ulcères dans l'estomac d'une personne par son électrocardiogramme.
En coopération et sur commande du RSC Energia, Kuleshov et ses collègues ont créé un nouvel algorithme révolutionnaire pour contrôler les moteurs de l'ISS, qui réduira les coûts de carburant pour maintenir l'altitude de la station d'environ 40 fois par rapport au programme actuel créé par des scientifiques américains pour remplacer l'ancien système russe., et cinq fois mieux que le programme à venir de la NASA.
Le nouveau système, basé sur les technologies d'apprentissage de la diversité, sera testé à bord de la station l'année prochaine. Un autre système d'IA, créé par des mathématiciens et programmeurs russes, fonctionne déjà chez les chemins de fer russes et aide à déterminer quelles pannes doivent être réparées en premier lieu pour minimiser les coûts de ressources.
Selon le scientifique, des programmes similaires sont parfois utilisés aux fins les plus inattendues - par exemple, l'IA, créée pour rendre les ailes d'avion, est utilisée par Louis Vuitton pour créer des crèmes de blanchiment de la peau.
«La poursuite du développement de ces technologies changera radicalement la vie humaine. Imaginez, vous quittez un hôtel étranger, vous êtes accidentellement photographié par des touristes, cette photo entre dans un moteur de recherche, elle vous "calcule" sur ces photos et en cinq minutes votre patron le saura. En conséquence, il vous sera très difficile de le convaincre que vous êtes parti en voyage d'affaires «local» », explique Kuleshov.
Réalité archaïque augmentée
Les premiers exemples de ce «nouveau monde merveilleux» existent aujourd'hui - c'est le système d'IA AlphaGo, qui a battu le champion du monde en Go cette année. Comme l'explique Kuleshov, c'est le premier exemple d'une classe unique de machines capables de résoudre des problèmes incalculables et de s'améliorer.
«Le go diffère des échecs en ce que ce jeu est tout simplement impossible à calculer mathématiquement. Le nombre de mouvements possibles en Go dépasse le nombre d'atomes de l'Univers, il est impossible de compter stupidement les mouvements qu'il contient. Aux échecs, si vous avez un ordinateur puissant, vous battrez n'importe qui, Kasparov et Karjakin. C'est impossible dans Go, car aucun ordinateur ne peut le faire. Et le réseau neuronal a pu résoudre ce problème », explique le scientifique.
La principale caractéristique distinctive d'AlphaGo de tous les autres systèmes d'IA est que ce programme peut jouer avec lui-même et s'améliorer, s'adaptant à l'adversaire et trouvant des moyens absolument non triviaux et inattendus pour une personne de le battre.
«Pourquoi je m'arrête là est la première étape vers un avenir complètement mystérieux. Comment AlphaGo est-il né? Premièrement, ses créateurs ont collecté une base de données de 30 millions de positions de jeu différentes et y ont formé le réseau de neurones principal. Ensuite, ils l'ont dupliqué et le deuxième réseau a commencé à jouer à partir du premier. Et en conséquence, après plusieurs milliards d'itérations, quelque chose de troisième s'est produit qu'une personne ne contrôle plus. On ne sait pas d'où il vient - c'est le résultat d'une certaine auto-construction. Personne ne sait comment cela se passe », souligne Kuleshov.
La naissance d'AlphaGo et sa victoire, selon l'académicien, ouvre la porte à un tout nouvel espace, dans lequel l'humanité entrera très rapidement. Et tout dans ce monde ne sera pas utile et agréable pour l'humanité en général et pour les individus en particulier.
«Il est clair que les changements sociaux qui en découleront seront énormes. Le nombre de travailleurs semi-qualifiés diminue déjà comme le galuchat, et l'émergence d'une IA capable de résoudre ces problèmes les privera de leurs emplois. Tous ces ingénieurs, chauffeurs de taxi, pilotes, infirmières, ouvriers - des millions de personnes - devront disparaître, et seul 1%, comme le montrent les études actuelles, peut s'adapter aux nouvelles réalités et se recycler », précise le scientifique.
Selon lui, «nous sommes au bord des conséquences sociales absolument monstrueuses du développement des systèmes d'intelligence artificielle. Nous ne pouvons pas évaluer leur ampleur maintenant, comme des gens au milieu d'un ouragan ou au plus fort d'une révolution. L'argent doit maintenant être investi de toute urgence dans l'éducation, car les personnes de qualification moyenne deviennent complètement inutiles."
Comme le note le recteur de Skoltech, le monde d'aujourd'hui est capable de nourrir toute l'humanité, mais il n'est pas en mesure de l'occuper. Ce chômage et ce manque de motivation dans la vie pourraient déjà affecter la vie de l'Europe et d'autres pays développés et donner naissance à divers mouvements radicaux comme l'EI et d'autres groupes extrémistes et religieux interdits.
«C'est une archaisation consciente de la vie, la création d'une situation dans laquelle je me sentirai nécessaire. Au diable avec lui que je vis pire, mais je ne vis pas comme tout le monde. Le sentiment que l'on vous envoie constamment de la restauration rapide gratuitement et qu'on vous donne des baskets tous les six mois, mais en même temps que vous n'êtes nécessaire pour rien, est en fait terrible. Et ce sentiment ne fera qu'augmenter avec le développement de l'IA et de la robotique », poursuit Kuleshov.
Une partie notable de ce problème est associée au fait qu'une personne n'a tout simplement pas le temps «d'évoluer» après l'IA - des générations de personnes changent tous les 25 ans et des révolutions technologiques se produisent avec un intervalle de 5 à 6 ans. Par conséquent, comme le note le recteur, le nombre de personnes "inutiles" augmentera constamment, et seule l'éducation de masse peut aider à éviter une explosion sociale et l'émergence d'une nouvelle vague de Luddites.
«Ce dont nous sommes sur le point de n’avoir pas encore de nom, et je ne sais même pas comment l’appeler. Peut-être peuvent-ils être appelés «systèmes intelligents non gérés». Ce sont des systèmes fondamentalement nouveaux qui se génèrent d'eux-mêmes, et nous ne sommes pas loin du moment où ils commencent à pénétrer dans nos vies », conclut le scientifique.
