Les machines intelligentes ont appris à bluffer, surpasser les professionnels aux échecs ou au Go, à traduire et à reconnaître la voix humaine. Chaque semaine, nous découvrons de plus en plus d'exploits de programmes informatiques qui savent déjà faire des diagnostics médicaux, dessiner ainsi que Rembrandt, chanter ou générer du texte. Une personne devrait-elle avoir peur de l'intelligence artificielle?
L'intelligence artificielle (IA) est devenue un sujet très brûlant ces dernières années. Les scientifiques associent cela au développement rapide des réseaux de neurones (l'un des domaines de recherche dans le domaine de l'intelligence artificielle), qui, à son tour, est devenu possible avec l'avènement des ordinateurs puissants.
"Depuis le début des années 2010, influencé par le succès impressionnant obtenu par l'utilisation de réseaux de neurones multicouches (principalement convolutifs et récurrents), ce domaine a attiré l'attention des scientifiques, des ingénieurs et des investisseurs", commente l'auteur l'un des programmes d'échecs russes, le spécialiste de l'apprentissage automatique Sergey Markov.
La communauté scientifique peut argumenter sur le moment de l'émergence des machines intelligentes, mais elle est d'accord sur une chose: le développement de la technologie aura un impact inconditionnel sur la société, l'économie et les relations entre les personnes à l'avenir. Déjà, il y a des appels à considérer des principes éthiques pour développer l'intelligence artificielle, en s'assurant que l'intelligence artificielle se développe dans une direction sûre pour les humains.
Effet économique et impact sur le marché du travail
La science-fiction et Hollywood ont façonné le concept de «l'intelligence artificielle» comme la prochaine forme de vie sur la planète pour asservir l'humanité dans la Matrice ou organiser un Doomsday nucléaire pour elle. Les survivants seront achevés par le Terminator.
En fait, malgré les progrès récents de l'intelligence artificielle, les êtres de machines intelligentes sont encore loin, admettent scientifiques et spécialistes. Cependant, ceux-ci et d'autres conseillent de prêter attention à certains aspects dès maintenant.
Vidéo promotionelle:
Selon l'organisation de recherche McKinsey Global Institute, au cours des dix prochaines années, les nouvelles technologies changeront radicalement le marché du travail sur la planète, ce qui permettra d'économiser environ 50 billions de dollars.
Les changements affecteront des centaines de millions d'emplois. De plus en plus de personnes déplaceront certaines de leurs tâches professionnelles et de nombreuses tâches de routine vers la machine, ce qui leur permettra de se concentrer sur le travail créatif.
"D'un certain point de vue, l'humanité dans son ensemble a une tâche importante et intéressante - se développer pour chaque individu bien plus rapidement que l'humanité ne développe des systèmes d'intelligence artificielle", a déclaré Grigory Bakunov, expert, directeur de la distribution technologique chez Yandex.
Mais avec l'automatisation, le personnel moins qualifié en souffrira inévitablement, et il est maintenant nécessaire de réfléchir à la manière de les protéger, de les recycler et de les préparer à une nouvelle vie.
La pratique montre que non seulement les cols bleus, mais aussi les travailleurs du savoir peuvent souffrir. Il y a quelques jours, Goldman Sachs a remplacé une équipe de 600 traders par deux personnes et des programmes de trading algorithmique automatisés, pour lesquels 200 programmeurs ont été embauchés.
L'intelligence artificielle en elle-même n'est pas identique à l'automatisation des processus, mais le développement de l'IA conduira au fait que de plus en plus de tâches seront à la portée d'un programme informatique.
Parmi les options pour résoudre le problème du déplacement humain par la machine sur le marché du travail, comme l'a souligné Allison Dutman, coordinatrice de programme du Foresight Institute, une organisation à but non lucratif basée dans la Silicon Valley pour promouvoir les nouvelles technologies, figure l'introduction du concept de «revenu de base universel» qui serait perçu par tous, indépendamment de niveaux de revenu et d’emploi. Ces revenus seraient financés par la soi-disant taxe sur la valeur foncière innovante, dont l'introduction est actuellement activement discutée dans la Silicon Valley.
L'intelligence artificielle est-elle une personne?
Un système robotique est-il une personne? Un ordinateur intelligent peut-il voter? De quel sexe est-il? Les eurodéputés discutent déjà de la relation entre l'homme et une machine intelligente, se demandant si les futurs robots devraient avoir le statut de «personnalité électronique».
Comme le souligne Dutmann, les gens hésitent à partager leurs droits avec ceux qu'ils ne comprennent pas, ce qui signifie qu'ils résisteront à «l'humanisation» de l'IA.
«Compte tenu du temps que l’humanité a mis pour donner des droits égaux à tous, indépendamment de leur couleur de peau, de leur race ou de leur sexe, nous pouvons déjà supposer qu’ils ne reconnaissent pas immédiatement les machines comme égales.
Parallèlement aux subtilités juridiques apparaissent: qui assumera la responsabilité en cas d'accident d'un véhicule sans pilote ou de panne d'un appareil médical intelligent - et questions morales: vaut-il la peine de développer une arme sans pilote capable d'agir à l'insu d'une personne?
La troisième énigme éthique est discutée plus souvent que d'autres et inquiète beaucoup plus l'humanité: que peut théoriquement faire une superintelligence, une véritable machine intelligente, à l'humanité?
Enseigner l'éthique de l'IA
Les spécialistes du développement de l'IA l'admettent: même si ce n'est pas dans les 20-30 prochaines années, mais l'humanité vivra toujours pour voir l'émergence d'une véritable intelligence artificielle, qui sera plus intelligente que son créateur.
«Le dernier bastion sera pris lors de la création de la soi-disant« IA forte »(IA forte, intelligence générale artificielle), c'est-à-dire une IA qui sera capable de résoudre un éventail indéfiniment de tâches intellectuelles», explique Sergey Markov.
Et surtout, une telle IA sera capable de penser de manière indépendante.
De nombreuses institutions, notamment le Future of Life Institute, le Foresight Institute, le Future of Humanity Institute, OpenAI et d'autres, sont engagées dans des recherches sur les menaces posées par l'IA, ainsi que sur les problèmes éthiques associés aux nouvelles technologies.
La décision d'Allison Dutman du Foresight Institute est de laisser l'ordinateur lire toute la littérature scientifique, les articles scientifiques qui soulèvent la question de l'éthique, et de faire de ces informations la base de ses décisions futures.
Que sont les réseaux de neurones et quel est leur avenir?
La plupart des experts associent les progrès du développement de l'IA au développement de réseaux de neurones.
Les réseaux de neurones sont l'un des axes de recherche dans le domaine de l'intelligence artificielle, basé sur la modélisation des processus biologiques qui se produisent dans le cerveau humain.
C'est à eux que nous devons l'apparition de résultats impressionnants dans la reconnaissance de la parole et des images, les diagnostics médicaux, la traduction de textes et la création d'images, la génération de discours et la composition musicale.
Aujourd'hui, comme l'admettent les experts, les réseaux de neurones sont reconnus comme l'un des meilleurs algorithmes d'apprentissage automatique, et les solutions basées sur eux montrent les résultats les plus remarquables du moment.
Ceci en dépit du fait que les réseaux de neurones modernes sont mille fois plus simples que le cerveau de rat.
«Jusqu'à présent, les réseaux neuronaux que nous créons sont relativement petits par rapport, disons, au réseau neuronal du cerveau humain et, en plus, ils sont un analogue très simplifié des réseaux neuronaux naturels. Par conséquent, pour l'instant, avec l'aide des réseaux de neurones, nous résolvons principalement des problèmes purement appliqués », explique Sergey Markov.
Désormais, des processeurs spécialisés sont créés pour entraîner de tels réseaux (les processeurs dits neuromorphes), ce qui augmentera la vitesse des calculs de plusieurs ordres de grandeur.
Les développeurs sont désormais non seulement occupés à augmenter le nombre de neurones dans le réseau, mais également à modifier la conception des réseaux. «Les systèmes complexes de configuration de réseau sont ceux avec lesquels le plus grand nombre d'expériences est réalisé», explique Grigory Bakunov.
Et le fait que de tels systèmes soient devenus relativement accessibles à un grand nombre de développeurs ordinaires a conduit à l'émergence de startups expérimentant les réseaux de neurones, par exemple Prisma (l'application permet de traiter des photographies, en les transformant en stylisations de peintures d'artistes célèbres) et Mubert (compositeur de musique électronique en ligne) …
Ce qui nous attend dans un proche avenir
Nick Lane, professeur à l'University College London et scientifique principal Nokia Bell Labs, prédit que des «choses intelligentes» encore plus entoureront une personne. Ils deviendront plus petits et plus efficaces.
Le professeur donne un exemple: si auparavant le capteur intégré dans le mur pouvait seulement se rendre compte que quelqu'un est passé, alors à l'avenir, il saura non seulement qui est exactement passé, mais aussi comment la personne se comporte, n'a besoin de rien, ne représente pas s'il est une menace pour lui-même ou pour les autres.
Un capteur de la taille d'un bouton peut alerter une personne en cas de danger.
Grigory Bakunov de Yandex est également d'accord avec le professeur: "Dans un proche avenir, nous verrons un boom dans le développement d'intelligences artificielles étroites qui aident à résoudre un problème assez simple, mais qu'ils résoudront encore mieux qu'un humain."
La reconnaissance vocale, par exemple, reconnaît déjà certaines commandes vocales et certaines adresses mieux que les humains.
«La voie la plus probable pour le développement de notre civilisation est la voie de la synthèse de l'homme et de la machine: un bâton, des vêtements, une automobile, un téléphone portable, un stimulateur cardiaque ou un implant cochléaire - alors que nous développons nos instruments ressemblent de plus en plus à une extension de notre corps. Demain, les machines pourront recevoir des commandes mentales d'une personne, percevoir des images visuelles formées mentalement, transmettre des informations directement au cerveau - de tels projets existent déjà en dehors des murs des laboratoires technologiques les plus avancés », résume Sergey Markov.
Avez-vous encore besoin de journalistes?
Le Financial Times a mené une expérience plutôt risquée l'année dernière, mettant à la fois le défi d'écrire un texte à son correspondant de profil et un programme intelligent nommé Emma. Le rédacteur en chef du Financial Times a alors dû lire les deux articles et deviner laquelle des deux notes se trouvait le journaliste et quel ordinateur.
Avant ce "crash test" particulier, le correspondant du Financial Times a admis: "Je pense que le programme va certainement faire face à la tâche plus rapidement que moi. Mais j'espère pouvoir faire mieux."
Et c'est arrivé: Emma s'est vraiment avérée être plus rapide - le programme a généré un texte basé sur des statistiques sur le taux de chômage en Grande-Bretagne en 12 minutes. Il a fallu 35 minutes au journaliste. Et, comme elle l'a elle-même admis plus tard, Emma a dépassé ses attentes. Le programme a non seulement géré habilement les faits, mais a également mis les nouvelles en contexte, suggérant comment un éventuel "Brexit" (c'était en mai 2016, avant le référendum sur la sortie de la Grande-Bretagne de l'UE) pourrait changer la situation.
Mais Emma a fait quelque chose de pire qu'un journaliste. «L'article d'Emma a été écrit dans un langage un peu plus maladroit. Mais surtout, il y avait beaucoup de chiffres, a admis l'éditeur de FT. "Et, peut-être, la principale chose que nous essayons de faire ici est de ne choisir que des nombres vraiment importants."
Emma est un produit d'une startup appelée Stealth. La société dit qu'Emma a une équipe d'aides en direct, mais ils disent que tout ce qu'elle écrit ou fait est le produit de son «cerveau».
Et pourtant - devrions-nous avoir peur de l'IA?
De nombreuses personnes, sinon toutes, impliquées dans le développement de systèmes d'intelligence artificielle admettent volontiers aujourd'hui que l'IA ne rendra pas bientôt les humains inutiles. Précisément parce que l'intelligence artificielle n'est pas encore si intelligente. La principale chose qui lui manque aujourd'hui est la capacité autonome de penser.
«Maintenant, vous ne devriez plus avoir peur de l'IA sous aucune forme. Vous pouvez attendre 30 à 40 ans pour que des changements radicaux se produisent », a déclaré Bakunov.
Mais il se passe déjà quelque chose: la ligne s'estompe lentement entre le travail ou la tâche effectué par une personne et la tâche effectuée par une machine. Comme l'expliquent les experts, même maintenant, il est parfois difficile de comprendre qui se trouve à l'intérieur du système - une personne ou une machine.
«Il n'y a pas de critères permettant de comprendre que la conscience est née à l'intérieur de la machine», demande Bakounov.
L'homme deviendra un trombone?
Adepte bien connu du point de vue alarmiste, dans lequel les horreurs décrites dans le Terminator peuvent devenir réalité, le philosophe Nick Bostrom, est d'avis que l'IA qui a atteint le niveau intellectuel d'une personne sera capable de détruire l'humanité.
Bostrom explique avec des trombones: vous défiez l'intelligence artificielle pour fabriquer des trombones aussi grands et meilleurs que possible. L'IA se rend compte à un moment donné qu'une personne est une menace, car elle peut éteindre l'ordinateur, ce qui serait contraire à la tâche de fabriquer autant de trombones que possible. Au cas où l'humain ne serait pas une menace, l'IA décide que les corps humains sont constitués d'atomes qui peuvent être utilisés pour fabriquer de superbes trombones. Le résultat est que l'ordinateur conduira l'humanité à des trombones.
Ce scénario semble exagéré pour beaucoup. Selon Sergei Markov, par exemple, "la grande efficacité de la réalisation d'un objectif absurde est incompatible avec l'absurdité de cet objectif - en gros, une IA capable de transformer le monde entier en trombones sera forcément assez intelligente pour abandonner un tel objectif."
L'intelligence artificielle est comme un poisson rouge
Margaret Boden, spécialiste britannique de l'intelligence artificielle et professeur de sciences cognitives à l'Université du Sussex, est sceptique quant à l'avènement imminent des machines intelligentes.
Le professeur donne l'exemple d'un "poisson rouge", quand en échange de la liberté un pêcheur fait trois vœux. L'un des désirs est de ramener son fils de la guerre, le second est de 50 mille dollars, et le troisième est l'occasion de faire un autre vœu le lendemain matin.
Ce même soir, on a frappé à la maison du pêcheur. Le fils est revenu de la guerre - dans un cercueil. Le pêcheur a reçu une assurance de 50 mille dollars.
«Remplacez le poisson par l'IA dans cette parabole, et tout deviendra clair», explique Boden. "Oh, oui, le lendemain, le pêcheur a profité du troisième souhait et - a annulé les deux précédents."
Est-il possible de transférer la conscience dans une voiture?
Sergey Markov:
«Si nous parlons de la possibilité d'un transfert complet de conscience, alors les prédécesseurs modernes d'une telle technologie du futur sont des projets comme Blue Brain, visant à créer des analogues électroniques fonctionnels du cerveau, ainsi que des projets visant à créer des interfaces cerveau-machine (BCI) - des dispositifs pour les prothèses de la vision perdue, audition, remplacement des membres perdus, même des parties du cerveau.
L'optogénétique est un domaine très intéressant et prometteur (en principe, pour interfacer le cerveau et la machine, on peut changer non seulement les machines, mais aussi le tissu nerveux lui-même, créant ainsi des photorécepteurs artificiels).
Quand un large éventail de problèmes d'ingénierie est résolu dans le cadre de tels projets privés, je pense que la tâche de transfert de conscience deviendra tout à fait résoluble. Déjà, les rêveurs proposent des schémas hypothétiques pour mettre en œuvre un tel projet.
Par exemple, Jan Korchmaryuk, qui a proposé à un moment donné le nom de «Setleretics» pour la direction de la recherche liée au transfert de conscience, estime que le schéma le plus prometteur est l'utilisation de nanorobots spécialisés implantés dans les neurones du cerveau humain. Cependant, pour la mise en œuvre réussie d'un tel schéma, il est nécessaire de résoudre un certain nombre de problèmes d'ingénierie complexes."
Ksenia Gogitidze
