Malgré une large attention portée au développement de l'intelligence artificielle, plusieurs personnes dans le monde pensent que le potentiel d'une intelligence humaine (IA) significativement améliorée est beaucoup plus élevé. La question de savoir ce qui viendra en premier reste ouverte, mais on pense qu'un cerveau technologiquement avancé peut être aussi puissant (et franchement aussi dangereux) que l'IA.
L'homme en tant qu'espèce a développé sa pensée au cours de plusieurs millénaires. Ou du moins essayé de le faire. En essayant de surmonter leurs limitations cognitives, les gens ont utilisé tout ce qu'ils pouvaient, des techniques écrites, linguistiques et méditatives aux nootropiques modernes.
Pourquoi, au lieu d'essayer de développer l'intelligence artificielle générale (AGI) ou même la superintelligence artificielle (ISI), il ne serait pas préférable de se concentrer sur le cerveau humain et son potentiel encore loin d'être pleinement révélé? En effet, une amélioration significative de l'esprit - que ce soit par la génétique, la cybernétique ou les forces d'appareils externes - peut conduire au même résultat que celui que l'on attend de la création d'une IA avancée.
Le portail Gizmodo a décidé de contacter le futurologue Mikhail Anisimov, le blogueur du portail Accelerating Future et co-fondateur de l'événement Singularity Summit, et de découvrir les perspectives probables pour le développement de la direction de l'amélioration du cerveau humain. Anisimov prend cette question très au sérieux et estime que nous devons nous méfier autant de l'IA que de l'IA.
Michael, quand on parle d'augmenter l'intelligence, qu'entend-on vraiment par là? Parlons-nous de la création de nouveaux Einstein? Ou est-ce quelque chose d'encore plus ambitieux?
Le véritable objectif de la direction de l'IA est plutôt de créer des "super-Einstein", des gens bien plus intelligents que n'importe quelle personne qui ait jamais vécu sur Terre. Et pour atteindre cet objectif, plusieurs étapes clés devront être franchies.
La première étape consiste à créer une connexion neuronale directe avec l'information. Pensez-y comme une sorte de "recherche télépathique sur Google".
Le prochain sera le développement d'interfaces cerveau-ordinateur, qui permettront d'améliorer le travail de la partie du cerveau responsable de la perception visuelle. Cela améliorera non seulement notre vision, mais augmentera également considérablement l'efficacité du traitement de l'information. Imaginez simplement que vous puissiez créer presque instantanément dans votre cerveau un schéma complexe d'un objet en détail, ou maintenant vous pouvez mémoriser le schéma que vous avez vu en détail. En outre, une augmentation sera nécessaire dans d'autres zones du cortex sensoriel responsables du toucher et de l'audition.
Vidéo promotionelle:
La troisième étape consistera à augmenter le cortex préfrontal. C'est le Saint Graal de la recherche sur l'interface utilisateur - améliorer l'efficacité de la perception et l'intégration des informations sensorielles dans les concepts. Le résultat final sera l'émergence de personnes capables de démontrer des capacités intellectuelles presque impossibles. Nous parlons, par exemple, de la capacité de contrôler d'autres personnes avec le pouvoir de la raison, de comprendre toutes les positions gagnantes sur le marché boursier ou, par exemple, de créer des inventions qui peuvent changer le monde en presque un jour. Maintenant, cela peut sembler impossible, tout comme nos réalisations modernes semblaient impossibles aux yeux des gens de l'âge de pierre. Mais cette possibilité est vraiment réelle.
Dans les dix prochaines années, où l'IA va-t-elle évoluer? Le cerveau humain peut-il vraiment rivaliser avec lui?
Le cerveau humain ne peut vraiment pas être trop changé. Après tout, c'est déjà le résultat de sept millions d'années d'optimisation évolutive et de mise au point, qui, je dois l'admettre, ont été très réussies, compte tenu de ses limites. Et les tentatives de "overclocker", en règle générale, mènent à son échec, si l'on considère la question, au moins du point de vue d'un exemple des effets accompagnés d'une dépendance amphitaminique.
Bande-annonce du film Areas of Darkness
Les produits chimiques sont incapables d'améliorer la capacité cognitive d'une personne. Et tout ce qui est donné en faveur de l'efficacité des "accélérateurs cérébraux" actuels semble en fait extrêmement controversé et douteux. Un vrai succès nécessitera l'utilisation d'implants cérébraux connectés à des millions de neurones. Cela nécessitera à son tour des millions de minuscules électrodes et un système de contrôle dédié pour les synchroniser toutes. De nos jours, la conception d'interface ordinateur-cerveau la plus avancée a au mieux environ 1000 connexions de ce type. En d'autres termes, les développements modernes doivent être multipliés par mille pour parvenir à quelque chose de vraiment intéressant. Même si nous prenons en compte la croissance exponentielle, il faudra au moins 15 à 20 ans pour obtenir des résultats.
Le développement de l'IU repose principalement sur les progrès réalisés dans le développement de la nanoproduction. Et les résultats des ingénieurs travaillant sur les interfaces cerveau-ordinateur, comme par exemple Ed Boyden du Massachusetts Institute of Technology, dépendent entièrement des progrès dans cette direction. Compte tenu du niveau négligeable de développement des technologies de production au niveau atomique, l'auto-assemblage au niveau nano semble être le moyen le plus évident de développer des interfaces cerveau-ordinateur avec des millions d'électrodes. Il convient de noter que l'auto-assemblage au niveau nano n'est pas une méthode de fabrication de précision atomique, mais elle est suffisamment précise selon les normes de fabrication de base et de photolithographie.
Quels sont les effets secondaires psychologiques potentiels pour les personnes dont l'intelligence est considérablement améliorée? Peuvent-ils généralement être considérés comme des personnes de ce point de vue?
L'un des effets secondaires les plus courants sera la folie. Le cerveau humain est une machine incroyablement bien réglée. Et tout changement dans son mode de fonctionnement conduit à ce que nous appelons habituellement la «folie». Il existe de nombreux types de folie, bien plus que des modèles de comportement dans le bon sens. Par exemple, la folie cachée du point de vue de l'environnement extérieur peut sembler un comportement tout à fait sain, par conséquent, très probablement, nous aurons des difficultés à identifier ces personnes souffrant de folie.
Même avec la pleine santé mentale qui reste, divers effets secondaires peuvent survenir, y compris des convulsions, une surcharge d'informations et peut-être des sentiments d'égomanie et d'aliénation totale. Les gens intelligents ont tendance à se sentir plus aliénés du monde qui les entoure, alors savoir que vous êtes plus intelligent que tout le monde sur la planète amplifiera cet effet plusieurs fois.
La plupart des gens très intelligents ne sont pas très sociables et joyeux, comme, disons, le scientifique américain Richard Feynman ou comme le moderne Neil DeGrasse Tyson. Hemingway a dit un jour: "Une personne intelligente est parfois obligée de se saouler pour supporter la communication avec des imbéciles." Mais que se passe-t-il lorsque l'intoxication alcoolique ne suffit plus à entretenir la camaraderie et l'affection mutuelle? Cela peut conduire à une perte d'empathie, qui conduit finalement à une psychopathie.
Alors qu'est-ce qui vient en premier? Intelligence amplifiée ou artificielle?
C'est très difficile à prévoir. Il y a un grand désir qu'une intelligence améliorée apparaisse avant l'IA. Toutes ces œuvres d'art et jeux dans lesquels le protagoniste possède une telle interface utilisateur sont en grande partie responsables de ce désir. Cependant, il faut comprendre que le biais en faveur de l'interface utilisateur ne facilite pas vraiment le travail en termes de complexité technologique. Mais personnellement, je pense que l'interface utilisateur viendra plus tôt.
Quoi qu'il en soit, les deux sens sont très difficiles à mettre en œuvre. Nous n'en verrons peut-être aucun avant les années 2060, 2070 ou même plus tard. En fin de compte, les deux directions de développement atteindront leurs objectifs. Si vous y réfléchissez, il n'y a rien de surprenant dans l'intelligence maintenant, donc le besoin de l'améliorer est incroyablement énorme. Et, probablement, il faudra un soulèvement mondial des Luddites (participants aux protestations spontanées du premier quart du XIXe siècle contre l'introduction des machines pendant la révolution industrielle en Angleterre - ndlr) pour arrêter les progrès du développement technologique, qui nous conduiront aux résultats escomptés.
Quels sont les avantages et les inconvénients de ces deux approches de développement différentes?
Le principal avantage de choisir la voie de développement de l'IA réside dans les processus de développement disproportionnellement moins chers et plus faciles. L'IA sur papier et en code a déjà été développée. Il ne reste plus qu'à l'assembler correctement. La recherche la plus importante sur l'interface utilisateur, quant à elle, est désormais tout simplement illégale. Des recherches sérieuses sur l'IU nécessiteront des expériences très sophistiquées en neurochirurgie et implants cérébraux. Les implants cérébraux, à leur tour, peuvent échouer, provoquant des convulsions, la folie ou même la mort. Améliorer l'intelligence humaine en termes d'auto-amélioration de qualité ne consiste pas seulement à prendre quelques pilules pour acquérir des super pouvoirs. Ici, vous devez vraiment expérimenter avec des implants cérébraux si vous voulez obtenir des résultats sérieux.
La plupart des recherches dans ce domaine sont fortement contrôlées et extrêmement coûteuses. Toutes les expériences avec des animaux sont toujours coûteuses. Par exemple, Theodor Berger travaille sur un implant d'hippocampe pour restaurer et améliorer les performances de la mémoire depuis de nombreuses années. En 2004, les premiers tests sur des tissus vivants ont été réalisés, mais depuis lors, les nouvelles sont très rares. Toutes les quelques années, bien sûr, il y a des notes dans les nouvelles, mais je suis très sceptique quant au résultat final. Regardez maintenant le niveau de développement que nous avons pu atteindre dans le développement de l'intelligence artificielle!
L'IA semble-t-elle plus sûre que l'IA en termes de prévisibilité et de contrôle? Qu'est-ce qui est le plus important pour créer en premier, une IA ou une IA super puissante?
L'intelligence améliorée est considérée comme plus imprévisible et incontrôlable par rapport à l'IA super puissante. Et à long terme, cela semble encore plus dangereux. J'ai récemment écrit un article sur le thème de la transformation politique mondiale, déclenchée par un immense pouvoir concentré entre les mains d'un petit groupe de personnes ayant une IA ou un accès exclusif à la fabrication moléculaire. J'y ai inventé le terme «Maximilien», qui signifie «le meilleur des meilleurs», pour décrire un leader très influent qui utilise lui-même une technologie d'intelligence améliorée pour s'élever au-dessus de tout le monde.
Reginald Barkley amélioré cognitivement de Star Trek: La prochaine génération dans l'épisode X
Le point clé de mon raisonnement dans l'article est que dans le cas d'une meilleure intelligence, vous devez traiter avec des gens et une personne, comme vous le savez, est imparfaite. Il se peut que des personnes ayant une intelligence améliorée conservent peut-être un certain niveau de moralité humaine, mais très probablement, elles commenceront à utiliser toute la puissance de leur esprit à des fins hédonistes et, peut-être, même pour le génocide.
La superintelligence artificielle, à son tour, peut être créée à partir de zéro et simplement forcée de suivre un ensemble de leurs propres motivations (qui y seront également intégrées), qui ont un bon départ, de la stabilité et des retours positifs.
Les gens se posent la question: "Est-ce que l'ISI rejetterait ces motivations?" Non, il ne le fera pas, car ces motivations formeront le noyau de ses valeurs, si, bien sûr, elles sont correctement programmées. Il n'y aura pas de «fantôme dans la voiture» capable d'ignorer ou de rejeter des motifs préprogrammés.
Le philosophe Nick Bostrom a fait une analyse étonnante dans son ouvrage The Will of the Superintelligence. L'idée clé est que les objectifs égoïstes ne peuvent pas apparaître seuls si le système de tâches clés de l'IA est au départ fondamentalement un ensemble d'objectifs désintéressés et si l'essence même de l'existence de la machine est de maintenir cet altruisme. L'évolution a montré que les objectifs égoïstes jouent un rôle important dans la survie, surtout si nous prenons en compte les limitations constructives évolutives des organismes vivants, mais cela ne signifie pas que nous sommes nous-mêmes incapables de programmer des agents désintéressés à partir de zéro?
Quelles difficultés (technologiques, médicales ou éthiques) font obstacle au développement?
Le plus grand défi réside dans le développement de technologies de production adaptées. Maintenant, nous n'en sommes même pas proches. Un autre piège consiste à déterminer de quoi exactement chaque neurone est responsable et à déterminer l'emplacement exact de ces neurones chez une seule personne. Encore une fois, nous ne nous sommes même pas rapprochés de cela.
Troisièmement, nous devons développer un moyen rapide de tester les nombreuses théories sur le fonctionnement du cerveau. Ed Boyden appelle cela «des circuits de filtrage de réseau neuronal à haut débit». La solution la plus appropriée et la plus évidente à cette question peut être d'une manière ou d'une autre de créer un être humain inconscient et d'expérimenter dessus sans pincement de conscience ni dilemmes moraux. Mais j'ai le sentiment que cette idée sera accueillie avec hostilité par la plupart des comités d'éthique.
En l'absence d'une telle opportunité, nous devons trouver un moyen de créer un modèle détaillé sans précédent du cerveau humain. Et nous ne parlons pas des tentatives dures d'aujourd'hui du projet de "modélisation du cerveau" autour duquel il y a tant de battage médiatique. Nous parlons d'un nouveau niveau sans précédent, que nous ne pourrons atteindre qu'en 2050-2080. L'analyse d'Oxford montre qu'il s'agit davantage des années 2080. Tout cela ressemble maintenant, bien sûr, à la bonne aventure sur le marc de café, mais toujours plus proche de la réalité.
NIKOLAY KHIZHNYAK
