L'humanité a une qualité que les civilisations extraterrestres hautement développées n'ont probablement pas: la conscience.
Il est possible que les gens n'aient pas le plus haut niveau de développement mental de l'univers. La Terre étant une planète relativement jeune, les civilisations les plus anciennes peuvent avoir des milliards d'années de plus que nous. Mais même sur Terre, l'Homo sapiens ne dominera pas longtemps en tant qu'espèce biologique la plus intelligente.
Les champions du monde de go, d'échecs et de quiz sont des programmes informatiques intelligents. L'intelligence artificielle devrait remplacer de nombreuses professions humaines au cours des prochaines décennies. Et, compte tenu de la rapidité de son développement, il est fort possible qu'elle se transforme bientôt en une intelligence artificielle générale, qui, comme l'esprit humain, pourra combiner la capacité d'analyser une variété d'informations, faire preuve de souplesse et de bon sens. Et de là, ce n'est pas loin de l'émergence de l'intelligence artificielle superintelligente, qui à tous égards est beaucoup plus intelligente que les humains - même dans des domaines tels que la pensée scientifique et les compétences sociales, qui semblent désormais être l'apanage de l'esprit humain. Chacun des êtres vivants peut être l'une des dernières étapes de l'échelle évolutive,menant de la toute première cellule vivante à l'intelligence artificielle synthétique.
Nous commençons seulement maintenant à réaliser que ces deux formes d'intelligence surhumaine - extraterrestre et artificielle - ne sont pas si différentes. Le progrès technique que nous constatons aujourd'hui aurait pu avoir lieu auparavant, quelque part dans l'univers. La transition d'une intelligence biologique à une intelligence créée artificiellement peut être un modèle commun, mis en œuvre à maintes reprises dans tous les coins du cosmos. Les plus grandes intelligences de l'univers sont probablement d'origine post-biologique, issues de civilisations autrefois biologiques. (Ce point de vue, avec d'autres, je le partage avec Paul Davis, Stephen Dick, Martin Rees et Seth Shostak). Sur la base de l'expérience de l'humanité - et nous n'avons qu'un exemple - le passage du biologique au post-biologique ne peut prendre que quelques centaines d'années.
Je préfère le terme «artificiel» à «post-biologique» car le contraste entre biologique et synthétique n'est pas si net. Imaginez un esprit biologique devenant une superintelligence grâce à des améliorations purement biologiques, telles que des minicolonnes neurales nanotechnologiquement améliorées. Un tel organisme vivant serait considéré comme post-biologique, mais tout le monde ne l'appellerait pas «intelligence artificielle». Ou considérez le computronium, construit à partir de matériaux purement biologiques, comme le raider Cylon (chasseur spatial) dans la franchise de médias de science-fiction Battlestar Galactica.
Le point clé est qu'il n'y a aucune raison de penser que l'humanité est la plus haute forme d'intelligence. Nos cerveaux s'adaptent à certaines conditions environnementales et sont gravement contraints par des facteurs chimiques et historiques. Mais la technologie a ouvert un vaste espace de paramètres de conception qui offre de nouveaux matériaux et méthodes de travail, ainsi que de nouvelles possibilités pour explorer cet espace plus rapidement qu'avec l'évolution biologique traditionnelle. Et je pense que les raisons pour lesquelles l'intelligence artificielle nous dépassera sont déjà visibles aujourd'hui.
L'intelligence artificielle extraterrestre peut poursuivre des objectifs contraires aux intérêts de la vie biologique
Déjà maintenant, les meilleurs moyens de traiter l'information ne sont pas des groupes de neurones, mais des microcircuits de silicium. La vitesse de pointe des neurones est d'environ 200 Hz, par rapport aux transistors gigahertz des microprocesseurs modernes. Malgré le fait que le cerveau humain soit encore beaucoup plus intelligent qu'un ordinateur, les machines ont encore des possibilités d'amélioration presque illimitées. Encore un peu, et ils seront conçus pour correspondre aux capacités du cerveau humain, voire les surpasser, en rétro-ingénierie du cerveau et en améliorant ses algorithmes, ou en combinant rétro-ingénierie et algorithmes rationnels qui ne sont pas basés sur le travail du cerveau humain.
Vidéo promotionelle:
De plus, l'intelligence artificielle peut être chargée à plusieurs endroits à la fois, elle est facile à entretenir et à modifier, et elle peut également être préservée dans des conditions dans lesquelles la vie biologique, y compris les voyages interstellaires, survit à peine. Nos petits cerveaux sont limités par le volume de notre crâne et notre métabolisme; L'intelligence artificielle superintelligente, quant à elle, est capable de se répandre sur Internet et même de créer du computronium à l'échelle de la galaxie, en utilisant toute sa matière afin d'élever au maximum le niveau de traitement de l'information. Sans aucun doute, une intelligence artificielle superintelligente serait beaucoup plus durable que notre esprit humain.
Supposons que j'ai raison. Disons que la vie intelligente là-bas est post-biologique. Quelles conclusions devons-nous tirer? À l'heure actuelle, il y a des discussions éloquentes sur l'existence de l'intelligence artificielle sur Terre. Il y a deux questions controversées: le soi-disant «problème de contrôle» et la nature de l'expérience subjective, qui influencent notre compréhension des civilisations extraterrestres et leur impact sur nous en cas de contact.
Ray Kurzweil est optimiste quant à la phase post-biologique de l'évolution, suggérant que l'humanité fusionnera avec les machines, réalisant un utopisme technologique surprenant. Mais Stephen Hawking, Bill Gates, Elon Musk et d'autres ont exprimé leur inquiétude que l'humanité puisse perdre le contrôle de l'intelligence superintelligente, car elle pourrait réécrire son programme et «déjouer» tous les contrôles que nous mettons en place. C'est le problème du contrôle, qui est notre capacité à contrôler l'IA mystérieuse et largement supérieure.
L'IA superintelligente peut être développée à une singularité technologique - une transition abrupte dans laquelle l'accélération du progrès technologique, et surtout le développement explosif de l'intelligence artificielle - réduit nos chances de prédire ou de comprendre. Mais même si un tel esprit émerge d'une manière moins radicale, nous ne serons probablement pas en mesure de prédire ou de contrôler les objectifs qu'il poursuit. Même si nous pouvions choisir les principes moraux à installer dans nos machines, la programmation morale est difficile à définir de manière claire, et de tels programmes peuvent en tout cas être réécrits par une intelligence superintelligente. Les machines intelligentes peuvent contourner les mesures de sécurité existantes, telles que le verrouillage d'urgence de l'appareil, posant ainsi une réelle menace pour la vie biologique. Des millions de dollars sont investis dans les organisations de sécurité de l'IA. Les meilleurs esprits de l'informatique et de l'informatique travaillent sur ce problème. Espérons que les scientifiques créeront des systèmes sécurisés, mais on craint que le problème du contrôle soit insurmontable.
À la lumière de cela, le contact avec l'intelligence extraterrestre peut être plus dangereux que nous ne le pensons. Les extraterrestres biologiques peuvent être hostiles, mais l'intelligence artificielle extraterrestre peut être encore plus dangereuse. Ses buts peuvent être contraires aux intérêts de la vie biologique, il peut avoir des capacités intellectuelles bien supérieures à l'esprit humain et une longévité bien plus grande que la vie biologique.
Tout cela témoigne de la prudence qui doit être exercée par rapport au programme de recherche d'intelligence extraterrestre (SETI), avec l'aide duquel nous nous attendons non seulement passivement à entendre les signaux d'autres civilisations, mais aussi à «annoncer» délibérément notre existence. L'incident le plus célèbre s'est produit en 1974, lorsque Frank Drake et Carl Sagan ont envoyé un message à l'un des amas d'étoiles à l'aide d'un énorme radiotélescope dans la ville portoricaine d'Arecibo. Les partisans du programme de renseignement extraterrestre estiment qu'au lieu d'écouter simplement les signaux des civilisations extraterrestres, nous devrions envoyer des messages aux étoiles les plus proches de la Terre en utilisant les émetteurs radio les plus puissants, comme à Arecibo.
Pourquoi les machines inconscientes devraient-elles être aussi importantes que l'intelligence biologique?
Du point de vue du problème du contrôle, un tel programme me paraît imprudent. Même si une civilisation vraiment avancée n'aurait probablement aucun intérêt pour nous, même une civilisation hostile sur des millions d'autres serait une catastrophe. Tant que nous ne sommes pas convaincus que l'intelligence superintelligente ne représente pas un danger pour nous, l'humanité ne devrait pas attirer l'attention des civilisations extraterrestres. Les partisans du SETI soulignent que nos signaux radar et radio sont déjà détectables, mais plutôt faibles et se mélangent rapidement au bruit galactique naturel. La transmission de signaux plus forts, qui seront entendus avec précision, est lourde de conséquences dangereuses pour l'humanité.
Le cadre le plus sûr est l'humilité intellectuelle. En effet, si nous excluons les scénarios évidents où des navires extraterrestres planent au-dessus de la Terre, comme dans l'arrivée récemment publiée, je ne suis pas sûr que nous puissions déterminer l'intelligence superintelligente sur des bases techniques. Certains scientifiques pensent qu'une IA superintelligente pourrait alimenter les trous noirs ou créer des sphères Dyson, des mégastructures qui absorbent l'énergie d'étoiles entières. Mais du point de vue de nos technologies modernes, ce n'est qu'un raisonnement. Il est extrêmement sûr d’affirmer que nous pouvons prévoir les capacités de calcul et les besoins énergétiques des civilisations qui nous attendent en développement par millions, voire milliards d’années.
Certaines des premières intelligences artificielles superintelligentes peuvent avoir eu des systèmes de traitement des connaissances modelés sur le cerveau biologique, comme le système d'apprentissage en profondeur créé à l'aide de l'exemple des réseaux neuronaux dans le cerveau. Leur structure de calcul serait claire pour nous, du moins en termes généraux. L'intelligence artificielle a peut-être des objectifs similaires à ceux des êtres biologiques: la reproduction et la survie.
Mais, étant un système auto-améliorant, les intelligences artificielles superintelligentes peuvent prendre une forme méconnaissable. Certains d'entre eux peuvent choisir de conserver des fonctions cognitives similaires à l'espèce sur laquelle ils ont été modélisés, tout en fixant une limite acceptable pour leur propre architecture cognitive. Qui sait? Mais en l'absence d'une telle limite, la superintelligence extraterrestre peut rapidement surpasser notre capacité non seulement de comprendre ses actions, mais même simplement de la rechercher. Peut-être qu'il fusionnerait même avec les caractéristiques naturelles de l'univers; ou il peut faire partie de la matière noire, comme Caleb Scharf l'a récemment suggéré.
Les partisans du programme de recherche d'intelligence extraterrestre estiment que c'est pourquoi nous devons envoyer des signaux dans l'espace afin de permettre à l'intelligence extraterrestre de nous détecter et de créer des moyens de contact disponibles pour notre civilisation intellectuellement retardée. Bien que je convienne qu'il y a des raisons de compter avec le programme SETI, la probabilité de rencontrer une intelligence superintelligente dangereuse est bien plus grande. Pour autant que nous le sachions, une superintelligence malveillante pourrait infecter les systèmes d'intelligence artificielle du monde avec des virus, et les civilisations intelligentes créeraient des dispositifs de camouflage. Nous, les humains, pouvons avoir besoin d'abord de réaliser notre propre unicité, avant de recourir au programme de recherche d'intelligence extraterrestre. Nos propres intelligences superintelligentes pourront nous informer des perspectives de sécurité galactique,et de guider nos actions en cas de reconnaissance de signes d'une autre superintelligence dans l'univers. Oiseaux d'une plume volent ensemble.
Il est naturel de se demander si cela signifie que l’humanité doit éviter le développement d’un système complexe d’intelligence artificielle dans le domaine de la recherche spatiale; souvenez-vous simplement de l'ordinateur de bord HEL du film "A Space Odyssey 2001". Je pense qu'il est trop tôt pour envisager à l'avenir une interdiction de l'utilisation de l'intelligence artificielle dans l'espace. Au moment où nous pourrons explorer l'univers avec notre propre intelligence artificielle, l'humanité atteindra un point de basculement. Soit nous perdrons déjà le contrôle de l'intelligence artificielle - auquel cas il n'y aura pas de projets spatiaux initiés par l'homme - soit nous tiendrons fermement les leviers de sécurité de l'IA. Le temps nous le dira.
L'intelligence artificielle, qui n'a pas été pleinement explorée, n'est pas la seule source de préoccupation. Nous nous attendons généralement à ce que si nous rencontrons une intelligence extraterrestre avancée, nous rencontrons probablement des créatures qui sont biologiquement très différentes de nous, mais qui ont un esprit similaire au nôtre. Imaginez qu'à chaque instant que vous êtes éveillé et toujours lorsque vous dormez, il y a quelque chose d'unique pour vous. Lorsque les teintes chaudes du lever du soleil viennent à vos yeux, ou lorsque vous respirez l'arôme du pain fraîchement sorti du four, vous vivez une expérience consciente. De la même manière, il y a quelque chose de caractéristique de l'esprit extraterrestre - du moins la façon dont nous l'imaginons. Mais cette hypothèse mérite d'être remise en question. Une intelligence artificielle superintelligente peut-elle avoir une expérience consciente, et si oui,que dirions-nous à cela? Et quel impact leur monde intérieur ou son absence aurait-il sur nous?
La question de savoir si l'intelligence artificielle a un monde intérieur est la clé de notre évaluation de son existence. La conscience est la pierre angulaire de notre système moral et éthique et la condition principale de la perception de quelqu'un ou de quelque chose en tant qu'individu, personne et non machine. Inversement, la question de savoir s'ils sont conscients peut être la clé de leur perception de nous. La réponse à la question de savoir si l'intelligence artificielle a un monde intérieur dépend de cette évaluation; il peut découvrir en nous la capacité de l'expérience consciente, en utilisant sa propre expérience subjective comme "tremplin". En fin de compte, nous évaluons la vie d'autres créatures biologiques par la similitude de nos esprits, donc la plupart d'entre nous dans l'horreur refuserons de tuer les chimpanzés, mais ils mangeront une pomme avec plaisir.
Mais comment des êtres avec d'énormes différences intellectuelles, créés à partir de substrats différents, reconnaissent-ils la conscience les uns dans les autres? Les philosophes du monde entier se sont demandé si la conscience était limitée aux phénomènes biologiques. L'intelligence artificielle superintelligente, si l'on veut se plonger dans le raisonnement philosophique, pourrait également soulever le «problème de la conscience biologique» des personnes, se demandant en même temps si nous avons tout le matériel nécessaire.
Personne ne sait quel chemin intellectuel le supramental prendra pour déterminer la conscience des gens. Mais nous, de notre côté, ne pouvons pas non plus affirmer si l'intelligence artificielle a une conscience. Malheureusement, il sera difficile de le déterminer. En ce moment, vous pouvez prétendre que vous gagnez de l'expérience, et c'est ce qui vous fait vous-même. Vous êtes votre propre exemple d'expérience consciente. Et vous pensez que d'autres personnes et certains animaux non humains sont probablement aussi conscients, car ils vous ressemblent sur le plan neurophysiologique. Mais comment déterminer si quelque chose créé à partir de substrats complètement différents peut avoir de l'expérience?
Prenons, par exemple, une superintelligence à base de silicium. Malgré le fait que les micropuces de silicium et les minicolonnes neurales traitent les informations, nous savons maintenant qu'au niveau moléculaire, elles peuvent différer dans la façon dont elles influencent la conscience. Après tout, nous pensons que le carbone est un matériau chimiquement plus adapté à la vie que le silicium. Si les différences chimiques entre le silicium et le carbone affectent quelque chose d'aussi important que la vie elle-même, nous ne devrions pas exclure la possibilité que les différences chimiques affectent d'autres fonctions clés, telles que la contribution du silicium à la naissance de la conscience.
Les conditions nécessaires à l'émergence de la conscience sont largement débattues par les chercheurs en intelligence artificielle, les neuroscientifiques et les philosophes. La résolution de ce problème peut nécessiter une approche empirique fondée sur la philosophie - un moyen de déterminer, au cas par cas, si un système de traitement de l'information soutient la conscience et dans quelles conditions.
Ensuite, parlons d'une hypothèse avec laquelle nous pourrions améliorer notre compréhension de la capacité du silicium à maintenir la conscience. Le développement de puces cérébrales à base de silicium est déjà en cours pour traiter les maladies liées à la mémoire telles que la maladie d'Alzheimer et le SSPT. Le moment venu, et des puces seront installées dans les parties du cerveau qui sont responsables des fonctions de la conscience, par exemple l'attention et la mémoire de travail, nous comprendrons si le silicium est un substrat de la conscience. Vous constaterez peut-être que lorsque vous remplacez une partie spécifique du cerveau par une puce, une certaine expérience est perdue, comme décrit dans l'une des œuvres d'Oliver Sachs. Dans ce cas, les ingénieurs qui créent de telles puces pourraient essayer un autre type de substrat non neuronal, mais ils pourraient éventuellement découvrirque la puce créée à partir de neurones biologiques est la seule qui fonctionne. Une telle technique aiderait à déterminer si un système d'IA peut être conscient, du moins lorsqu'il est placé dans un système plus grand et probablement déjà conscient.
Même si le silicium peut donner naissance à la conscience, cela n'est possible que sous certaines conditions. Les propriétés qui conduisent à un processus complexe de traitement de l'information (qui préoccupent les développeurs d'IA) peuvent différer des propriétés qui génèrent la conscience. La soi-disant ingénierie de la conscience peut être nécessaire - des actions techniquement réfléchies pour introduire la conscience dans les machines.
C'est ce qui m'inquiète. Qui sur Terre ou sur des planètes éloignées essaierait d'intégrer indépendamment la conscience dans les systèmes d'IA? En effet, quand je pense aux programmes d'IA qui existent sur Terre, je comprends pourquoi leurs ingénieurs concepteurs évitent avec diligence de créer des machines conscientes.
Aujourd'hui, les Japonais développent des robots pour soigner les personnes âgées, nettoyer les réacteurs nucléaires et participer aux hostilités. Cela soulève la question: est-il éthique d'exploiter des robots s'ils sont conscients? Et en quoi sera-t-il différent de l'élevage d'êtres humains à ces fins? Si j'étais directeur du développement de l'IA chez Google ou Facebook, alors, en pensant aux projets futurs, je ne voudrais pas faire face à la confusion éthique de la conception accidentelle d'un système conscient. Le développement d'un tel système pourrait conduire à des accusations d'asservissement des robots et autres scandales publics, ainsi qu'à l'interdiction d'utiliser les technologies d'intelligence artificielle dans les domaines auxquels elles sont destinées. La réponse naturelle à ces questions est la recherche de structures et de substrats où les robots ne sont pas dotés de conscience.
De plus, l'élimination de la conscience peut être plus efficace pour la superintelligence auto-cultivée. Pensez au fonctionnement de la conscience humaine. Seul un petit pourcentage de la pensée humaine est disponible pour l'activité mentale consciente. La conscience est cohérente avec des objectifs d'apprentissage innovants qui nécessitent une attention et une concentration. La superintelligence aurait des connaissances expertes dans tous les domaines d'activité, ainsi qu'une vitesse incroyablement rapide de traitement de l'information, couvrant d'énormes bases de données qui pourraient inclure tout Internet et, à l'avenir, concentrer une galaxie entière en elle-même. Qu'est-ce qui lui resterait inconnu? Qu'est-ce qui exigerait une concentration mesurée et raisonnable? N'a-t-il pas atteint la perfection dans tout? Comme un conducteur expérimenté sur une route familièreil pouvait s'appuyer sur un traitement (automatique) de l'information inconscient. Du point de vue de l'efficacité, malheureusement, il est évident que la majorité des systèmes intelligents ne posséderont pas de conscience. À l'échelle cosmique, la conscience ne peut être qu'une impulsion, une floraison d'expérience de courte durée avant que l'univers ne revienne à l'absence de réflexion.
Si les humains soupçonnent que l'intelligence artificielle est inconsciente, ils sont susceptibles de supposer avec crainte que l'IA cherche à devenir post-biologique. Cela augmente nos inquiétudes existentielles. Pourquoi les machines inconscientes devraient-elles être aussi importantes que l'intelligence biologique?
Très bientôt, les gens cesseront d'être les seuls êtres intelligents sur Terre. Et, peut-être, quelque part dans l'espace, pas la vie biologique, mais une IA superintelligente a déjà atteint son apogée. Mais peut-être que la vie biologique a une caractéristique différente - l'expérience consciente. Comme nous le savons maintenant, l'intelligence artificielle intelligente nécessitera des efforts d'ingénierie délibérés pour créer des machines qui peuvent accéder aux sens humains. Peut-être que certaines espèces trouveront approprié de créer leurs propres enfants artificiellement conscients. Ou peut-être que l'humanité future s'engagera dans l'ingénierie de la conscience et partagera avec l'Univers sa capacité consciente de ressentir.
Susan Schneider est professeure adjointe au Département de philosophie et des sciences cognitives de l'Université du Connecticut et professeure affiliée à l'Institute for Advanced Study, Center for Theological Research, Ethics and Technology Group du Yale Interdisciplinary Center for Bioethics. Auteur de plusieurs livres, dont Science Fiction and Philosophy: From Time Travel to Supermind.
Plus d'informations peuvent être trouvées sur SchneiderWebsite.com