La raison pour laquelle cet article (et d'autres) a été mis au jour est simple: l'intelligence artificielle n'est peut-être pas seulement un sujet de discussion important, mais le plus important dans le contexte du futur. Quiconque entre même un peu dans l'essence du potentiel de l'intelligence artificielle reconnaît que ce sujet ne peut être ignoré. Certains - et parmi eux Elon Musk, Stephen Hawking, Bill Gates, pas les personnes les plus stupides de notre planète - pensent que l'intelligence artificielle constitue une menace existentielle pour l'humanité, d'une ampleur comparable à l'extinction complète de nous en tant qu'espèce. Eh bien, asseyez-vous et mettez les i pour vous-même
«Nous sommes au bord de changements comparables à l'origine de la vie humaine sur Terre» (Vernor Vinge).
Que signifie être au bord d'un tel changement?
Cela ne semble rien de spécial. Mais vous devez vous rappeler qu'être à un tel endroit sur le graphique signifie que vous ne savez pas ce qu'il y a à votre droite. Vous devriez ressentir quelque chose comme ça:
Les sentiments sont tout à fait normaux, le vol se déroule bien.
Vidéo promotionelle:
L'avenir arrive
Imaginez qu'une machine à remonter le temps vous transporte en 1750, une époque où le monde subissait des pannes de courant constantes, la communication entre les villes signifiait des coups de canon et tout le transport fonctionnait au foin. Disons que vous y arrivez, emmenez quelqu'un et amenez-le en 2015, montrez comment c'est ici. Nous sommes incapables de comprendre ce que ce serait pour lui de voir toutes ces capsules brillantes voler le long des routes; parler aux gens de l'autre côté de l'océan; regardez les jeux de sport à mille kilomètres de là; écouter une performance musicale enregistrée il y a 50 ans; jouez avec un rectangle magique qui peut prendre une photo ou capturer un moment en direct; construire une carte avec un point bleu paranormal indiquant son emplacement; regardez le visage de quelqu'un et communiquez avec lui à plusieurs kilomètres, et ainsi de suite. Tout cela est une magie inexplicable pour des personnes de près de trois cents ans. Sans parler d'Internet, de la Station spatiale internationale, du grand collisionneur de hadrons, des armes nucléaires et de la relativité générale.
Une telle expérience ne sera ni surprenante ni choquante pour lui - ces mots ne traduisent pas toute l'essence de l'effondrement mental. Notre voyageur peut mourir complètement.
Mais il y a un point intéressant. S'il remonte à 1750 et devient jaloux que nous voulions voir sa réaction à 2015, il peut prendre une machine à remonter le temps avec lui et essayer de faire de même avec, disons, 1500. Il y volera, trouvera une personne, le récupérera en 1750 et lui montrera tout. Un gars de 1500 sera choqué au-delà de toute mesure - mais il est peu probable qu'il meure. Même s'il sera bien sûr surpris, la différence entre 1500 et 1750 est bien moindre qu'entre 1750 et 2015. Une personne de 1500 sera surprise à certains moments de la physique, sera étonnée de ce que l'Europe est devenue sous le talon dur de l'impérialisme, dessiner une nouvelle carte du monde dans sa tête … Mais la vie quotidienne de 1750 - transports, communications, etc. - ne le surprendra probablement pas à mort.
Non, pour qu'un gars de 1750 ait le même plaisir que nous, il doit aller beaucoup plus loin - peut-être une année comme celle-ci en 12 000 avant JC. e., avant même que la première révolution agricole n'ait donné naissance aux premières villes et au concept de civilisation. Si quelqu'un du monde des chasseurs-cueilleurs, du temps où les gens étaient encore plus une autre espèce animale, a vu les immenses empires humains de 1750 avec leurs hautes églises, leurs navires traversant les océans, leur concept d'être "à l'intérieur" d'un bâtiment, tout cette connaissance - il serait mort, très probablement.
Et puis, après la mort, il aurait envié et aurait voulu faire de même. J'y retournerais il y a 12 000 ans, à 24 000 av. e., aurait pris une personne et l'a amenée en temps voulu. Et un nouveau voyageur lui disait: "Eh bien, ça va, merci." Parce que dans ce cas, une personne de 12 000 avant JC. e. il faudrait remonter 100 000 ans en arrière et montrer pour la première fois aux indigènes le feu et la langue.
Si nous devons transporter quelqu'un dans le futur pour être surpris à mort, le progrès doit parcourir une certaine distance. Le point de progression de la mort (TPP) doit être atteint. Autrement dit, si à l'époque des chasseurs-cueilleurs le TSP prenait 100 000 ans, le prochain arrêt avait déjà lieu en 12 000 avant JC. e. Après cela, les progrès étaient déjà plus rapides et ont radicalement transformé le monde en 1750 (à peu près). Ensuite, cela a pris deux cents ans, et nous y voilà.
Cette image - où le progrès humain avance plus vite avec le temps - le futuriste Ray Kurzweil appelle la loi des retours accélérés dans l'histoire humaine. Cela se produit parce que les sociétés plus avancées ont la capacité de progresser plus rapidement que les sociétés moins développées. Les gens du 19e siècle en savaient plus que les gens du 15e siècle, il n'est donc pas surprenant que les progrès au 19e siècle aient été plus rapides qu'au 15e siècle, et ainsi de suite.
À plus petite échelle, cela fonctionne également. Retour vers le futur est sorti en 1985 et le passé en 1955. Dans le film, lorsque Michael J. Fox est revenu en 1955, il a été surpris par la nouveauté des téléviseurs, le prix du soda, le manque d'amour pour le son de la guitare et les variations de l'argot. C'était un monde différent, bien sûr, mais si le film était tourné aujourd'hui et que le passé était en 1985, la différence serait beaucoup plus globale. Marty McFly, à l'époque des ordinateurs personnels, de l'Internet, des téléphones portables, serait bien plus hors de propos que Marty, qui est parti en 1955 à partir de 1985.
Tout cela est dû à la loi des retours accélérés. Le taux moyen de progrès entre 1985 et 2015 a été plus rapide que le taux de 1955 à 1985 - car dans le premier cas, le monde était plus développé, il était saturé des réalisations des 30 dernières années.
Ainsi, plus il y a de réalisations, plus les changements se produisent rapidement. Mais cela ne devrait-il pas nous laisser certains indices pour l'avenir?
Kurzweil suggère que les progrès de tout le XXe siècle auraient pu être réalisés en seulement 20 ans à un niveau de développement de 2000 - c'est-à-dire qu'en 2000, le taux de progrès était cinq fois plus rapide que le taux moyen de progrès du XXe siècle. Il estime également que les progrès de tout le XXe siècle ont été équivalents aux progrès de la période de 2000 à 2014, et que les progrès d'un autre XXe siècle seront équivalents à la période jusqu'en 2021, c'est-à-dire dans seulement sept ans. Après quelques décennies, tous les progrès du XXe siècle auront lieu plusieurs fois par an, puis en un mois seulement. En fin de compte, la loi des retours accélérés nous amènera au point que les progrès de tout le XXIe siècle seront 1000 fois supérieurs aux progrès du XXe siècle.
Si Kurzweil et ses partisans ont raison, 2030 nous surprendra de la même manière que le gars de 1750 aurait surpris notre 2015 - c'est-à-dire que le prochain TSP ne prendra que quelques décennies - et le monde de 2050 sera si différent du monde moderne que nous trouver. Et ce n'est pas de la fantaisie. C'est l'opinion de nombreux scientifiques plus intelligents et plus éduqués que vous et moi. Et si vous regardez l'histoire, vous comprendrez que cette prédiction découle de la logique pure.
Pourquoi alors, quand nous sommes confrontés à des déclarations comme "le monde dans 35 ans changera au-delà de la reconnaissance", nous haussons les épaules avec scepticisme? Il y a trois raisons à notre scepticisme quant aux prévisions futures:
1. Lorsqu'il s'agit d'histoire, nous pensons en ligne droite. En essayant de visualiser les progrès des 30 prochaines années, nous regardons les progrès des 30 années précédentes comme un indicateur de ce qui est susceptible de se produire. Quand nous pensons à la manière dont notre monde va changer au 21e siècle, nous prenons les progrès du 20e siècle et les ajoutons à l'an 2000. La même erreur que notre gars de 1750 fait quand il obtient quelqu'un de 1500 et essaie de le surprendre. Nous pensons intuitivement de manière linéaire, alors que nous devrions être exponentiels. Essentiellement, un futuriste devrait essayer de prédire les progrès des 30 prochaines années, sans regarder les 30 précédentes, mais à en juger par le niveau actuel de progrès. Ensuite, la prévision sera plus précise, mais toujours à la porte. Pour penser correctement à l'avenir, vous devez voir les choses évoluer à un rythme beaucoup plus rapide qu'elles ne le font actuellement.
2. La trajectoire de l'histoire récente semble souvent déformée. Premièrement, même une courbe exponentielle abrupte apparaît linéaire lorsque vous en voyez de petites portions. Deuxièmement, la croissance exponentielle n'est pas toujours régulière et uniforme. Kurzweil pense que les progrès évoluent selon des courbes serpentines.
Une telle courbe passe par trois phases: 1) croissance lente (phase précoce de croissance exponentielle); 2) croissance rapide (phase explosive, tardive de croissance exponentielle); 3) stabilisation sous la forme d'un paradigme spécifique.
Si vous regardez la dernière histoire, la partie de la courbe en S dans laquelle vous vous trouvez peut masquer la vitesse de progression de votre perception. Une partie du temps entre 1995 et 2007 a été consacrée au développement explosif d'Internet, à l'introduction de Microsoft, Google et Facebook au public, à la naissance des réseaux sociaux et au développement de téléphones portables puis de smartphones. C'était la deuxième phase de notre courbe. Mais la période 2008-2015 a été moins perturbatrice, du moins sur le plan technologique. Ceux qui pensent à l'avenir aujourd'hui peuvent prendre les deux dernières années pour évaluer le rythme global des progrès, mais ils ne voient pas la situation dans son ensemble. En fait, une nouvelle et puissante phase 2 est peut-être en train de se préparer.
3. Notre propre expérience fait de nous des vieillards grincheux quand il s'agit de l'avenir. Nous basons nos idées sur le monde sur notre propre expérience, et cette expérience nous a naturellement donné le rythme de la croissance dans un passé récent. De plus, notre imagination est limitée car elle utilise notre expérience pour prédire - mais le plus souvent, nous n'avons tout simplement pas les outils pour prédire avec précision l'avenir. Lorsque nous entendons des prédictions pour l'avenir qui sont en contradiction avec nos perceptions quotidiennes du fonctionnement des choses, nous les considérons instinctivement comme naïves. Si je vous dis que vous vivrez jusqu'à 150 ou 250 ans, ou peut-être que vous ne mourrez pas du tout, vous penserez instinctivement que "c'est stupide, je sais par l'histoire que pendant ce temps tout le monde est mort". C'est ainsi: personne n'a vécu pour voir de telles années. Mais pas un seul avion n'a volé avant l'invention de l'avion.
Ainsi, si le scepticisme vous semble raisonnable, il est le plus souvent faux. Nous devons accepter que si nous nous armons de logique pure et attendons les zigzags historiques habituels, nous devons admettre que très, très, très, beaucoup doit changer dans les décennies à venir; bien plus qu'intuitivement. La logique veut également que si les espèces les plus avancées de la planète continuent de faire des pas de géant en avant, de plus en plus vite, à un moment donné, le saut sera si sévère qu'il changera radicalement la vie telle que nous la connaissons. Quelque chose de similaire s'est produit au cours du processus d'évolution, lorsque l'homme est devenu si intelligent qu'il a complètement changé la vie de toute autre espèce sur la planète Terre. Et si vous passez un peu de temps à lire ce qui se passe actuellement en science et technologie, vous pourriezcommencez à voir certains indices sur ce que sera le prochain pas de géant.
La route de la superintelligence: qu'est-ce que l'IA (intelligence artificielle)?
Comme tant d'autres sur cette planète, vous avez l'habitude de considérer l'intelligence artificielle comme une idée idiote de science-fiction. Mais dernièrement, beaucoup de gens sérieux se sont montrés préoccupés par cette idée stupide. Qu'est-ce qui ne va pas?
Il y a trois raisons qui prêtent à confusion autour du terme IA:
1. Nous associons l'IA aux films. "Guerres des étoiles". "Terminator". "Une Odyssée de l'Espace de 2001". Mais comme les robots, l'IA de ces films est une fiction. Ainsi, les films hollywoodiens diluent le niveau de notre perception, l'IA devient familière, familière et, bien sûr, diabolique.
2. Il s'agit d'un vaste champ d'application. Cela commence par une calculatrice dans votre téléphone et le développement de voitures autonomes jusqu'à quelque chose de lointain qui révolutionnera le monde. L'IA représente toutes ces choses, et c'est déroutant.
3. Nous utilisons l'IA tous les jours, mais nous ne le réalisons même pas souvent. Comme l'a dit John McCarthy, l'inventeur du terme «intelligence artificielle» en 1956, «une fois que cela fonctionne, plus personne ne l'appelle IA». L'IA est devenue plus une prédiction mythique de l'avenir que quelque chose de réel. En même temps, il y a dans ce nom un soupçon de quelque chose du passé qui n'est jamais devenu réalité. Ray Kurzweil dit avoir entendu des gens associer l'IA à des faits des années 80, ce qui peut être comparé à «affirmer qu'Internet est mort avec les dotcoms au début des années 2000».
Soyons clairs. Tout d'abord, arrêtez de penser aux robots. Le robot qui est le conteneur de l'IA imite parfois la forme humaine, parfois non, mais l'IA elle-même est l'ordinateur à l'intérieur du robot. L'IA est un cerveau et un robot est un corps, s'il a un corps. Par exemple, le logiciel et les données de Siri sont l'intelligence artificielle, la voix féminine est la personnification de cette IA, et il n'y a pas de robots dans ce système.
Deuxièmement, vous avez probablement entendu le terme «singularité» ou «singularité technologique». Ce terme est utilisé en mathématiques pour décrire une situation inhabituelle où les règles habituelles ne fonctionnent plus. En physique, il est utilisé pour décrire le point infinitésimal et dense d'un trou noir, ou le point d'origine du Big Bang. Encore une fois, les lois de la physique n'y fonctionnent pas. En 1993, Vernor Vinge a écrit un essai célèbre dans lequel il a appliqué le terme à un moment dans le futur où l'intelligence de nos technologies surpasse la nôtre - à quel point la vie telle que nous la connaissons changera à jamais et les règles habituelles de son existence ne fonctionneront plus. … Ray Kurzweil a affiné davantage ce terme en soulignant que la singularité sera atteinte lorsque la loi du recul accéléré atteindra un point extrême,quand le progrès technologique avance si vite qu'on cesse de remarquer ses réalisations, presque infiniment vite. Ensuite, nous vivrons dans un monde complètement nouveau. Cependant, de nombreux experts ont cessé d'utiliser ce terme, alors ne l'utilisons pas souvent.
Enfin, s'il existe de nombreux types ou formes d'IA qui dérivent du concept large d'IA, les principales catégories d'IA dépendent du calibre. Il existe trois catégories principales:
1. Intelligence artificielle (IA) étroitement focalisée (faible). UII se spécialise dans un domaine. Parmi ces IA, il y a ceux qui peuvent battre le champion du monde d'échecs, mais c'est à peu près tout. Il y en a un qui peut offrir le meilleur moyen de stocker des données sur votre disque dur, et c'est tout.
2. Intelligence artificielle générale (forte). Parfois également appelée IA au niveau humain. AGI fait référence à un ordinateur aussi intelligent qu'une personne - une machine capable d'exécuter toute action intellectuelle inhérente à une personne. Créer AGI est beaucoup plus difficile que AGI, et nous n'y sommes pas encore arrivés. Le professeur Linda Gottfredson décrit l'intelligence comme "dans un sens général, le potentiel psychique, qui, entre autres choses, comprend la capacité de raisonner, de planifier, de résoudre des problèmes, de penser abstraitement, de comprendre des idées complexes, d'apprendre rapidement et d'apprendre de l'expérience". AGI devrait être capable de faire tout cela aussi facilement que vous.
3. Superintelligence artificielle (ISI). Nick Bostrom, philosophe d'Oxford et théoricien de l'IA, définit la superintelligence comme «une intelligence bien plus intelligente que les meilleurs esprits humains dans pratiquement tous les domaines, y compris la créativité scientifique, la sagesse générale et les compétences sociales». La superintelligence artificielle comprend à la fois un ordinateur légèrement plus intelligent qu'une personne et un ordinateur qui est des milliards de fois plus intelligent dans n'importe quelle direction. L'ISI est la raison de l'intérêt croissant pour l'IA, ainsi que du fait que les mots «extinction» et «immortalité» apparaissent souvent dans de telles discussions.
De nos jours, les humains ont déjà conquis la toute première étape du calibre de l'IA - l'IA - à bien des égards. La révolution de l'IA est un voyage d'AGI en passant par AGI et ISI. Ce chemin ne nous survivra peut-être pas, mais cela changera définitivement tout.
Examinons de près comment les principaux penseurs du domaine voient cette voie et pourquoi cette révolution pourrait se produire plus rapidement que vous ne le pensez.
Où en sommes-nous dans ce courant?
L'intelligence artificielle focalisée est l'intelligence artificielle qui égale ou dépasse l'intelligence humaine ou l'efficacité dans l'exécution d'une tâche spécifique. Quelques exemples:
«Les voitures regorgent de systèmes ICD, depuis des ordinateurs qui déterminent le moment où le système de freinage antiblocage doit se déclencher, jusqu'à un ordinateur qui détermine les paramètres du système d'injection de carburant. Les voitures autonomes de Google, qui sont actuellement testées, contiendront des systèmes d'intelligence artificielle robustes qui détectent et réagissent au monde qui les entoure.
- Votre téléphone est une petite usine ICD. Lorsque vous utilisez l'application Cartes, obtenez des recommandations pour télécharger des applications ou de la musique, vérifiez la météo de demain, parlez à Siri ou faites quoi que ce soit d'autre - vous utilisez l'IA.
- Votre filtre anti-spam est un type classique d'IA. Il commence par déterminer comment séparer le spam des e-mails utilisables, puis apprend à mesure qu'il gère vos e-mails et vos préférences.
- Et ce sentiment gênant, alors qu'hier vous recherchiez un tournevis ou un nouveau plasma dans un moteur de recherche, et aujourd'hui vous voyez des offres de boutiques utiles sur d'autres sites? Ou quand le réseau social vous recommande d'ajouter des personnes intéressantes comme amis? Ce sont tous des systèmes d'IA qui fonctionnent ensemble, déterminant vos préférences, récupérant des données vous concernant sur Internet, se rapprochant de plus en plus de vous. Ils analysent le comportement de millions de personnes et tirent des conclusions sur la base de ces analyses afin de vendre les services de grandes entreprises ou d'améliorer leurs services.
- Google Translate est un autre système d'IA classique qui est incroyablement bon pour certaines choses. La reconnaissance vocale aussi. Lorsque votre avion atterrit, le terminal correspondant n'est pas identifié par une personne. Le prix du billet est le même. Les meilleurs jeux de dames, d'échecs, de backgammon, de nouilles et d'autres jeux du monde sont représentés aujourd'hui par une intelligence artificielle étroitement ciblée.
«Google Search est une IA géante qui utilise des méthodes incroyablement intelligentes pour classer les pages et déterminer les SERPs.
Et ce n'est que dans le monde de la consommation. Les systèmes IMD sophistiqués sont largement utilisés dans les secteurs militaire, manufacturier et financier; dans les systèmes médicaux (pensez à Watson d'IBM) et ainsi de suite.
La route d'AGI à AGI: pourquoi est-ce si difficile?
Rien ne révèle plus la complexité de l'intelligence humaine que d'essayer de créer un ordinateur tout aussi intelligent. Construire des gratte-ciel, voler dans l'espace, les secrets du Big Bang sont tous absurdes comparés au fait de répéter notre propre cerveau ou du moins simplement de le comprendre. Le cerveau humain est actuellement l'objet le plus complexe de l'univers connu.
Vous ne vous doutez peut-être même pas de la difficulté de créer un AGI (un ordinateur qui sera intelligent en tant que personne, en général, et pas seulement dans un domaine). Construire un ordinateur capable de multiplier deux nombres à dix chiffres en une fraction de seconde est un jeu d'enfant. Créer quelqu'un qui peut regarder un chien et un chat et dire où se trouve le chien et où se trouve le chat est incroyablement difficile. Créer une IA capable de battre un grand maître? Terminé. Essayez maintenant de lui faire lire un paragraphe d'un livre vieux de six ans et de comprendre non seulement les mots, mais aussi leur signification. Google dépense des milliards de dollars pour y parvenir. Avec des choses complexes - comme des calculs, le calcul de stratégies de marché financier, la traduction d'une langue - l'ordinateur y fait face avec facilité, mais avec des choses simples - vision, mouvement, perception - non. Comme l'a dit Donald Knuth, «l'IA fait maintenant presque toutqui exige de «penser» mais ne peut pas faire face à ce que les humains et les animaux font sans réfléchir."
Quand vous pensez aux raisons de cela, vous vous rendrez compte que les choses qui nous semblent simples à faire ne le semblent que parce qu'elles ont été optimisées pour nous (et les animaux) au cours de centaines de millions d'années d'évolution. Lorsque vous atteignez un objet, les muscles, les articulations, les os de vos épaules, vos coudes et vos mains effectuent instantanément de longues chaînes d'opérations physiques, synchronisées avec ce que vous voyez, et bougent votre bras en trois dimensions. Cela vous semble simple, car le logiciel idéal de votre cerveau est responsable de ces processus. Cette astuce simple rend la procédure d'enregistrement d'un nouveau compte en entrant un mot écrit de travers (captcha) simple pour vous et l'enfer pour un bot malveillant. Pour notre cerveau, ce n'est pas difficile: il suffit de pouvoir voir.
D'un autre côté, multiplier un grand nombre ou jouer aux échecs sont de nouvelles activités pour les êtres biologiques, et nous n'avons pas eu assez de temps pour nous améliorer (pas des millions d'années), il n'est donc pas difficile pour un ordinateur de nous vaincre. Pensez-y: préférez-vous créer un programme capable de multiplier de grands nombres, ou un programme qui reconnaît la lettre B dans ses millions d'orthographes, dans les polices les plus imprévisibles, à la main ou avec un bâton dans la neige?
Un exemple simple: lorsque vous regardez cela, vous et votre ordinateur réalisez qu'il s'agit de carrés alternés de deux nuances différentes.
Mais si vous supprimez le noir, vous décrirez immédiatement l'image complète: cylindres, plans, angles tridimensionnels, mais un ordinateur ne peut pas.
Il décrira ce qu'il voit comme une variété de formes bidimensionnelles dans différentes nuances, ce qui, en principe, est vrai. Votre cerveau fait une tonne de travail pour interpréter la profondeur, les jeux d'ombres, la lumière dans une image. Dans l'image ci-dessous, l'ordinateur verra un collage en deux dimensions blanc-gris-noir, alors qu'en réalité il y a une pierre en trois dimensions.
Et tout ce que nous venons de décrire est la pointe de l'iceberg en matière de compréhension et de traitement de l'information. Pour atteindre le même niveau avec une personne, un ordinateur doit comprendre la différence dans les expressions faciales subtiles, la différence entre le plaisir, la tristesse, la satisfaction, la joie et pourquoi Chatsky est bon, et Molchalin ne l'est pas.
Que faire?
La première étape de la construction de l'AGI: augmenter la puissance de calcul
Une des choses nécessaires qui doit arriver pour que l'AGI devienne possible est d'augmenter la puissance du matériel informatique. Si un système d'intelligence artificielle doit être aussi intelligent que le cerveau, il doit correspondre au cerveau en puissance de calcul brute.
Une façon d'augmenter cette capacité consiste à utiliser le nombre total de calculs par seconde (OPS) que le cerveau peut produire, et vous pouvez déterminer ce nombre en trouvant le maximum d'OPS pour chaque structure cérébrale et en les rassemblant.
Ray Kurzweil a conclu qu'il suffit de prendre une estimation professionnelle de l'OPS d'une structure et de son poids par rapport au poids de l'ensemble du cerveau, puis de multiplier proportionnellement pour obtenir l'estimation globale. Cela semble un peu douteux, mais il l'a fait plusieurs fois avec différentes estimations de différentes zones et a toujours proposé le même nombre: environ 10 ^ 16 ou 10 quadrillions d'OPS.
Le supercalculateur le plus rapide du monde, le chinois Tianhe-2, a déjà dépassé ce nombre: il est capable de faire environ 32 quadrillions d'opérations par seconde. Mais "Tianhe-2" occupe 720 mètres carrés d'espace, consomme 24 mégawatts d'énergie (notre cerveau ne consomme que 20 watts) et coûte 390 millions de dollars. Nous ne parlons pas d'utilisation commerciale ou généralisée.
Kurzweil suggère que nous jugions la santé des ordinateurs en fonction du nombre d'OPS que vous pouvez acheter pour 1 000 $. Lorsque ce nombre atteindra le niveau humain - 10 quadrillions d'OPS - l'AGI pourrait bien faire partie de nos vies.
La loi de Moore - la règle historiquement fiable selon laquelle la puissance de calcul maximale des ordinateurs double tous les deux ans - implique que le développement de la technologie informatique, comme le mouvement de l'homme à travers l'histoire, croît de façon exponentielle. Si nous mettons cela en conformité avec la règle des mille dollars de Kurzweil, nous pouvons maintenant nous permettre 10 billions de dollars OPS pour 1000 dollars.
La croissance exponentielle de l'informatique: 20e - 21e siècles. Sur la droite se trouve une règle à calcul et dessus - le cerveau d'un insecte, d'une souris, d'une personne et de toutes les personnes; gauche - calculs par seconde pour 1 000 $; ci-dessous - année.
Les ordinateurs pour 1 000 $ contournent le cerveau d'une souris dans leur puissance de calcul et sont mille fois plus faibles que les humains. Cela semble être un mauvais indicateur jusqu'à ce que nous nous souvenions que les ordinateurs étaient un billion de fois plus faibles que le cerveau humain en 1985, un milliard en 1995 et un million en 2005. D'ici 2025, nous devrions avoir un ordinateur abordable qui rivalise avec la puissance de calcul notre cerveau.
Ainsi, la puissance brute requise pour AGI est déjà techniquement disponible. Dans 10 ans, il quittera la Chine et se répandra dans le monde entier. Mais la puissance de calcul seule ne suffit pas. Et la question suivante: comment pouvons-nous fournir une intelligence au niveau humain avec tout ce pouvoir?
La deuxième étape pour créer AGI: lui donner de l'intelligence
Cette partie est assez délicate. En vérité, personne ne sait vraiment comment rendre une machine intelligente - nous essayons toujours de comprendre comment créer une intelligence au niveau humain qui puisse distinguer un chat d'un chien, isoler un B dessiné dans la neige et analyser un film de second ordre. Cependant, il existe une poignée de stratégies avant-gardistes et, à un moment donné, l'une d'elles devrait fonctionner.
1. Répétez le cerveau
Cette option, c'est comme si les scientifiques étaient dans la même classe avec un enfant très intelligent et capable de répondre aux questions; et même s'ils essaient diligemment de comprendre la science, ils ne sont même pas près de rattraper l'enfant intelligent. En fin de compte, ils décident: au diable, nous allons simplement écrire les réponses à ses questions. C'est logique: nous ne pouvons pas construire un ordinateur ultra-complexe, alors pourquoi ne pas prendre l'un des meilleurs prototypes de l'univers comme base: notre cerveau?
Le monde scientifique travaille dur pour comprendre comment fonctionne notre cerveau et comment l'évolution a créé une chose aussi complexe. Selon les estimations les plus optimistes, ils ne pourront le faire que d'ici 2030. Mais une fois que nous comprenons tous les secrets du cerveau, son efficacité et sa puissance, nous pouvons être inspirés par ses méthodes de création de technologie. Par exemple, l'une des architectures informatiques qui imite le fonctionnement du cerveau est un réseau neuronal. Elle commence par un réseau de «neurones» à transistors connectés les uns aux autres par entrée et sortie, et ne sait rien - comme un nouveau-né. Le système "apprend" en essayant d'accomplir des tâches, de reconnaître un texte manuscrit, etc. Les connexions entre transistors sont renforcées si la réponse est correcte et affaiblies si la réponse est incorrecte. Après de nombreux cycles de questions et réponses, le système forme des tissages neuronaux intelligents,optimisé pour des tâches spécifiques. Le cerveau apprend de la même manière, mais d'une manière beaucoup plus complexe, et à mesure que nous continuons à l'étudier, nous découvrons d'incroyables nouvelles façons d'améliorer les réseaux de neurones.
Un plagiat encore plus extrême implique une stratégie appelée émulation cérébrale complète. Objectif: découper un vrai cerveau en fines tranches, numériser chacune d'elles, puis reconstruire avec précision le modèle 3D à l'aide d'un logiciel, puis le traduire en un ordinateur puissant. Ensuite, nous aurons un ordinateur qui peut officiellement faire tout ce que le cerveau peut faire: il a juste besoin d'apprendre et de collecter des informations. Si les ingénieurs réussissent, ils peuvent imiter un vrai cerveau avec une précision incroyable qu'une fois téléchargé sur un ordinateur, la véritable identité et la mémoire du cerveau resteront intactes. Si le cerveau appartenait à Vadim avant sa mort, l'ordinateur se réveillera dans le rôle de Vadim, qui sera désormais une AGI au niveau humain, et nous, à notre tour, transformerons Vadim en un ISI incroyablement intelligent.dont il sera probablement ravi.
Dans quelle mesure sommes-nous loin d'imiter complètement le cerveau? En vérité, nous venons d'imiter le cerveau d'un ver plat millimétrique, qui contient 302 neurones au total. Le cerveau humain contient 100 milliards de neurones. Si essayer d'atteindre ce nombre vous semble inutile, pensez au taux de croissance exponentiel du progrès. La prochaine étape sera l'émulation du cerveau de la fourmi, puis il y aura une souris, puis une personne est à portée de main.
2. Essayez de suivre les traces de l'évolution
Eh bien, si nous décidons que les réponses de l'enfant intelligent sont trop complexes pour être annulées, nous pouvons essayer de suivre ses traces d'apprentissage et de préparation aux examens. Que savons-nous? Il est tout à fait possible de construire un ordinateur aussi puissant qu'un cerveau - l'évolution de notre propre cerveau l'a prouvé. Et si le cerveau est trop complexe à imiter, nous pouvons essayer d'imiter l'évolution. Le fait est que même si nous pouvons imiter le cerveau, cela pourrait être comme essayer de construire un avion en agitant la main ridicule qui imite les mouvements des ailes des oiseaux. Le plus souvent, nous réussissons à créer de bonnes machines en utilisant une approche orientée machine plutôt qu'une imitation exacte de la biologie.
Comment simuler l'évolution pour construire AGI? Cette méthode, appelée «algorithmes génétiques», devrait fonctionner à peu près comme ceci: il doit y avoir un processus productif et son évaluation, et il se répétera encore et encore (de la même manière que les créatures biologiques «existent» et sont «évaluées» par leur capacité à se reproduire). Un groupe d'ordinateurs effectuera des tâches, et les plus réussis d'entre eux partageront leurs caractéristiques avec d'autres ordinateurs, «sortie». Les moins réussis seront jetés sans pitié dans la poubelle de l'histoire. Grâce à de très nombreuses itérations, ce processus de sélection naturelle produira de meilleurs ordinateurs. Le défi réside dans la création et l'automatisation des cycles de sélection et d'évaluation afin que le processus d'évolution se poursuive par lui-même.
L'inconvénient de copier l'évolution est que l'évolution prend des milliards d'années pour faire quelque chose, et nous n'avons besoin que de quelques décennies pour le faire.
Mais nous avons beaucoup d'avantages, contrairement à l'évolution. Premièrement, il n'a pas le don de la prévoyance, il fonctionne par hasard - il donne des mutations inutiles, par exemple - et nous pouvons contrôler le processus dans le cadre des tâches définies. Deuxièmement, l'évolution n'a pas de but, y compris le désir d'intelligence - parfois dans l'environnement une certaine espèce ne gagne pas aux dépens de l'intelligence (car cette dernière consomme plus d'énergie). Nous, d'autre part, pouvons viser à accroître l'intelligence. Troisièmement, pour choisir l'intelligence, l'évolution doit apporter un certain nombre d'améliorations tierces - comme la redistribution de la consommation d'énergie par les cellules - nous pouvons simplement supprimer l'excédent et utiliser l'électricité. Sans aucun doute, nous serons plus rapides que l'évolution - mais encore une fois, il n'est pas clair si nous pouvons la surpasser.
3. Laisser les ordinateurs à eux-mêmes
C'est la dernière chance lorsque les scientifiques sont complètement désespérés et essaient de programmer un programme de développement personnel. Cependant, cette méthode peut s'avérer la plus prometteuse de toutes. L'idée est que nous créons un ordinateur qui aura deux compétences de base: explorer l'IA et coder les changements en lui-même - ce qui lui permettra non seulement d'en apprendre plus, mais aussi d'améliorer sa propre architecture. Nous pouvons former les ordinateurs à devenir leurs propres ingénieurs informaticiens afin qu'ils puissent se développer eux-mêmes. Et leur tâche principale sera de trouver comment devenir plus intelligent. Nous en reparlerons plus tard.
Tout cela peut arriver très bientôt
Progrès rapides du matériel et de l'expérimentation de logiciels exécutés en parallèle, et l'AGI peut émerger rapidement et de manière inattendue pour deux raisons principales:
Quand les ordinateurs surpasseront-ils les humains en termes de capacité de réflexion? Le volume du lac Michigan (en onces liquides) est égal au volume de notre cerveau (en opérations par seconde). La puissance de calcul double tous les 18 mois. À ce rythme, vous ne verrez aucun résultat pendant longtemps, mais tout se passera instantanément.
2. En matière de logiciel, les progrès peuvent sembler lents, mais une percée modifie instantanément la vitesse des progrès (bon exemple: à l'époque de la vision géocentrique du monde, il était difficile pour les gens de calculer le travail de l'univers, mais la découverte de l'héliocentrisme a rendu tout beaucoup plus facile). Ou, quand il s'agit d'un ordinateur qui s'améliore, les choses peuvent sembler extrêmement lentes, mais parfois un seul amendement au système le sépare d'une efficacité mille fois supérieure à celle d'un humain ou d'une version précédente.
La route d'AGI à ISI
À un moment donné, nous aurons certainement AGI - intelligence artificielle générale, ordinateurs avec un niveau d'intelligence humaine générale. Les ordinateurs et les humains vivront ensemble. Ou ils ne le feront pas.
Le fait est que l'AGI avec le même niveau d'intelligence et de puissance de traitement que les humains aura toujours des avantages significatifs par rapport aux humains. Par exemple:
Équipement
Vitesse. Les neurones cérébraux fonctionnent à 200 Hz, tandis que les microprocesseurs modernes (qui sont nettement plus lents que ce que nous obtiendrons au moment de la création de l'AGI) fonctionnent à une fréquence de 2 GHz, soit 10 millions de fois plus vite que nos neurones. Et les communications internes du cerveau, qui peuvent se déplacer à une vitesse de 120 m / s, sont nettement inférieures à la capacité des ordinateurs à utiliser l'optique et à la vitesse de la lumière.
Taille et stockage. La taille du cerveau est limitée par la taille de nos crânes, et il ne peut pas s'agrandir, sinon les communications internes à une vitesse de 120 m / s prendront trop de temps pour passer d'une structure à une autre. Les ordinateurs peuvent s'étendre à n'importe quelle taille physique, utiliser plus de matériel, augmenter la RAM, la mémoire à long terme - tout cela dépasse nos capacités.
Fiabilité et durabilité. Non seulement la mémoire de l'ordinateur est plus précise que la mémoire humaine. Les transistors informatiques sont plus précis que les neurones biologiques et sont moins sujets à la détérioration (et en effet, ils peuvent être remplacés ou réparés). Les cerveaux des gens se fatiguent plus vite, tandis que les ordinateurs peuvent fonctionner sans interruption, 24 heures par jour, 7 jours par semaine.
Logiciel
Possibilité d'édition, de modernisation, un plus large éventail de possibilités. Contrairement au cerveau humain, un programme informatique peut être facilement corrigé, mis à jour ou expérimenté. Les zones où le cerveau humain est faible peuvent également être améliorées. Le logiciel de vision humaine est superbement conçu, mais d'un point de vue technique, ses capacités sont encore très limitées - nous ne voyons que dans le spectre visible de la lumière.
Capacité collective. Les humains sont supérieurs aux autres espèces en termes de grande intelligence collective. Commençant par le développement du langage et la formation de grandes communautés, passant par les inventions de l'écriture et de l'imprimerie, et maintenant dynamisée par des outils tels que l'Internet, l'intelligence collective des personnes est une raison importante pour laquelle nous pouvons nous appeler la couronne de l'évolution. Mais les ordinateurs seront toujours meilleurs. Le réseau mondial d'intelligences artificielles travaillant sur un seul programme, en constante synchronisation et auto-développement, vous permettra d'ajouter instantanément de nouvelles informations à la base de données, où que vous soyez. Un tel groupe pourra également travailler vers un seul objectif dans son ensemble, car les ordinateurs ne souffrent pas des opinions particulières, de la motivation et de l'intérêt personnel des gens.
L'IA, qui est le plus susceptible de devenir AGI grâce à l'auto-amélioration programmée, ne verra pas «l'intelligence au niveau humain» comme une étape importante - cette étape n'est importante que pour nous. Il n'aura aucune raison de s'arrêter à ce niveau douteux. Et étant donné les avantages que même l'AGI au niveau humain aura, il est tout à fait évident que l'intelligence humaine sera un éclair pour elle dans la course à la supériorité intellectuelle.
Cette évolution des événements peut nous surprendre énormément. Le fait est que, de notre point de vue, a) le seul critère qui permet de déterminer la qualité de l'intelligence est l'intelligence des animaux, qui est inférieure à la nôtre par défaut; b) pour nous, les personnes les plus intelligentes sont TOUJOURS plus intelligentes que les plus stupides. Plus ou moins comme ceci:
Autrement dit, alors que l'IA essaie simplement d'atteindre notre niveau de développement, nous voyons comment elle devient plus intelligente, se rapprochant du niveau de l'animal. Quand il atteindra le premier niveau humain - Nick Bostrom utilise le terme «idiot du pays» - nous serons ravis: «Wow, il est déjà comme un crétin. Cool! La seule chose est que dans le spectre général de l'intelligence des gens, de l'idiot du village à Einstein, la portée est petite. Par conséquent, une fois que l'IA atteint le niveau de l'idiot et devient AGI, elle deviendra soudainement plus intelligente qu'Einstein.
Et que va-t-il se passer ensuite?
Explosion d'intelligence
J'espère que vous l'avez trouvé intéressant et amusant, car à partir de ce moment, le sujet dont nous discutons devient anormal et effrayant. Nous devrions faire une pause et nous rappeler que chaque fait mentionné ci-dessus et ci-dessous est une vraie science et de véritables prédictions pour l'avenir, faites par les penseurs et les scientifiques les plus éminents. Gardez juste à l'esprit.
Ainsi, comme nous l'avons indiqué ci-dessus, tous nos modèles modernes pour atteindre l'AGI incluent l'option lorsque l'IA s'améliore d'elle-même. Et dès qu'il devient AGI, même les systèmes et méthodes avec lesquels il a grandi deviennent assez intelligents pour s'améliorer - s'ils le souhaitent. Un concept intéressant émerge: l'auto-amélioration récursive. Cela fonctionne comme ça.
Un certain système d'IA à un certain niveau - disons, l'idiot du village - est programmé pour améliorer sa propre intelligence. Ayant développé - disons au niveau d'Einstein - un tel système commence à se développer déjà avec l'intelligence d'Einstein, il prend moins de temps à se développer et les sauts sont de plus en plus grands. Ils permettent au système de surpasser n'importe qui, et ils deviennent de plus en plus gros. Au fur et à mesure qu'il se développe rapidement, AGI atteint des sommets célestes dans son intelligence et devient un système ISI superintelligent. Ce processus s'appelle une explosion de l'intelligence, et c'est l'exemple le plus clair de la loi des retours accélérés.
Les scientifiques discutent de la rapidité avec laquelle l'IA atteindra le niveau AGI - la plupart pensent que nous obtiendrons l'AGI d'ici 2040, dans seulement 25 ans, ce qui est très, très peu selon les normes de développement technologique. Poursuivant la chaîne logique, il n'est pas difficile de supposer que la transition d'AGI à ISI se fera également extrêmement rapidement. Plus ou moins comme ceci:
«Il a fallu des décennies avant que le premier système d'IA n'atteigne son plus bas niveau d'intelligence générale, mais c'est finalement arrivé. L'ordinateur est capable de comprendre le monde qui l'entoure à l'âge de quatre ans. Soudainement, littéralement une heure après avoir atteint ce jalon, le système produit une grande théorie de la physique qui combine la relativité générale et la mécanique quantique, ce qu'aucun humain ne peut faire. Après une heure et demie, l'IA devient ISI, 170 000 fois plus intelligente que n'importe quel humain."
Nous n'avons même pas les bons termes pour décrire une superintelligence de cette ampleur. Dans notre monde, «intelligent» signifie une personne avec un QI de 130, «stupide» - 85, mais nous n'avons aucun exemple de personnes avec un QI de 12 952. Nos dirigeants ne sont pas conçus pour cela.
L'histoire de l'humanité nous le dit clairement et clairement: avec l'intellect vient le pouvoir et la force. Cela signifie que lorsque nous créerons une superintelligence artificielle, ce sera la créature la plus puissante de l'histoire de la vie sur Terre, et tous les êtres vivants, y compris les humains, seront complètement en son pouvoir - et cela peut arriver dans vingt ans.
Si nos maigres cerveaux étaient capables d'inventer le Wi-Fi, alors quelque chose de plus intelligent que nous cent, mille, un milliard de fois peut facilement calculer la position de chaque atome de l'univers à un moment donné. Tout ce que l'on peut appeler de la magie, tout pouvoir attribué à une divinité toute-puissante - tout cela sera à la disposition de l'ISI. Créer une technologie pour inverser le vieillissement, traiter toute maladie, mettre fin à la faim et même à la mort, contrôler le temps - tout deviendra soudain possible. Une fin instantanée de toute vie sur Terre est également possible. Les gens les plus intelligents de notre planète conviennent que dès que la superintelligence artificielle apparaîtra dans le monde, elle marquera l'apparition de Dieu sur Terre. Et une question importante demeure.
Basé sur des matériaux de waitbutwhy.com, compilation de Tim Urban. L'article utilise des matériaux issus des œuvres de Nick Bostrom, James Barratt, Ray Kurzweil, Jay Niels-Nilsson, Stephen Pinker, Vernor Vinge, Moshe Vardy, Russ Roberts, Stuart Armstrog et Kai Sotal, Susan Schneider, Stuart Russell et Peter Norvig, Theodore Modis Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Kely, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Auteur: Ilya Khel
Deuxième partie: extinction ou immortalité?