Il y a trente ans, les États-Unis tentaient de repousser les limites de l'informatique, de l'intelligence artificielle et de la robotique. Ils voulaient créer quelque chose de nouveau, très rappelant l'avenir dystopique des films Terminator, ou Skynet.
De 1983 à 1993, la Defense Advanced Research Projects Agency (DARPA) a dépensé plus d'un milliard de dollars dans un programme appelé Strategic Computing Initiative (Strategic Computer Initiative ou SCI). Le but de la DARPA était de repousser les limites de l'informatique, de l'intelligence artificielle et de la robotique, créant quelque chose qui ressemblait beaucoup à l'avenir dystopique des films Terminator. Il voulait créer Skynet.
À l'instar du programme Star Wars de Ronald Reagan, l'idée SKI s'est avérée trop futuriste pour son époque. Mais aujourd'hui, quand on voit des progrès étonnants dans la création d'intelligence artificielle et de robots indépendants par les militaires, il est logique de revenir sur ce programme à moitié oublié et de se poser la question: sommes-nous prêts à vivre dans un monde de machines tueuses interconnectées par des cerveaux électroniques? Et encore une question, peut-être inutile. Si nous voulons arrêter cela, sommes-nous trop tard avec notre désir?
Les possibilités sont vraiment stupéfiantes …
Ceci est un extrait d'un document peu connu présenté au Congrès en octobre 1983. Il définit les objectifs de la nouvelle initiative informatique stratégique. Et comme tout ce que la DARPA a fait avant et depuis, ce programme s'est avéré extrêmement ambitieux.
Le concept de l'Initiative informatique stratégique a été incarné dans un système complètement nouveau, dont le développement a été dirigé par Robert Kahn, alors responsable des techniques de traitement de l'information à la DARPA. Comme indiqué dans son livre de 2002 Strategic Computing, Kahn n'a pas été le premier à comprendre le système, mais il a été le premier à décrire le concept et la structure de la future Strategic Computer Initiative. Il a démarré ce projet et défini son contenu très tôt. SKI a pris sa propre vie, dirigé par d'autres personnes, mais a conservé l'influence de Kahn."
Ce système était censé créer un monde où les véhicules indépendants collectent non seulement des données de reconnaissance sur l'ennemi à travers le monde, mais aussi la capacité de frapper avec une précision mortelle depuis la terre, la mer et les airs. SKI devait devenir un réseau mondial reliant tous les aspects des capacités militaires et techniques américaines - des capacités basées sur de nouveaux ordinateurs incroyablement rapides.
Vidéo promotionelle:
Mais ce réseau n'était pas uniquement destiné à un traitement automatisé de l'information froid et impartial. Non, le nouveau système devait voir, entendre, agir et réagir. Et surtout, elle devait comprendre, et sans aucune incitation d'une personne.
La course aux armements économiques
L'origine du SQI est souvent associée à la concurrence technologique qui a éclaté entre les États-Unis et le Japon au début des années 80. Les Japonais voulaient créer une nouvelle génération de supercalculateurs, qui devaient former la base d'un système d'intelligence artificielle. Combinant la puissance économique de l'État japonais et les nouvelles possibilités de la microélectronique et de l'industrie informatique du pays, ils ont commencé à créer un système informatique de cinquième génération pour atteindre leur objectif.
L'objectif était de développer des ordinateurs incroyablement rapides qui permettraient au Japon de se détacher des autres pays (principalement les États-Unis et la «Silicon Valley» qui y naissait) dans la course à la supériorité technologique. Les Japonais se sont donné 10 ans pour mener à bien cette tâche. Mais peu importe comment ils ont accéléré leurs voitures, ils ne pouvaient, comme les Américains, rendre les ordinateurs "plus intelligents" au détriment d'une puissante intelligence artificielle.
Les aspirations japonaises ont effrayé de nombreux Américains. Ils craignaient que l'Amérique ne perde son avance technologique. Ces craintes étaient en grande partie alimentées par The Fifth Generation: Artificial Intelligence and Japan's Computer Challenge to the World, publié en 1983 par Edward A. Feigenbaum et Pamela McCorduck. Challenge to the World), qui est devenue une littérature incontournable sur Capitol Hill.
Afin de vulgariser les idées de la SCI auprès du peuple américain et du monde des affaires, la DARPA a insisté sur le fait que le but de l'initiative dès le départ était uniquement de promouvoir les intérêts économiques du pays. Les retombées de cette technologie auraient dû créer de nouvelles incitations pour l'économie américaine, comme indiqué dans un document de planification de la DARPA:
L'appel au secteur privé et au système universitaire était également censé apporter une assistance aux plus intelligents et aux plus talentueux dans l'accomplissement des tâches du programme de l'Office of Advanced Research and Development:
les technologies développées ne seront pas transférées à des entreprises concurrentes.
Mais la concurrence économique avec les Japonais, quoique une force motrice importante, n'a causé qu'une préoccupation secondaire parmi les politiciens empêtrés dans les vicissitudes de la guerre froide. Les faucons du GOP étaient les plus concernés par le renforcement militaire et le renforcement militaire. Beaucoup d'entre eux pensaient que c'était la menace militaire la plus importante posée par l'Union soviétique. Et l'Initiative informatique stratégique était censée éliminer cette menace.
Connexion Star Wars
Le lancement du programme SRS et le mandat de la DARPA, qui ont émergé en 1983 et 1984, ont suscité un débat houleux dans la communauté scientifique - celle qui a finalement bénéficié du financement de ce projet. Quelqu'un a émis des doutes sur la possibilité de mettre en œuvre des plans ambitieux pour créer une intelligence artificielle avancée. Certains craignaient qu'avec la création de l'intelligence artificielle à des fins militaires, une terrible ère d'armées indépendantes de robots ne commence.
Et c'était une préoccupation bien fondée. Si l'objectif de Star Wars (le nom populaire de l'Initiative de défense stratégique de Ronald Reagan et du football politique populaire de l'époque) était une réponse automatique ou semi-automatique à toute menace de missiles nucléaires des Soviétiques, alors il serait tout simplement ridicule de ne pas l'inclure dans un système plus large de véritables intelligents. Machines. Les objectifs des deux projets, sans parler des institutions qui les ont développés, coïncidaient et se chevauchaient trop pour être une simple coïncidence, bien que chacun ait insisté sur le fait que c'était une coïncidence.
D'après le travail de Chris Hables Gray, écrit en 1988:
Si vous demandez à quelqu'un qui a travaillé dans la direction du programme SKI, on vous dira constamment que l'Initiative informatique stratégique n'a rien à voir avec le rêve de Reagan de Star Wars. Mais dès le début de la mise en œuvre de SKI, les gens ont fait un lien entre celui-ci et SDI. Ces associations sont en partie dues à des similitudes de noms et au fait que ces noms ont été donnés par une seule personne - Robert Cooper, qui a été directeur de l'Administration avancée de la recherche et du développement du département américain de la Défense de 1981 à 1985. Ou peut-être que les gens ont vu la connexion parce que les systèmes d'interface informatique développés pour SKI étaient tout à fait logiquement appropriés comme application pour une stratégie de défense antimissile spatiale.
L'utilisation de la technologie informatique stratégique sur terre, en mer et dans les airs
Un aperçu général de l'IQS préparé en 1983 a défini l'objectif de cette initiative. L'objectif était clair et compréhensible: développer une vaste base de technologies d'intelligence artificielle pour renforcer la sécurité nationale et le pouvoir économique. Mais pour y parvenir, le Congrès et les départements militaires, censés utiliser le SKI et ses avantages à l'avenir, devaient voir ce système en action.
SKI avait trois incarnations matérielles censées prouver son potentiel de combat, bien qu'à la fin des années 1980, il était prévu de développer encore plus de tels systèmes. Au premier rang des développements techniques de SKI se trouvaient le véhicule sol autonome ALV, l'assistant du pilote et le système de contrôle de combat du porte-avions.
Ces outils devaient être équipés d'ordinateurs incroyablement avancés, conçus par la société de Cambridge BBN, surtout connue pour ses travaux de création de la première version d'Internet. Les ordinateurs ont permis des avancées décisives dans des domaines tels que les systèmes de vision, la compréhension du langage et la navigation. Et ce sont les outils les plus importants pour créer une force militaire intégrée homme-machine.
Voiture sans chauffeur - 1985
Le produit extérieur le plus inquiétant à sortir des entrailles de SKI était le véhicule terrestre autonome ALV. Ce véhicule sans conducteur à huit roues mesurait trois mètres de haut et quatre mètres de long. Il était équipé d'une caméra et de capteurs qui étaient montés sur le toit et contrôlaient le mouvement de la voiture, en étant ses «yeux».
Martin Marietta, qui a fusionné avec la Lockheed Corporation en 1995 pour créer Lockheed Martin, a remporté un appel d'offres pour un véhicule terrestre autonome expérimental à l'été 1984. Au cours des trois ans et demi du programme SKI, il était prévu de recevoir 10,6 millions de dollars (ajusté en fonction de l'inflation, c'est 24 millions), plus 6 millions supplémentaires si le projet répondait à certains critères.
Dans le numéro d'octobre 1985 de Popular Science, il y avait un article sur les tests qui ont été effectués sur le site de test secret de Martin Marietta au sud-ouest de Denver.
L'auteur de l'article, Jim Schefter, a décrit la scène de test sur le terrain d'essai:
La DARPA s'est associée à Martin Marietta et à l'Université du Maryland, qui a fait un excellent travail de création d'un système de vision. Cette combinaison semblait importante pour assurer le succès du développement des véhicules terrestres.
Construire un système vidéo pour un véhicule autonome s'est avéré incroyablement difficile. Elle peut être induite en erreur par la lumière et les ombres, et par conséquent, elle n'était pas assez fiable. Pendant la journée, elle a retrouvé le bord de la route sans problème, mais à cause des ombres du soir au coucher du soleil, elle pourrait bien se glisser dans le fossé.
Tout changement dans l'environnement (par exemple, la saleté sous les roues d'une autre voiture) a également perturbé le système de vision. Cela était inacceptable même dans des conditions d'essai sur le terrain d'essai. Si la machine ne peut pas faire face à des obstacles aussi simples, comment agira-t-elle dans des conditions de combat difficiles et imprévisibles avec d'innombrables facteurs variables?
En novembre 1987, le véhicule terrestre autonome avait été considérablement amélioré, mais à la fin de l'année, il a été effectivement abandonné. Bien que le véhicule était plutôt primitif, certains à la DARPA ont estimé qu'il avait été réduit trop rapidement.
En conséquence, elle a été incapable de surmonter son manque de préparation au combat. Comme le souligne Alex Roland dans son livre Strategic Computing, «Un officier qui n'avait absolument aucune compréhension du programme ALV s'est plaint que le véhicule était militairement inutile: très lent et blanc, ce qui en fait une cible facile. sur le champ de bataille. En avril 1988, le Bureau des recherches avancées et du développement a officiellement cessé ses travaux.
R2-D2, mais dans la vraie vie
Le deuxième mode de réalisation pratique de l'Initiative informatique stratégique était l'assistant du pilote. Les développeurs l'ont envisagé comme un robot invisible R2-D2 - un satellite intelligent qui comprend le langage simple du pilote. Cet assistant pourrait, par exemple, détecter une cible ennemie et demander au pilote s'il est nécessaire de la détruire. Quelque chose comme "Le meilleur tireur" en compagnie de l'assistant personnel Siri de l'iPhone.
Dans ce scénario, la décision finale revenait au pilote. Mais son assistant devait devenir assez intelligent non seulement pour savoir qui posait les questions, ce qu'il demandait et comment poser les questions lui-même. Il devait comprendre pourquoi.
Voici les lignes du document de planification SKI:
Et c'est ici que la Direction de la recherche avancée et du développement a décidé qu'elle avait besoin de son propre Skynet. Les nouvelles caractéristiques des opérations de combat associées au développement rapide des technologies militaires exigeaient une interaction claire entre une machine et une personne - et cela devint la clé du succès au combat. Le pilote appuyait toujours sur les boutons, mais ces ordinateurs devaient penser pour lui au moins à moitié. Si l'humanité n'a pas le temps, il faut connecter des machines pour travailler.
Le programme d'assistant pilote n'a pas été couvert par la presse américaine au même titre que le véhicule terrestre autonome. Probablement, cela était dû au fait qu'il était beaucoup plus difficile à imaginer qu'un énorme réservoir roulant le long de la route sans chauffeur. Mais si vous regardez les technologies de reconnaissance vocale d'aujourd'hui, il devient clair ce que toutes ces recherches sur «l'assistant du pilote» ont conduit.
Conseiller robot invisible
Programme de SKI conçu pour prouver sa faisabilité.
Roland écrit à ce sujet dans son livre Strategic Computing:
pour la raison, il a été gardé secret, contrairement à ALV. Un robot roulant sur la route sans conducteur peut en effrayer beaucoup. Un robot invisible avec un doigt invisible sur un bouton nucléaire? Eh bien, presque personne ne veut publier des communiqués de presse sur ce sujet.
Le système de contrôle de combat a été conçu comme une application logicielle spécifiquement pour la Marine. (Un véhicule terrestre autonome a été créé spécifiquement pour les forces terrestres, et un «pilote assistant» pour l'armée de l'air.) Mais en réalité, ce n'était qu'une couverture pour un système plus polyvalent. Toutes ces technologies devaient être utilisées à l'avenir là où elles sont le plus nécessaires. Le programme de reconnaissance vocale développé pour «l'assistant du pilote» devait être utilisé dans toutes les branches des forces armées, et pas seulement dans l'armée de l'air. Et le système de contrôle de combat devait convenir à tout le monde - sauf, bien sûr, à l'ennemi.
Assembler Skynet
Tous les divers composants de l'Initiative informatique stratégique faisaient partie d'un système hypothétique plus large qui pourrait radicalement changer la nature de la guerre au 21e siècle.
Imaginez un réseau sans fil mondial qui contrôle de nombreux autres réseaux subordonnés dans l'armée américaine. Imaginez des armées de chars robotiques parlant à des essaims de drones dans le ciel et de sous-marins sans pilote en mer - et l'interaction entre eux est beaucoup plus rapide que n'importe quel commandant humain. Imaginez maintenant que tout cela est beaucoup plus compliqué et avec des missiles nucléaires en attente de lancement dans l'espace.
Le concept de l'Initiative informatique stratégique était incroyablement audacieux, et pourtant un peu inhabituel quand on pense à jusqu'où cela pourrait nous mener. La logique du développement ultérieur de l'intelligence artificielle et du réseau mondial de machines tueuses est facile à imaginer, ne serait-ce que parce que nous l'avons vu d'innombrables fois dans les livres et les films.
L'avenir de la guerre et de la paix
L'initiative informatique stratégique du début des années 90 a finalement été détruite par la prise de conscience qu'il était tout simplement impossible de créer une intelligence artificielle puissante comme celle imaginée par la DARPA. Mais si toutes ces technologies et innovations techniques développées dans les années 80 nous semblent étrangement familières, c'est parce qu'au début du XXIe siècle elles parlent et écrivent dans les médias.
Les systèmes de vision d'un véhicule terrestre autonome ont trouvé leur incarnation dans les robots Atlas de Boston Dynamics. Nous pouvons voir qu'un système de reconnaissance vocale comme Siri de «l'assistant du pilote» est utilisé dans l'US Air Force. Et les voitures autonomes sont testées par Google, avec de nombreuses autres entreprises. Toutes ces technologies sont des guerres futures. Et si vous croyez Google, alors c'est aussi la technologie du monde du futur.
Google Corp. a récemment acheté Boston Dynamics, ce qui a surpris ceux qui s'inquiètent d'un avenir avec des armées de robots indépendants. Google affirme que Boston Dynamics honorera tous ses anciens contrats avec des clients militaires, mais n'en conclura pas de nouveaux.
Mais que Google accepte ou non les commandes des militaires (ce qui est tout à fait possible, car ils peuvent le faire secrètement, en utilisant les fonds de leur budget «noir»), il ne fait aucun doute que la frontière entre la technologie civile et militaire a toujours été floue. Si Boston Dynamics ne travaille plus jamais avec des organisations comme DARPA, mais que Google bénéficie de la recherche financée par l'armée, on peut probablement dire que le système fonctionne.
Les militaires ont obtenu ce qu'ils voulaient en poussant la recherche en robotique à travers une entreprise privée. Et maintenant, les résultats de ces technologies militaires se feront sentir dans notre vie civile quotidienne - ainsi que dans de nombreuses autres technologies, y compris Internet.
En vérité, cet article n'est qu'une goutte d'eau dans le seau parmi les idées que la Direction Recherche et Développement Avancé a fait naître dans le cadre du SKI. Espérons qu'en continuant à étudier les concepts de perspective d'hier, nous pourrons acquérir une certaine expérience historique et mieux comprendre que nos nouvelles réalisations ne sont pas sorties de nulle part. Même elles ne peuvent pas toujours être qualifiées d'innovations. C'est le résultat de nombreuses années de recherche et de milliards de dollars de crédits maîtrisés par des centaines d'organisations, tant publiques que privées.
En fin de compte, l'Initiative informatique stratégique n'a pas été démantelée par peur de ce qu'elle pourrait apporter à notre monde. C'est juste que les technologies pour sa mise en œuvre ne se sont pas développées assez rapidement - cela s'applique à l'intelligence artificielle et aux véhicules autonomes. Mais au cours des vingt années écoulées depuis l'arrêt de SKI, tous ces développements de machines intelligentes se sont poursuivis.
Un avenir avec des robots hautement intelligents et interconnectés est presque réel. Nous n'avons pas besoin de l'aimer, mais nous ne pouvons pas dire que personne ne nous a avertis à son sujet.
Matt Novak
