Chapitre d'un livre publié par le Musée polytechnique
Homme et robot - où est la frontière entre eux et quels dangers notre proximité apporte-t-elle? Sur la base de son expérience personnelle, de nombreux entretiens et des données des dernières recherches, le scientifique le plus respecté dans le domaine, David Mindell, propose un aperçu des coulisses des applications les plus innovantes de la robotique. Indicaror. Ru publie un chapitre de son livre «Rise of the Machines Is Canceled! Mythes sur la robotisation ».
Commande humaine - à distance - autonome
Au fond de la nuit, au-dessus de l'océan Atlantique dans le vaste espace ouvert entre le Brésil et l'Afrique, un avion de ligne de ligne a été pris par mauvais temps. La glace gelée colmatait de petits tubes dans le nez de l'avion, ce qui déterminait sa vitesse et transmettait des données aux ordinateurs contrôlant l'avion. Les ordinateurs pouvaient continuer à voler sans cette information, mais le programme qui y était intégré ne prévoyait pas un tel alignement. Le système de fly-by-wire automatique s'est rendu et s'est éteint, transférant le contrôle au peuple - les pilotes assis dans le cockpit du paquebot: Pierre-Cédric Bonin, 32 ans, et David Robert, 37 ans. Bonin et Robert, tous deux détendus et un peu fatigués, ont été pris par surprise lorsqu'ils ont soudainement découvert qu'ils devraient piloter manuellement un énorme avion de ligne à haute altitude par mauvais temps, et même de nuit. Et dans des conditions plus favorables, ce serait une tâche difficile à laquelle les pilotes n'ont pas été confrontés ces derniers temps. Le commandant d'équipage, Marc Dubois, 58 ans, ne pilotait pas l'avion à ce moment-là, mais se reposait dans la cabine. Les pilotes ont dû passer un temps précieux pour l'appeler dans le cockpit. Malgré le fait qu'au moment où les calculateurs ont été éteints, l'avion était au niveau en vol horizontal rectiligne, les pilotes ont eu du mal à comprendre les maigres paramètres de l'air. L'un d'eux a tiré la manette de contrôle vers lui, l'autre l'a poussée vers l'avant. L'avion de ligne a continué son vol en palier rectiligne pendant environ une minute, puis a commencé à tomber. Les pilotes ont dû passer un temps précieux pour l'appeler dans le cockpit. Malgré le fait qu'au moment où les calculateurs ont été éteints, l'avion était au niveau en vol horizontal rectiligne, les pilotes ont eu du mal à comprendre les maigres paramètres de l'air. L'un d'eux a tiré la manette de contrôle vers lui, l'autre l'a poussée vers l'avant. L'avion de ligne a continué son vol en palier rectiligne pendant environ une minute, puis a commencé à tomber. Les pilotes ont dû passer un temps précieux pour l'appeler dans le cockpit. Malgré le fait qu'au moment où les calculateurs ont été éteints, l'avion était au niveau en vol horizontal rectiligne, les pilotes ont eu du mal à comprendre les maigres paramètres de l'air. L'un d'eux a tiré la manette de contrôle vers lui, l'autre l'a poussée vers l'avant. L'avion de ligne a continué son vol en palier rectiligne pendant environ une minute, puis a commencé à tomber.puis a commencé à tomber.puis a commencé à tomber.
Le 1er juin 2009, le vol 447 d'Air France s'est envolé dans l'océan, tuant plus de 200 passagers et membres d'équipage. Il a disparu dans les vagues presque sans laisser de trace. Dans un système mondial interconnecté de compagnies aériennes internationales, il est inconcevable que l'avion disparaisse tout simplement. Un travail de recherche coordonné à grande échelle a été organisé. Quelques jours plus tard, des traces de l'avion ont été retrouvées au fond de l'océan. Néanmoins, pour retrouver l'essentiel de l'épave de l'avion de ligne et des boîtes noires, grâce auxquelles il serait possible d'établir la cause du drame, il fallait mener des recherches sur un vaste territoire du fond océanique, qui se déplaçaient désespérément lentement. Plus de deux ans plus tard, à une profondeur de 3,2 km, presque au point même où l'avion de ligne s'est écrasé à la surface de l'océan,un véhicule sous-marin autonome appelé le Remus 6000 glissait silencieusement dans l'obscurité sous la pression monstrueuse de la colonne d'eau. Se déplaçant un peu plus vite qu'un piéton, le robot en forme de torpille gardait une hauteur constante d'environ 60 m au-dessus du fond. Dans cette position, son scanner acoustique a reçu les images les plus claires. Le signal acoustique a parcouru environ 800 m dans toutes les directions, le robot a collecté des gigaoctets d'informations à travers les signaux renvoyés.le robot collectait des gigaoctets d'informations via les signaux renvoyés.le robot collectait des gigaoctets d'informations via les signaux renvoyés.
La surface était montagneuse, donc le fond de l'océan s'est élevé fortement. Malgré son intelligence artificielle, le robot heurte occasionnellement la surface, le plus souvent sans conséquence. Trois de ces robots travaillaient harmonieusement en tandem: tandis que deux d'entre eux cherchaient sous l'eau, le troisième était à bord du navire en surface. Un tel «arrêt au stand» a duré trois heures, au cours desquelles les personnes au service du robot ont réécrit les informations, rechargé les batteries et établi de nouveaux plans de recherche. Sur le navire, une équipe de douze ingénieurs du Woods Hole Oceanographic Research Institute, dirigée par Mike Purcell, qui a été le pionnier de la conception et du développement des véhicules de recherche, a travaillé par quarts de douze heures. Ils étaient chargés comme n'importe quelle équipe de mécaniciens de Formule 1.
Lorsque l'appareil est remonté à la surface, il a fallu environ 45 minutes aux ingénieurs pour télécharger les informations qu'il avait collectées dans un ordinateur, puis une demi-heure supplémentaire pour les traiter afin qu'elles puissent être rapidement visualisées sur le moniteur. Des enquêteurs français et allemands et des représentants d'Air France ont regardé par-dessus leurs épaules. Leurs actions paraissaient calculées et prudentes, mais la tension était dans l'air: les enjeux étaient trop élevés en termes de fierté nationale des Français, et en termes de réputation du constructeur Airbus, et en termes de sécurité de tous les voyages aériens.
Vidéo promotionelle:
Plusieurs expéditions précédentes ont échoué. En France, au Brésil et dans le monde, les familles des victimes attendaient des nouvelles. Le déchiffrement des informations d'un scanner acoustique nécessite une analyse minutieuse qui ne peut pas être entièrement fiable à un ordinateur. Purcell et ses ingénieurs se sont appuyés sur des années d'expérience accumulée. Sur leurs moniteurs, ils ont étudié le fond rocheux kilomètre après kilomètre. Ce travail de routine a duré cinq jours, jusqu'à ce que sa monotonie soit interrompue: une accumulation de débris est apparue à l'écran, puis les scientifiques sont arrivés dans la zone sinistrée - ils ont reçu un signal fort d'objets artificiels dans le désert océanique. Du moins, ils l'ont supposé, mais ils ne pouvaient toujours pas le dire avec certitude. Les ingénieurs ont reprogrammé les véhicules pour qu'ils retournent dans la zone sinistrée et s'y déplacent d'avant en arrière. Cette fois, les robots ont dû s'approcher suffisamment pour que les caméras puissent prendre des photos à une hauteur d'environ 9 m au-dessus du fond à la lumière des feux latéraux. Lorsque les véhicules ont fait remonter les images à la surface, les ingénieurs et les enquêteurs ont vu la zone de la catastrophe et ont reçu la réponse: ils ont trouvé l'épave d'un avion de ligne qui est devenue une tombe pour des centaines de personnes. Bientôt, une autre équipe est revenue sur les lieux de la tragédie avec un autre type de robot - un véhicule sous-marin télécommandé. Bientôt, une autre équipe est revenue sur les lieux de la tragédie avec un autre type de robot - un véhicule sous-marin télécommandé. Bientôt, une autre équipe est revenue sur les lieux de la tragédie avec un autre type de robot - un véhicule sous-marin télécommandé.
C'était un appareil robuste spécialement conçu pour travailler en profondeur. Il était connecté au navire à l'aide d'un câble. À l'aide de cartes générées à partir d'une recherche réussie, le ROV a localisé les boîtes noires - l'enregistreur vocal et l'enregistreur de données de l'avion - et les a soulevées à la surface. Les enregistrements des dernières minutes des pilotes condamnés ont été récupérés dans les profondeurs de l'océan, et les enquêteurs ont maintenant pu recréer les circonstances fatidiques qui ont conduit à la confusion à bord du robot de ligne. Ensuite, le véhicule sous-marin s'est lancé dans une triste mission: récupérer les restes des morts.
Le crash du vol 447 d'Air France et une opération pour retrouver son épave relient l'automatisation moderne et la robotique dans deux environnements extrêmes: au bord de la stratosphère et dans les profondeurs de la mer. L'avion est tombé dans l'océan en raison d'erreurs d'interaction humaine avec des systèmes automatisés. Ensuite, ses fragments ont été découverts par des personnes utilisant des robots télécommandés et autonomes.
Bien que les mots «automatisé» et «autonome» (dans leurs significations les plus courantes) impliquent que ces systèmes fonctionnent de manière indépendante, dans les deux cas, l'échec ou le succès n'était pas dû à des machines et des personnes agissant séparément, mais à l'action combinée des machines. et les gens. Les pilotes humains se sont battus pour la vie d'un avion qui était automatisé pour plus de sécurité et de fiabilité; de nombreux navires, satellites et bouées flottantes interconnectés ont aidé à localiser le site de l'écrasement; les ingénieurs ont traité les informations reçues des robots et y ont agi.
Les véhicules automatisés et autonomes sont constamment retournés à leurs créateurs - les humains - pour obtenir des informations, de l'énergie et de la direction. La tragédie du vol 447 d'Air France a clairement montré qu'en adaptant et modifiant constamment notre environnement, nous nous refaisons. Comment les pilotes pourraient-ils devenir tellement accros aux ordinateurs qu'ils ont largué un avion parfaitement opérationnel en mer? Quel est le rôle de l'homme dans des domaines tels que le transport et le transport, la recherche et les activités militaires, alors que de plus en plus de tâches de première importance semblent être exécutées par des machines? Le point de vue extrême est que les humains sont sur le point de «se mettre hors d'usage», que les robots «ont littéralement besoin d'une mise à jour logicielle» pour devenir totalement autonomes, comme l'a récemment écrit Scienti fi c American. Cette vue nous ditque les robots progressent - nous les rencontrons de plus en plus dans un environnement familier. Les préoccupations concernant les capacités inconnues et discutables de l'intelligence artificielle proviennent de la croyance que nous sommes à l'aube de la «superintelligence». Notre monde est au bord du changement, en fait, il est déjà en train de changer sous l'influence des robots et de l'automatisation.
Tout à coup, de nouveaux projets apparaissent, incarnant de vieux rêves de machines intelligentes qui nous aident à remplir nos devoirs professionnels, facilitent le travail physique et les tâches de routine de la vie quotidienne. Les robots qui existent et travaillent à proximité des humains au niveau physique, cognitif et émotionnel deviennent un sujet de recherche de plus en plus vaste et prometteur. L'autonomie - le rêve que les robots se comportent un jour comme des entités totalement indépendantes - reste une source d'inspiration, d'innovation et de peur. L'excitation est causée par la sévérité de l'expérience; les formes précises de ces technologies sont loin d'être complètes, et encore moins certaines sont leurs implications sociales, psychologiques et cognitives.
Comment nos robots vont-ils nous changer? À quelle image et ressemblance allons-nous les faire? Que restera-t-il de nos domaines d'activité traditionnels - scientifique, avocat, médecin, militaire, gestionnaire, voire chauffeur et concierge - lorsque ces tâches seront effectuées par des machines? Comment allons-nous vivre et travailler? Nous n'avons pas besoin de spéculer: pour la plupart, cet avenir est déjà arrivé aujourd'hui, sinon dans la vie quotidienne, puis dans des conditions extrêmes, où nous utilisons des robots et l'automatisation depuis des décennies. L'homme ne peut pas exister seul dans les couches supérieures de l'atmosphère, dans les profondeurs de l'océan, dans l'espace extra-atmosphérique. En raison de la nécessité d'envoyer des personnes dans ces conditions dangereuses, la robotique et l'automatisation ont été créées et mises en œuvre dans ces domaines plus tôt que dans d'autres domaines d'activité qui nous sont plus familiers.
Dans les environnements extrêmes, la relation entre les humains et les robots est testée pour la force. Les développements les plus innovants apparaissent dans un tel environnement. Ici, les ingénieurs ont la plus grande liberté d'expérimentation. Malgré l'isolement physique, c'est là que les effets cognitifs et sociaux de divers appareils ont commencé à se manifester. Avec des vies humaines, des équipements coûteux et des missions critiques en jeu, l'autonomie doit toujours être limitée par des considérations de sécurité et de fiabilité. Dans de telles conditions, la vanité et les affaires de la vie quotidienne retombent temporairement à l'arrière-plan, et nous trouvons, isolées de l'obscurité environnante, des allégories fragmentaires et fantomatiques de la vie humaine dans le monde de la technologie. Les processus sociaux et technologiques dans le cockpit d'un avion de ligne ou à l'intérieur d'un véhicule hauturier ne diffèrent pas fondamentalement des processus similaires dans une usine, un bureau ou une voiture. Mais dans des conditions extrêmes, ils apparaissent plus explicitement et sont donc plus faciles à comprendre.
Chaque vol d'avion de ligne est une histoire, tout comme toute expédition océanographique, vol spatial ou opération militaire. Grâce à ces histoires de personnes et de machines spécifiques, nous pouvons rassembler des données sur des dynamiques subtiles. Dans des conditions extrêmes, nous avons une idée de notre futur proche, lorsque de telles technologies peuvent être introduites dans des domaines de l'activité humaine tels que le transport routier, les soins de santé, l'éducation, etc. de nouvelles formes de présence et de nouvelles expériences, tout en attirant notre attention sur les dangers, les aspects éthiques et les conséquences indésirables de vivre autour de machines intelligentes. Nous voyons un avenir où la présence humaine et la connaissance deviendront plus importantes,que jamais, mais d'une manière inhabituelle et inconnue. Et ces voitures sont tout simplement magnifiques.
Je ne suis pas la seule à avoir admiré les avions, les vaisseaux spatiaux et les sous-marins toute ma vie. En fait, les héros des histoires que je vais raconter ci-dessous n'étaient pas seulement guidés par la recherche d'avantages pratiques - ils étaient également animés par une passion pour les nouvelles technologies. Ce n'est pas un hasard si de telles histoires ont souvent été décrites dans des œuvres de science-fiction sur les personnes et les machines. Les histoires d'humains et de machines interagissant à la limite de leurs possibilités sont captivantes, surprenantes et éveillent l'espoir de ce que nous pouvons devenir. Cet enthousiasme se traduit parfois par une croyance naïve dans la perspective de la technologie. Mais petit à petit, un tel intérêt nous amène aux principales questions philosophiques et humanistes:qui sommes nous? Comment sommes-nous connectés à notre travail et les uns aux autres? Comment nos créations enrichissent-elles notre expérience? Comment pouvons-nous vivre dans ce monde en mutation? Ces questions se posent d'elles-mêmes lorsque vous commencez à parler aux personnes qui créent et contrôlent des robots et des machines. Je souhaite partager avec vous les informations que j'ai reçues de première main, à partir des entretiens les plus détaillés et des résultats des dernières recherches du Massachusetts Institute of Technology et d'autres organisations, dans le cadre desquelles des tests de robotique et d'automatisation sont effectués dans les conditions extrêmes des profondeurs océaniques, lors de vols aériens (civils et militaires) et dans l'espace. Ce n'est pas un futur imaginaire, mais ce qui se passe aujourd'hui: nous verrons comment les gens contrôlent les robots et reçoivent des informations via des dispositifs autonomes, nous analyserons comment ces interactions affectent leur travail,expérience de vie, compétences et capacités.
Notre histoire commence là où j'ai moi-même commencé - dans les profondeurs de l'océan. Il y a vingt-cinq ans, alors que j'étais ingénieur développant des ordinateurs embarqués et des outils pour les robots des grands fonds, j'ai été étonné de constater que cette technique change l'océanographie, les méthodes scientifiques et même la nature même du métier d'océanographe de manière imprévisible. Cette compréhension m'a conduit à avoir deux carrières parallèles. En tant que scientifique, j'ai étudié les interactions entre les humains et les machines, des navires blindés pendant la guerre civile américaine aux ordinateurs et logiciels qui ont aidé les astronautes d'Apollo à atterrir sur la lune.
En tant qu'ingénieur, j'ai intégré les données obtenues grâce à cette recherche dans des projets modernes - en développant des robots et des appareils à utiliser en interaction étroite avec les humains. Dans certaines histoires, j'apparais en tant que participant, dans d'autres - en tant qu'observateur, et dans d'autres - sous ces deux formes à la fois. Au fil des années d'expérience, de recherche et de discussion avec les gens, je suis devenu convaincu que nous devons changer d'avis sur les robots. Même le langage dans lequel nous en parlons est plutôt tiré de la science-fiction du XXe siècle et n'a rien à voir avec les réalisations techniques de notre temps. Par exemple, les aéronefs télécommandés sont appelés drones, comme s'il s'agissait d'automates stupides, alors qu'en fait ils sont strictement contrôlés par des humains.
Les robots sont souvent présentés (et vendus) comme des intermédiaires complètement autonomes, mais même l'autonomie limitée d'aujourd'hui n'existe souvent que dans l'imaginaire humain. Les robots que nous utilisons si largement et de manière si variée ne sont pas des automates de menaces - ils sont intégrés dans les réseaux sociaux et techniques tout comme nous. Ci-dessous, nous examinerons de nombreux exemples de la façon dont nous travaillons avec nos machines. Tout est question de combinaisons. Il est temps de réfléchir aux fonctions que les robots modernes remplissent réellement afin de mieux comprendre notre relation avec ces créations souvent incroyablement habiles de mains humaines. Je vous propose une conclusion empirique étayée par la recherche: peu importe ce que font les robots en laboratoire, en réalité, là où des vies humaines et des ressources réelles sont en jeu,nous nous efforçons de limiter leur autonomie au grand nombre d'agréments requis et d'opportunités d'intervention humaine.
Je ne dis pas que les machines sont intelligentes, et je ne dis pas qu’un jour elles ne seront peut-être pas assez intelligentes. Je soutiens plutôt que de telles machines ne sont pas isolées des humains. Énumérons trois mythes du XXe siècle liés à la robotique et à l'automatisation. Le premier mythe est le progrès linéaire - l'idée que la technologie passera du contrôle humain direct au contrôle à distance, puis à des robots entièrement autonomes. Les propos du philosophe Peter Singer, qui s'exprime constamment en défense des systèmes autonomes, saisissent l'essence de ce mythe. Il écrit que "la capacité du peuple à garder le contrôle sur ce qui se passe est annulée à la fois par ceux qui sont aux commandes et directement par la technologie, et donc les gens seront bientôt exclus de la boucle de contrôle". Mais il n'y a aucune raison de supposercette évolution suivra cette voie, cette «technologie elle-même», comme l'écrit Singer, conduira à quelque chose de similaire. En fait, il est prouvé que les humains entrent progressivement en contact plus profond avec leurs machines.
Nous constatons constamment que les personnes, contrôlées à distance par elles et les véhicules autonomes se développent en parallèle, s'influencant mutuellement. Par exemple, les véhicules aériens sans pilote ne pourraient pas voler dans l'espace aérien national des États-Unis sans des changements appropriés aux véhicules habités. Ou pour prendre un autre exemple: les nouvelles avancées de la robotique dans le domaine de la maintenance des engins spatiaux se reflètent dans le travail des astronautes avec le télescope spatial Hubble. Les technologies les plus avancées (et complexes) ne sont pas celles qui fonctionnent séparément des personnes, mais celles qui sont les plus profondément ancrées dans le système social et réagissent plus rapidement à ce qui s'y passe. Le second est le mythe de la substitution, l'idée que les machines commenceront progressivement à prendre en charge toutes les tâches que les humains accomplissent. Ce mythe est une version du XXe siècle de ce que j'appelle le phénomène Iron Horse.
Au départ, les gens imaginaient que les chemins de fer annuleraient le besoin de chevaux, mais les trains se sont révélés être des chevaux sans importance. Les chemins de fer ont pris leur place lorsque les gens ont appris à faire des choses complètement nouvelles avec leur aide. Les chercheurs en facteurs humains et les chercheurs en sciences cognitives affirment que les automates «mécanisent» rarement les tâches humaines. Au contraire, ils ont tendance à rendre la tâche plus difficile, souvent en augmentant la charge de travail (ou en la redistribuant). Les aéronefs télécommandés n'effectuent pas les mêmes tâches que les aéronefs pilotés; ils prennent de nouvelles fonctions. Les robots télécommandés sur Mars ne reproduisent pas le travail des géologues sur le terrain;eux et les personnes qui travaillent avec eux apprennent à mener des recherches sur le terrain dans un nouvel environnement à l'aide de mécanismes à distance.
Enfin, nous avons un troisième mythe - le mythe de l'autonomie complète, l'idée utopique que les robots peuvent agir de manière totalement indépendante aujourd'hui ou dans le futur. Oui, les automates, bien sûr, peuvent assumer certaines des tâches précédemment effectuées par les humains, et ils sont en effet capables d'agir indépendamment pendant une période de temps limitée en réponse aux changements de l'environnement. Mais les machines qui ne dépendent pas de la direction humaine sont des machines inutiles. Seule la pierre peut être véritablement autonome (mais même la pierre a été créée et mise à sa place grâce à son environnement). L'automatisation modifie le degré d'implication humaine dans le fonctionnement d'une machine, mais n'en élimine pas complètement le besoin. Dans n'importe quel système, même en apparence autonome, on peut toujours trouver une interface grâce à laquelle une personne peut contrôler son travail,lire des informations et grâce auxquelles il devient utile. Pour citer l'un des rapports les plus récents du US Department of Defense Science Council, "Il n'y a pas de systèmes entièrement autonomes, tout comme il n'y a pas de soldats, marins, aviateurs ou marines entièrement autonomes."
Pour penser en termes du 21e siècle et changer notre vision de la robotique, de l'automatisation et surtout de la nouvelle idée d'autonomie, nous devons comprendre comment les intentions, les plans et les hypothèses humaines changent l'essence de la machine qu'ils créent. Chaque opérateur, contrôlant son appareil, interagit avec des concepteurs et des programmeurs, dont la présence dans la machine est invariable - même sous la forme d'éléments structurels ou de lignes de code créées il y a de nombreuses années. Les ordinateurs de bord du vol 447 d'Air France pouvaient continuer à piloter l'avion avec des données de vitesse limitées, mais les humains les avaient programmés pour les empêcher de le faire. Même si le logiciel entreprend des actions imprévisibles, il se comporte dans le cadre des schémas et des contraintes imposés par ses créateurs. Cette,comment le système a été développé, par qui et à quelles fins, détermine ses capacités et ses moyens d'interagir avec les personnes qui l'utilisent. Mon objectif est de sortir de ces mythes et d'appréhender le concept d'autonomie dans le contexte du 21e siècle.
À travers les histoires qui suivent ci-dessous, j'ai l'intention de remodeler le discours public et de créer une carte conceptuelle pour une nouvelle ère. Pour créer une telle carte, en parlant d'appareils et de robots dans ce livre, j'opérerai avec les concepts de contrôle humain, à distance et autonome. Le premier est un analogue du mot pas toujours approprié «habité». Par conséquent, dans certains cas, «contrôlé» signifie «contrôlé par une personne dans le véhicule». Ce sont, bien sûr, des types d'appareils anciens et familiers tels que les navires, les avions, les trains et les automobiles - les machines à travers lesquelles les gens voyagent. Habituellement, les systèmes contrôlés par l'homme ne sont pas du tout considérés comme des robots, bien qu'ils ressemblent de plus en plus à des robots avec des humains à l'intérieur. Remote, une forme abrégée de véhicule télécommandé, indique simplement où se trouve l'opérateur par rapport au véhicule. Même lorsque la tâche cognitive de contrôle du système distant coïncide presque complètement avec celle directement effectuée par l'opérateur physiquement présent, la présence ou l'absence de l'opérateur et les risques associés revêtent une grande importance culturelle.
L'exemple le plus frappant est la guerre à distance à des milliers de kilomètres d'une zone de guerre. C'est une expérience complètement différente des tâches du soldat ordinaire. En tant que phénomène cognitif, la présence humaine est intimement liée à l'aspect social. L'automatisation est également une idée du XXe siècle et reflète toujours la vision mécaniste selon laquelle les machines suivent pas à pas des procédures prédéterminées. Le terme «automatisé» est couramment utilisé pour décrire les ordinateurs à bord des aéronefs, bien qu'ils incorporent des algorithmes modernes plutôt complexes. L'autonomie est le mot le plus à la mode de nos jours et l'une des principales priorités de recherche du département américain de la Défense en constante diminution. Certains chercheurs font clairement la distinction entre autonomie et automatisation, mais, à mon avis,la différence entre l'autonomie réside uniquement dans un degré plus large de prise de décision indépendante qu'un simple retour d'information; en outre, le concept d '«autonomie» englobe et unit de nombreuses idées empruntées à la théorie de l'intelligence artificielle et à d'autres disciplines. Et, bien sûr, l'idée de l'autonomie des individus et des groupes devient la cause de controverses constantes en politique, philosophie, médecine et sociologie. Cela ne devrait pas surprendre, car les techniciens empruntent souvent des termes aux sciences sociales pour décrire leurs machines.l'idée de l'autonomie des individus et des groupes devient la cause d'une controverse constante en politique, en philosophie, en médecine et en sociologie. Cela ne devrait pas surprendre, car les techniciens empruntent souvent des termes aux sciences sociales pour décrire leurs machines.l'idée de l'autonomie des individus et des groupes devient la cause d'une controverse constante en politique, en philosophie, en médecine et en sociologie. Cela ne devrait pas surprendre, car les techniciens empruntent souvent des termes aux sciences sociales pour décrire leurs machines.
Même dans le secteur du design, le terme «autonomie» peut avoir plusieurs significations différentes. L'autonomie dans la conception d'engins spatiaux consiste à traiter à bord les données nécessaires au fonctionnement de l'engin spatial (qu'il s'agisse d'une station automatisée en orbite ou d'un robot mobile), indépendamment des tâches telles que la planification de mission. Au Massachusetts Institute of Technology, où j'enseigne, le contenu des cours d'ingénierie de l'autonomie couvre principalement la «planification de parcours» - comment se rendre d'un point à un autre, en passant un temps suffisant et sans se heurter à quoi que ce soit. Dans d'autres systèmes, l'autonomie est analogue à l'intelligence, la capacité de prendre des décisions qu'une personne prendrait dans certaines situations, ou la capacité d'agir dans des conditionsqui n'étaient pas attendus ou prévus par les créateurs de l'appareil.
Les submersibles autonomes sont ainsi appelés parce qu'ils opèrent seuls et s'opposent aux véhicules télécommandés qui sont reliés au navire par de longs câbles. Malgré cela, les ingénieurs qui créent de tels sous-marins autonomes disent que leurs appareils sont semi-autonomes, car ce n'est que dans de rares cas qu'ils fonctionnent sans aucun contact avec l'opérateur. Le terme «autonome» implique une plus grande liberté d'action. Il décrit la manière dont l'appareil fonctionne, ce qui est un facteur potentiellement volatil. Une étude récente suggère le terme d '«autonomie croissante»: de cette manière, les auteurs soulignent le caractère relatif de l'autonomie et déclarent qu'une autonomie «complète», c'est-à-dire des machines qui n'ont pas besoin de recevoir des informations d'une personne, sera toujours inaccessible.
Dans ce livre, une définition pratique de l'autonomie sera: des moyens développés par l'homme pour transformer les informations de l'environnement en plans et actions ciblés. Le libellé est important et donne à la controverse une autre saveur. Mais nous ne devrions pas nous attarder sur eux. Je me fierai souvent au langage (qui peut parfois être inexact) utilisé par les personnes avec lesquelles je travaille. Le but de ce livre n'est pas dans les définitions, mais dans les descriptions du travail réel - comment les gens utilisent ces systèmes dans le monde réel, acquérant de nouvelles expériences, faisant des recherches ou même combattant et tuant. Que se passe-t-il vraiment? Si vous faites attention à l'expérience de vie des concepteurs et de ceux qui utilisent des robots, tout peut devenir clair. Par exemple,le mot «drone» cache la nature intrinsèquement humaine des robots et attribue leurs côtés négatifs à des idées abstraites telles que «technologie» ou «autonomie». Lorsque nous examinons le fonctionnement interne des opérateurs Predator, nous apprenons qu'ils ne font pas la guerre avec des appareils automatiques - les humains continuent d'inventer, de programmer et de contrôler des machines.
Il y a un long débat sur l'éthique et les politiques d'assassinat à distance par des drones avec des opérateurs à distance, ou sur le secret de tels appareils opérant dans l'espace aérien intérieur américain. Mais ces débats ont à voir avec la nature, le lieu et le moment des décisions humaines, pas avec des machines autonomes. Par conséquent, la question n'est pas de comparer les véhicules habités et non habités et non pas d'opposer les véhicules contrôlés par l'homme aux véhicules autonomes. Les principales questions de ce livre sont: "Où sont les gens?", "Qui sont ces gens?", "Que font-ils?", "Quand le font-ils?" Où sont les gens? (Sur un navire … dans les airs … à l'intérieur de voitures … ou dans un bureau?) Les manipulations de l'opérateur Predator s'apparentent aux actions d'un pilote d'avion - il surveille l'état des systèmes embarqués, perçoit des informations,prend des décisions et prend certaines mesures. Mais son corps est dans un endroit différent, peut-être à plusieurs milliers de kilomètres des résultats de son travail. Cette différence compte. Les tâches sont différentes. Les risques sont différents, tout comme l'équilibre des pouvoirs.
L'esprit humain est capable de voyager vers d'autres endroits, d'autres pays, vers d'autres planètes. Les connaissances acquises par l'esprit et les sens sont différentes des connaissances acquises par le corps (où vous mangez, dormez, communiquez, défécez). Nous décidons laquelle des deux voies d'obtention des connaissances suivre en fonction de la situation spécifique, et cela a ses conséquences pour ceux qui sont impliqués dans le processus. Qui sont ces gens? (Pilotes … ingénieurs … scientifiques … travailleurs non formés … gestionnaires?) Changez la technique, et alors la tâche et l'essence du spécialiste qui y travaille changeront. En fait, vous changerez tout le contingent de personnes capables de gérer le système. Il faut des années d'études et de formation pour devenir pilote, et cette profession est au sommet de la hiérarchie du personnel. Le contrôle à distance d'un avion nécessite-t-il les mêmes compétences et traits? De quelles classes sociales peut-on recruter la main-d'œuvre?
L'augmentation de l'automatisation sur les avions commerciaux correspond à l'expansion de la démographie des pilotes dans les pays industrialisés et dans le monde. Un chercheur est-il quelqu'un qui voyage dans des conditions dangereuses, ou quelqu'un qui s'assied à la maison devant un ordinateur? Devez-vous profiter de la vie à bord pour devenir océanographe? Pouvez-vous explorer Mars en fauteuil roulant? Quels sont ces nouveaux pilotes, chercheurs et scientifiques travaillant avec l'accès à distance? Que font-ils? (Voler … contrôler … traiter l'information … communiquer?) L'effort physique se transforme en traitement d'informations visuelles, puis en une tâche cognitive. Ce qui exigeait autrefois de la force exige maintenant de l'attention, de la patience et une réaction rapide. Le pilote garde-t-il ses mains directement sur les leviers de commande,quand fait-il voler l'avion? Ou entrez les commandes clés dans le pilote automatique ou l'ordinateur de vol pour programmer la trajectoire de vol de l'avion? Quel est le rôle de l'évaluation de la situation par la personne? Quel est le rôle de l'ingénieur qui a programmé l'ordinateur de bord, ou du technicien aéronautique qui l'a mis en place?
Quand le font-ils? (En temps réel … avec un certain retard … à l'avance, des années ou des mois avant la mission?) Le vol d'un avion ordinaire se déroule en temps réel: une personne réagit immédiatement aux événements qui se produisent, et ses actions ont un effet immédiat. Dans un scénario de vol spatial, l'appareil peut être sur Mars (ou à l'approche d'un astéroïde éloigné), auquel cas il faudra 20 minutes pour que l'appareil reçoive la commande et 20 minutes pour que l'opérateur voie que quelque chose s'est passé. Ou on peut dire que l'engin atterrit "en mode automatique", alors qu'en réalité on comprend qu'il atterrit sous le contrôle de programmeurs qui ont laissé des instructions plusieurs mois ou années avant l'atterrissage (bien qu'ici nous devrons peut-être faire des ajustements au concept même "contrôle"). Contrôler un système automatisé peut ressembler à interagir avec un fantôme. Ces questions simples attirent notre attention sur la réaffectation et le réalignement.
Les nouvelles formes de présence et d'activité humaines ne sont pas courantes et ne sont pas équivalentes aux anciennes - l'identité culturelle d'un pilote qui risque sa vie en survolant le champ de bataille diffère d'une personne qui contrôle le véhicule à distance depuis une station au sol. Mais ces changements sont également inattendus - un opérateur à distance peut se sentir plus présent sur le champ de bataille qu'un pilote volant haut au-dessus. Les informations scientifiques sur la lune peuvent être les mêmes ou même plus complètes lorsqu'elles sont collectées par un véhicule télécommandé et non par une personne qui a atterri directement sur la planète. Mais l'expérience culturelle de l'exploration lunaire dans ce cas est complètement différente. Remplaçons les notions démodées par des images riches et animées de la manière dont les humains créent et contrôlent réellement les robots et les systèmes automatiques dans le monde réel. Les histoires ci-dessous sont à la fois scientifiques et techniques et humanistes.
Nous verrons que les machines humaines, distantes et autonomes permettent le mouvement et la réorientation de la présence humaine et de l'action dans le temps et dans l'espace. L'essence de ce livre est la suivante: ce n'est pas l'opposition même des systèmes contrôlés par l'homme et autonomes qui est importante, mais plutôt les questions - "Où sont les gens?", "Qui sont ces gens?", "Que font-ils et quand?" La dernière question, la plus difficile, sera: "Comment la perception humaine change-t-elle?", "Et pourquoi est-ce important?"