Jusqu'à récemment, les scientifiques affirmaient que même l'ordinateur le plus parfait n'aura jamais la capacité de penser et de raisonner par lui-même, car, dans l'ensemble, il ne s'agit que d'un ensemble de microcircuits permettant à un appareil d'effectuer des opérations complexes mais standard, mises en place par des personnes.
Personne, bien sûr, ne mettra un programme pour la destruction de l'humanité dans un ordinateur. Bien que purement théorique … tout est possible.
Jusqu'à présent, aucun pays au monde ne dispose de technologies qui pourraient fonctionner sans contrôle humain. Néanmoins, des développements similaires sont en cours. Ainsi, des experts du Georgia Institute of Technology ont développé un programme spécial qui apprendra aux robots … à mentir. Vrai, seulement les uns aux autres.
«Des tactiques similaires peuvent être utilisées pour les robots gardant les dépôts militaires ou les munitions sur les champs de bataille», expliquent les auteurs du rapport du projet. «Cela les aidera à tromper l'ennemi et à gagner du temps avant l'arrivée des renforts.
La société bien connue Google utilise dans ses logiciels des algorithmes du soi-disant deep learning, qui simulent l'activité des neurones dans le cortex cérébral. Cela permet aux programmes de reconnaître certains modèles dans les sons, images et autres données virtuelles.
Une équipe de chercheurs dirigée par James Giemsewski, professeur de chimie à l'Université de Californie, avec le soutien de la Defense Advanced Research Projects Agency (DARPA), a développé une technologie qui permet la création de robots totalement autonomes capables de «penser» comme un humain. Ils ne fonctionneront pas sur les microcircuits auxquels nous sommes habitués, mais sur des nanofils qui forment des milliards de connexions, similaires aux neurones du cerveau humain.
Cela les aidera à se souvenir et à analyser les informations reçues de la même manière que les gens. Ces robots n'auront pas besoin de contrôle humain. Par exemple, les aéronefs équipés de ces systèmes étudieront le terrain et traceront les itinéraires sans la participation d'un pilote vivant.
Le directeur de Palm Computing Jeff Hawkins, auteur du livre «On Intelligence» (2004), à son tour, développe un système d'apprentissage automatique qui prédit les modèles de consommation d'énergie et la probabilité de défaillance de divers appareils. Cependant, il pense que l'intelligence artificielle ne pourra jamais évoluer au niveau humain, car même l'apprentissage en profondeur ne lui permettra pas, par exemple, d'éprouver des émotions.
Vidéo promotionelle:
Supposons que le système puisse facilement reconnaître un objet tel qu'un chat, mais ne comprenne pas quand cet animal fait quelque chose de drôle, et quand il se tient juste en place … Mais peut-être que le principal danger de l'effet de l'intelligence artificielle sur les gens est précisément le manque d'humanité …
Campagne contre les robots
Récemment, la campagne mondiale "Arrêtez les robots tueurs" prend de l'ampleur. Ses partisans sont convaincus que le développement de l'intelligence artificielle menace l'humanité de destruction. La campagne est dirigée par Jody Williams, fondatrice du Mouvement international d’interdiction des mines antipersonnel, qui a remporté le prix Nobel de la paix en 1997.
Les experts disent que dans 20 à 30 ans seulement, les armées ne seront pas composées d'humains, mais de robots hautement organisés. Les nouvelles technologies rendront les conflits militaires pratiquement sans effusion de sang; dans tous les cas, elles contribueront à réduire au minimum le nombre de victimes humaines. Cependant, Jody Williams estime que la production de telles «machines à mort» est une violation des principes fondamentaux de l'humanisme et des droits de l'homme.
«Je ne veux pas être détruit par une machine programmée», dit-elle.
Pensez-vous que ce n'est rien de plus qu'une hystérie sans fondement? Prenons le cas très récent du robot chirurgical da Vinci, une idée originale d'Intuitive Surgical. Ce modèle est maintenant installé dans les cliniques du monde entier. On pense que l'invention a grandement facilité le travail des chirurgiens, qui doivent parfois effectuer des opérations complexes pendant de nombreuses heures sans quitter la table d'opération …
Da Vinci est équipé de quatre bras mécaniques, d'un ensemble d'outils de coupe et d'un mini-télescope. Le robot est contrôlé par des médecins en direct à l'aide d'une console spéciale, se concentrant sur l'image tridimensionnelle de l'organe opéré affichée sur le moniteur.
Le robot est programmé pour faire des incisions miniatures, ce qui réduit la perte de sang, réduit le risque de saignement et raccourcit également la période de récupération globale après la chirurgie. Le dispositif est activement utilisé dans des opérations telles que la transplantation d'organe, la réparation de la valve mitrale, la chirurgie de pontage gastrique, l'ablation de la vésicule biliaire et de la prostate, et bien d'autres.
Au début, les médecins étaient ravis du «collègue» cybernétique, qui simplifiait vraiment leur travail acharné à bien des égards. Mais récemment, un certain nombre d'incidents impliquant l'utilisation de "da Vinci" ont mis les médecins sur leurs gardes. Ainsi, deux personnes sont mortes sous le couteau du robot: l'une - à la suite d'une coupure accidentelle par le robot de vaisseaux sanguins, l'autre - après une intervention chirurgicale sur la rate. La perforation du côlon pendant la chirurgie de la prostate et le piégeage des tissus internes pendant la chirurgie rectale ont également été enregistrés.
«Nous avons dû complètement éteindre le système pour libérer la prise de l'appareil», explique le médecin qui supervise les opérations.
De plus, lors d'une opération d'hystérectomie (ablation de l'utérus), le robot a frappé le patient avec l'un de ses membres mécaniques. En conséquence, le chirurgien a dû refuser les «services» de l'appareil et opérer seul.
«Les résultats de la recherche montrent que les risques associés à l'utilisation d'un robot sont largement sous-estimés», a déclaré le chirurgien Martin Macarius de l'Université Johns Hopkins. - L'introduction rapide de l'appareil da Vinci s'est faite sans évaluation de ses capacités. Nous avons connaissance de cas de complications catastrophiques survenues après des opérations effectuées à l'aide de mains mécaniques.
Presque vivant
Néanmoins, les robots sont déjà si fermement ancrés dans nos vies que nous les percevons souvent comme s'ils étaient des êtres vivants.
Des chercheurs étrangers ont tenté de déterminer comment l'interaction avec les robots affecte les gens au niveau émotionnel et neurologique. Ainsi, les volontaires ont vu deux vidéos. Dans l'un d'eux, un petit robot dinosaure a été étreint et chatouillé, dans un autre ils se sont moqués de lui - ils l'ont battu et jeté par terre. Ensuite, les experts ont évalué le niveau d'excitation physiologique des sujets après le visionnement, en enregistrant la conductivité de leur peau. Après tout, lorsque nous éprouvons des émotions fortes, nous transpirons davantage et notre peau conduit mieux l'électricité.
Les participants à l'expérience ont noté les émotions négatives reçues à la suite du visionnage d'une vidéo avec un robot, sur laquelle la violence a été commise. Dans le même temps, le niveau de conductivité de leur peau a augmenté de manière significative, indiquant l'état de stress subi.
Dans une autre étude, les cerveaux des participants ont été scannés en utilisant l'imagerie par résonance magnétique fonctionnelle (MPT). Cette fois, on leur a montré des vidéos, dans l'une desquelles une personne était l'objet de violence, et dans l'autre - un robot. Par exemple, dans une vidéo, un homme a tenté d'étrangler une femme avec un sac en plastique, dans une autre, ils ont fait de même avec un robot.
Lorsqu'on a demandé aux volontaires d'observer un humain et un robot qui étaient traités avec bonté, les scans ont révélé une activité neuronale similaire. Si l'objet était moqué, alors les sujets étaient plus sympathiques à la personne, et non au robot. «Nous pensons que la maltraitance des robots provoque presque la même réponse émotionnelle que le harcèlement humain», a déclaré Astrid Rosenthal von der Puten, responsable de l'étude, de l'Université de Duisburg-Essen (Allemagne). - Cependant, nous avons encore plus de sympathie pour la personne.
«Le fait qu'une personne montre de la sympathie pour un robot n'est pas surprenant, car les robots ressemblent et se comportent comme des humains ou des animaux», explique l'ingénieur en robotique Alexander Reben.
Les chercheurs notent que faire preuve d'empathie pour les robots se produit dans une grande variété de situations et de contextes. Par exemple, les soldats sur le champ de bataille démontrent un lien émotionnel avec les robots. Certes, plus les créatures artificielles semblent réalistes, plus le degré de sympathie pour elles peut être observé. Cela ne fonctionne pas, cependant, si les robots sont trop humains. Nous sommes instinctivement rejetés par nos "copies" artificielles …
Ida SHAKHOVSKAYA
