Kommersant a appris que la Russie est prête à soutenir la proposition de la France et de l'Allemagne d'adopter une déclaration politique à l'ONU, qui parlerait de l'importance de maintenir le contrôle humain sur les systèmes d'armes autonomes. Des représentants de plus de 80 pays et organisations internationales discuteront de cette initiative fin août à Genève. Pendant ce temps, comme l'a expliqué le ministère russe des Affaires étrangères à Kommersant, Moscou est catégoriquement contre l'introduction de restrictions juridiquement contraignantes dans ce domaine, car l'intelligence artificielle à part entière n'existe pas encore. Les partisans de l'interdiction des «robots tueurs» préviennent cependant que la technologie progresse si rapidement que les diplomates ne pourront tout simplement pas empêcher une catastrophe. Kommersant a compris les subtilités de la nouvelle direction de la diplomatie mondiale.
Gardez le contrôle humain
Les négociations du Groupe d'experts gouvernementaux sur les systèmes d'armes létales autonomes (SAS) se tiendront à Genève les 27 et 31 août sous les auspices de l'ONU. Les diplomates ont commencé à discuter en détail de ce sujet assez récemment: la première réunion de ce type a eu lieu en décembre 2017 et la seconde en avril 2018. Le format de la Convention sur les armes non humaines a été choisi comme plateforme de discussion. C'est dans son cadre que les interdictions des armes à sous-munitions, du napalm, des lasers aveuglants et des mines antipersonnel ont vu le jour en temps voulu.
Plusieurs États ont lancé l'initiative d'interdire SAS. Parmi eux, par exemple, l'Autriche, l'Argentine, le Brésil, la Bolivie et le Vatican. Au total, 26 pays soutiennent actuellement l'idée d'une interdiction.
La logique des initiateurs de mesures radicales est la suivante: les technologies de l'intelligence artificielle se développent à un rythme rapide, et l'émergence de machines totalement autonomes capables de prendre des décisions et d'agir sans contrôle humain n'est pas loin; les états investissent massivement dans l'adaptation de ces technologies aux besoins militaires, et un certain nombre de pays disposent déjà de systèmes avec des éléments d'intelligence artificielle (de l'intégration de systèmes de défense aérienne à des «flots» de drones capables d'attaquer en essaim, des sentinelles robotiques et des dispositifs de neutralisation d'explosifs). dispositifs); Cela signifie que dans cinq à dix ans, le monde pourrait être confronté à l'introduction de robots tueurs sur le champ de bataille, qui sélectionneront indépendamment les cibles et les attaqueront. D'où l'exigence d'interdire les systèmes létaux totalement autonomes:ses initiateurs insistent sur l'adoption d'un traité international juridiquement contraignant qui obligerait les États à garantir le maintien d'un contrôle humain approprié sur les machines. Comme l'a expliqué Mary Verham à Kommersant, la coordinatrice de la campagne mondiale «Stop Killer Robots», Mary Verham, «contrôle adéquat» signifie la possibilité d'intervention d'un opérateur dans le processus de sélection d'une cible et de réalisation d'une attaque.
Les partisans de cette idée bénéficient d'un grand soutien public. Publiée le 18 juillet par l'organisation américaine Future of Life Institute, une pétition demandant l'interdiction de la création de robots de combat entièrement autonomes a été signée par près de 2500 scientifiques, ingénieurs, personnalités publiques et représentants de l'informatique. Les partisans des mesures radicales ont déjà remporté un certain succès. Ainsi, jusqu'en décembre 2017, le sujet de la CAC à Genève n'a été discuté qu'informellement pendant trois ans. Cependant, à la fin de l'année dernière, 123 États ont approuvé l'idée de donner officiellement au groupe un mandat de discussion. Les initiateurs de l'interdiction des robots de combat autonomes espèrent que la réunion prévue à la fin du mois d'août sera une étape vers la dotation du groupe d'un format de négociation à part entière - c'est-à-dire qu'elle ouvrira la voie au développement d'une convention interdisant SAS.
Vidéo promotionelle:
Systèmes spéculatifs
Cependant, de nombreux pays sont sceptiques quant à l’idée d’interdire ces systèmes. Parmi eux se trouve la Russie. Sa délégation (composée de représentants du Ministère des affaires étrangères, du Ministère de la défense et du Ministère de l'industrie et du commerce), bien que se préparant à partir pour Genève, n'est pas prête à parler d'une restriction importante ou d'une interdiction complète des SAS, et s'oppose donc à donner au Groupe d'experts gouvernementaux un mandat de négociation. Comme l'a expliqué le ministère russe des Affaires étrangères à Kommersant, une telle attitude «prudente» «est due à un certain nombre de circonstances». «Tout d'abord, nous devons tenir compte du fait que nous parlons d'équipements qui ne disposent pas encore d'échantillons réellement opérationnels. L'idée de tels systèmes n'est encore que très superficielle et spéculative, - rappelons au département. - De sérieuses difficultés sont observées même dans l'élaboration d'une version de travail de la définition du terme SAS.
Deuxièmement, le ministère des Affaires étrangères signale "des difficultés avec une distinction claire entre les développements civils et militaires dans le domaine des systèmes autonomes". Et troisièmement, le ministère "a des doutes importants sur l'insuffisance du cadre juridique international actuel pour la régulation des SAS, indiqué par les États radicaux et les organisations non gouvernementales". «À notre avis, le droit international (y compris sa branche humanitaire) est pleinement applicable au SAS et n'a pas besoin de modernisation ou d'adaptation à des systèmes d'armes encore inexistants», assure Smolenskaya Square. Et ils ajoutent: «La Russie adhère strictement aux normes du droit international humanitaire applicables à ce type d'armes prometteur. La législation nationale russe contient des dispositionsqui constituent un obstacle à la mise en service éventuelle d'armes qui ne respectent pas les obligations juridiques internationales de la Russie ».
Notez que l'armée russe adapte activement des éléments de l'intelligence artificielle à ses propres fins. Les forces armées de la Fédération de Russie sont armées de complexes maritimes robotiques "Galtel", qui, après avoir reçu une tâche, sont capables d'analyser indépendamment la situation et de choisir des moyens de la résoudre. Oleg Martyanov, membre du conseil d'administration de la commission militaro-industrielle de la Fédération de Russie, a déclaré à Interfax que depuis 2017, ces systèmes recherchaient des munitions non explosées et protégeaient la zone d'eau dans la zone du port syrien de Tartous. Il a également été signalé que le système RB-109A "Bylina", capable d'analyser indépendamment la situation de combat et de choisir des méthodes de suppression des signaux ennemis, était entré dans les troupes de guerre électronique des forces armées RF. Il est prévu de doter presque tous les derniers systèmes d'armes russes d'éléments d'intelligence artificielle - des missiles de croisière aux chars et aux chasseurs. Le président russe Vladimir Poutine a déclaré en septembre dernier qu'un pays qui a acquis le leadership dans la création de l'intelligence artificielle "sera le dirigeant du monde".
En attendant, la Russie dans ce domaine est inférieure aux positions des États-Unis et de la Chine. En général, selon les analystes de la société de recherche américaine MarketsandMarkets, le marché mondial des technologies d'intelligence artificielle à des fins militaires en 2017 s'élevait à 6,26 milliards de dollars. Les experts estiment que d'ici 2025 ce chiffre passera à 18,82 milliards de dollars. trois positions sont occupées par les géants du complexe militaro-industriel américain: Lockheed Martin, Raytheon et Northrop Grumman.
À cet égard, il n'est pas surprenant que les autorités américaines ne soient pas prêtes à discuter de fond d'un moratoire sur la création de robots de combat autonomes. D'autres pays qui investissent activement dans des armes innovantes adhèrent à la même position: la Grande-Bretagne, la France, l'Allemagne, Israël, le Japon et la Corée du Sud. Le seul État membre du Conseil de sécurité de l'ONU à avoir soutenu la rédaction d'une convention interdisant le SAS était de manière inattendue la Chine en avril de cette année. Cependant, à Pékin, ils font une réserve: on ne peut parler que d'interdire l'utilisation de systèmes de combat entièrement autonomes, mais pas de restrictions à leur développement et à leur création.
Quoi qu'il en soit, étant donné la réticence des pays leaders à discuter de toute interdiction dans ce domaine, les partisans de mesures radicales ne peuvent guère espérer des progrès rapides. Un compromis pourrait être une proposition de la France et de l'Allemagne, qui devrait être examinée à la session de Genève. Paris et Berlin proposent une déclaration politique dans laquelle les pays veilleraient à ce que les humains jouent un rôle clé dans le déploiement de systèmes de combat autonomes dans tous les cas et puissent garder le contrôle de leurs actions.
Le ministère russe des Affaires étrangères a expliqué à Kommersant que Moscou ne s'oppose pas au début de la préparation d'une déclaration politique sur SAS sur le site de la Convention sur les armes inhumaines, étant entendu qu'elle sera convenue à la suite des travaux du Groupe d'experts gouvernementaux compétent. Le ministère souligne que les actions de la délégation russe dépendront du "contenu concret" de cette déclaration et de la prise en compte de la position de la Russie par le document. Les négociateurs russes, comme l'a assuré le ministère russe des Affaires étrangères à Kommersant, sont prêts à "s'impliquer" dans la rédaction du texte et estiment généralement que son adoption serait un "résultat utile" des activités du Groupe d'experts gouvernementaux.
Selon l'interview de Mary Verham, les partisans de l'interdiction des robots tueurs ne seront pas satisfaits de cette mesure. Mais ils ne peuvent pas compter sur plus pour le moment.
Elena Chernenko
