Il faut admettre que la robotique a fait un pas en avant ces dernières années. Les armes créées par les entreprises de défense deviennent de plus en plus intelligentes, les systèmes d'intelligence artificielle y sont connectés, les robots gagnent en pleine autonomie, etc. Cela signifie qu'un robot tueur pourrait devenir une réalité plus tôt que nous ne le pensons. Du moins, c'est ce que pensent les représentants de la RAH, une organisation à but non lucratif basée aux Pays-Bas et prônant la paix dans le monde. Ils l'ont annoncé dans leur rapport publié dans le magazine Quartz.
Pourquoi construire des robots tueurs?
Les robots tueurs sont conçus pour prendre des décisions sur la prise ou la préservation de la vie par eux-mêmes, sans contrôle humain. Les spécialistes de l'Académie russe des arts ont qualifié ce signe alarmant de «troisième révolution de la guerre» après l'invention de la poudre à canon et de la bombe atomique. Les militants et les États appellent à la création d'un ensemble de règles internationales régissant la création de telles armes, voire à une interdiction pure et simple de leur utilisation. Mais certains pays, dont les États-Unis, la Chine et la Fédération de Russie, n'ont pas encore pris de mesures sur cette question.
Les spécialistes du RAX ont identifié au moins 30 fabricants d'armes mondiaux qui n'ont pas de politique contre le développement des types de systèmes d'armes ci-dessus. Il s'agit notamment des sociétés de défense américaines Lockheed Martin, Boeing et Raytheon, des conglomérats gouvernementaux chinois AVIC et CASC, des sociétés israéliennes IAI, Elbit et Rafael, du russe Rostec et de la STM turque.
Dans le même temps, les militants ne croient pas que l'application militaire de l'un ou l'autre système d'intelligence artificielle soit un problème. Le problème est précisément que de tels systèmes peuvent échapper au contrôle humain.
Par exemple, l'armée américaine développe déjà un canon à intelligence artificielle, qui sélectionnera et frappera indépendamment des cibles, ainsi que des chars à intelligence artificielle, qui peuvent «identifier et atteindre des cibles trois fois plus rapidement que quiconque». Et la STM, la société de défense d'État turque, est déjà en plein essor de la production d'un robot alimenté par l'IA appelé KARGU. Doté de capacités de reconnaissance faciale, KARGU peut sélectionner et attaquer de manière autonome des cibles en utilisant des coordonnées présélectionnées par l'opérateur. Il est rapporté que la Turquie a l'intention d'utiliser KARGU en Syrie.
Les PAX sont les plus préoccupés par le déploiement potentiel de l'IA dans des systèmes offensifs qui sélectionneront et attaqueront des cibles par eux-mêmes, sans surveillance humaine. Le Groupe se demande comment ces armes feront la distinction entre les militaires et les civils. De plus, les avocats ne savent toujours pas qui sera responsable si les armes autonomes violent le droit international.
Vidéo promotionelle:
Le drone turc KARGU traque la cible et la détruit, tombant d'en haut comme un kamikaze.
Cela étant dit, contrairement à Google ou Amazon, qui ont été confrontés à des réactions à la fois publiques et internes à leur travail sur les systèmes militaires, des entreprises comme Lockheed Martin et Raytheon traitent exclusivement avec l'armée, de sorte qu'elles font face à une réaction minimale de leurs partenaires. ainsi que des gens ordinaires, car la plupart des développements restent classés jusqu'à un certain point.
Alors que le développement des armes autonomes se poursuit, le RAX estime qu'il existe encore un moyen d'éviter une éventuelle catastrophe. Le groupe a déclaré que les entreprises manufacturières peuvent jouer un rôle critique à cet égard et doivent s'opposer à la production d'armes létales entièrement autonomes. Au sujet des systèmes d'armes activés par l'IA, les responsables de la PAX diront que les entreprises de défense doivent suivre un ensemble de règles qui doivent encore être développées. Mais personne ne demande d'abandonner complètement l'IA.
Vladimir Kuznetsov
