En octobre, l'Institut de technologie de Pékin, l'un des principaux instituts de recherche militaire du pays, a sélectionné 31 adolescents parmi plus de 5 000 candidats. Selon les autorités chinoises, ces jeunes développeront une nouvelle génération d'armes équipées d'intelligence artificielle (IA) - cela peut inclure des robots microscopiques, des virus informatiques, des sous-marins, des drones, des chars.
Des plans comme celui-ci sont un rappel puissant de la direction dans laquelle la course aux armements principale pourrait se dérouler. L'augmentation de la puissance de calcul et l'amélioration des programmes avec des algorithmes d'auto-apprentissage créent de nouvelles opportunités pour la guerre et le gouvernement.
Consultancy PwC estime que la contribution des systèmes alimentés par l'IA à l'économie mondiale pourrait atteindre 15 700 milliards de dollars d'ici 2030, la Chine et les États-Unis étant probablement les principaux acteurs. Cependant, la plus grande préoccupation des gouvernements concerne les implications militaires potentielles. D'une part, on craint d'être à la traîne, d'autre part, on craint que des technologies non testées puissent entraîner de nouveaux dangers.
Les responsables du Pentagone ont demandé au Defense Innovation Council - un rassemblement de hauts responsables de la Silicon Valley qui fournissent des conseils techniques à l'armée américaine - d'élaborer un ensemble de directives éthiques pour l'utilisation de l'IA en temps de guerre. Le mois dernier, la France et le Canada ont annoncé la création d'un groupe d'experts internationaux pour discuter de questions similaires. Jusqu'à présent, les États occidentaux étaient d'avis que les décisions vitales dans un conflit doivent toujours être prises par des humains, et les ordinateurs et les algorithmes facilitent simplement leur mise en œuvre. Cependant, certains pays - en particulier la Russie et la Chine - envisagent une voie différente.
L'année dernière, la Russie a annoncé avoir doublé son investissement dans l'IA. Plus tôt ce mois-ci, il a été annoncé que Moscou publierait une nouvelle feuille de route de la stratégie nationale d'IA d'ici la mi-2019, qui est considérée par les responsables russes comme la clé pour dominer le cyberespace et les opérations d'information. On pense que des «fermes de trolls» russes déjà présumées utilisent des flux de médias sociaux automatisés pour promouvoir la désinformation.
Les experts affirment que la construction d'un système d'IA avancé nécessite la bonne puissance de traitement, des données d'entraînement suffisantes et des interprètes compétents. En tant qu'États autoritaires les plus puissants du monde, la Russie et la Chine ont des capacités similaires et ont l'intention d'utiliser l'IA à la fois pour maintenir les positions gouvernementales sur leur territoire et pour vaincre les ennemis en dehors de celui-ci.
Pékin utilise déjà une surveillance automatisée massive, y compris un logiciel de reconnaissance faciale, pour réprimer la dissidence, en particulier dans le nord-ouest musulman ouïghour. Il est probable que ces systèmes deviendront plus puissants à mesure que la technologie s'améliorera. Lorsqu'il s'agit de surveiller les communications de ses citoyens, la Chine (comme la Russie) a beaucoup moins de doutes et de mécanismes de régulation que les États occidentaux.
Les démocraties occidentales, et en particulier l'Amérique, ont traditionnellement été plus capables que les dictatures d'utiliser les nouvelles technologies. Cependant, en ce qui concerne l'IA, les efforts de Washington pour combler le fossé entre la Silicon Valley et l'armée ont été confrontés à un certain nombre de défis. En juin, les employés de Google ont contraint l'entreprise à se retirer d'un renouvellement de contrat avec le Pentagone. De nombreux scientifiques sont réticents à travailler sur des projets de défense de peur de créer des robots tueurs incontrôlables.
Vidéo promotionelle:
Cependant, les États-Unis et leurs alliés développent leurs propres armes autonomes. Ainsi, en octobre, Microsoft a discrètement annoncé son intention de vendre au Pentagone tous les systèmes d'IA avancés nécessaires pour «créer une défense solide». Les dirigeants de l'US Air Force affirment que leur futur avion d'attaque à long rayon d'action, conçu pour remplacer le bombardier furtif B-2, pourra opérer avec ou sans équipage. L'armée occidentale investit de plus en plus dans des camions autonomes et d'autres véhicules de ravitaillement, cherchant à leur assigner plus de tâches «sales, ennuyeuses et dangereuses» sur le champ de bataille sans risquer des vies humaines.
Il est censé utiliser des «essaims» de drones, alors que de nombreux véhicules aériens sans pilote se contrôlent. En ce qui concerne les combats entre drones et drones, les dirigeants occidentaux n'ont aucun problème à laisser les systèmes sans pilote prendre leurs propres décisions. Mais si les humains sont impliqués dans le combat, la politique du département américain de la Défense exige que les décisions soient prises par des humains. Cependant, un tel contrôle peut devenir de plus en plus difficile, surtout si les systèmes automatisés de l'ennemi prennent des décisions beaucoup plus rapidement que les humains.
On s'attend à ce qu'au début des années 2020, de grands sous-marins chinois sans pilote capables de transporter des armes se retrouvent dans les océans du monde. Leur cible sera les forces ennemies dans des zones contestées telles que la mer de Chine méridionale. Ces navires peuvent parcourir de grandes distances sans être remarqués pendant de longues périodes. Pour le moment, les scientifiques chinois affirment qu'il appartiendra aux gens de décider de l'attaque, mais ce n'est peut-être pas tout à fait vrai. Le Pentagone a rapporté en janvier dernier que la Russie construisait également de grands sous-marins nucléaires sans pilote, probablement capables de transporter des armes nucléaires.
En outre, Moscou et Pékin favorisent les chars robotiques sans pilote, la Russie testant déjà ses derniers développements en Syrie. De tels systèmes peuvent considérablement compliquer les décisions des commandants occidentaux sur la détermination des cibles sur le champ de bataille, faute de savoir si les gens sont dans l'équipement de combat. Les erreurs peuvent conduire à l'apparition d'un conflit ou à son exacerbation brutale.
Selon certaines informations, pour le programme spécifié de l'Institut de technologie de Pékin ont été sélectionnés les adolescents qui se sont déclarés prêts au combat. Cette hiérarchisation peut être très dangereuse étant donné que la technologie est sous-testée et destructrice.
Natalia Golovakha