L'auteur s'inquiète du rôle croissant des robots dans la guerre. Depuis 1991, depuis la guerre du Golfe, ils aident les généraux. Et maintenant, un "robot tueur" a été créé - une machine qui prend indépendamment la décision de détruire les ennemis, si cela est cohérent avec la politique générale du "centre de contrôle".
Le développeur de l'intelligence artificielle DeepMind a annoncé une nouveauté - un robot appelé AlphaStar, qui jouera la stratégie en ligne populaire Starcraft-2 au niveau du grand maître.
Ce n'est pas la première fois qu'un robot bat des gens dans un jeu de guerre stratégique. En 1981, un programme appelé Eurisko, développé par l'un des pionniers de l'intelligence artificielle, Doug Lenat, remporte le US Traveller Championship, un jeu de guerre stratégique très complexe dans lequel le joueur doit compléter sa flotte et combattre la flotte ennemie. Eurisko a finalement reçu le titre d'amiral honoraire. En 1982, les règles du tournoi ont été modifiées pour tenter de contrecarrer l'ordinateur. Mais Eurisko a gagné tout le monde pendant deux années consécutives. Après que les sponsors ont promis d'annuler le tournoi si l'ordinateur gagne à nouveau, Lenat s'est retiré.
DeepMind PR voudrait que vous croyiez que StarCraft "est apparu par consensus comme le prochain grand défi (dans les jeux PC)" et "a été un défi pour les développeurs d'IA depuis plus de 15 ans".
Lors du dernier championnat Starcraft, seules 4 candidatures ont été soumises par des laboratoires de recherche universitaires ou industriels. Les neuf autres bots ont été écrits seuls par des individus et non dans le cadre du courant dominant de la recherche sur l'intelligence artificielle (IA).
En fait, le nombre d'auteurs (42) de l'article DeepMind, publié le 31 octobre dans Nature, dépasse largement le nombre de personnes travaillant sur les bots Starcraft dans le reste du monde. Je ne veux pas éclipser le succès de cette collaboration d'ingénierie, mais si vous investissez suffisamment de ressources dans la résolution du problème, le succès est garanti.
Contrairement aux récentes victoires aux échecs informatiques, AlphaStar n'a pas été entraîné en jouant contre lui-même. Il a appris cela en imitant les meilleurs épisodes de près d'un million de jeux joués par les meilleurs joueurs humains. Avant cela, AlphaStar avait subi une défaite indéniable dans 19 des 20 combats, jouant avec de vraies personnes sur le serveur de jeu StarCraft. AlphaStar a joué de manière anonyme pour empêcher les gens d'exploiter les faiblesses qui auraient pu être trouvées dans les jeux précédents.
En décembre dernier, AlphaStar a battu l'un des meilleurs joueurs professionnels du monde - Grzegorz MaNa Komincz. Mais c'était une version d'AlphaStar avec des réflexes nettement plus rapides que les humains, et aussi avec une vision illimitée du terrain de jeu (contrairement aux joueurs humains qui n'en voient qu'une partie à la fois). Cela peut difficilement être qualifié de règles du jeu équitables.
Vidéo promotionelle:
Cependant, StarCraft possède certaines fonctionnalités qui font d'AlphaStar un développement impressionnant, sinon une véritable percée. Contrairement aux échecs ou au jeu de go oriental (un jeu de stratégie qui utilise un plateau de 361 champs - ndlr), les joueurs de StarCraft ont une compréhension imparfaite de l'état du jeu, mais le nombre d'actions possibles est beaucoup plus grand. Et le combat StarCraft se déroule en temps réel, mais nécessite une planification à long terme.
Guerres de robots
La question se pose: verrons-nous à l'avenir comment les robots participent non seulement aux guerres, mais aussi les planifient? En fait, les deux se produisent déjà.
Malgré de nombreux avertissements de chercheurs en intelligence artificielle (comme moi), de fondateurs de sociétés de robotique, de lauréats du prix Nobel et de dirigeants d'églises, une arme entièrement autonome connue sous le nom de «robot tueur» a déjà été créée et sera bientôt utilisée.
En 2020, la Turquie déploiera des drones kamikaze à la frontière avec la Syrie. Ces drones utiliseront la vision par ordinateur pour identifier, suivre et tuer des personnes sans intervention humaine.
C'est une évolution terrible. Les ordinateurs n'ont pas la capacité morale de prendre une décision moralement équilibrée quant à savoir qui vivra et qui mourra. Ils manquent d'empathie ou de compassion. Les robots tueurs changeront la nature même des conflits pour le pire.
Qu'en est-il des "généraux robotiques"? Les ordinateurs ont aidé les généraux à planifier la guerre pendant des décennies. Au début des années 1990, lors de l'opération Desert Storm pendant la guerre du Golfe, des outils d'intelligence artificielle (IA) ont été utilisés pour planifier une montée en puissance au Moyen-Orient avant le conflit. Un général américain m'a dit peu de temps après que le montant d'argent économisé était égal à la somme de tout ce qui avait été dépensé auparavant pour le développement de l'IA.
Les généraux utilisent également des ordinateurs pour développer des stratégies militaires multivariées qui peuvent être soudainement nécessaires. Mais nous ne laissons pas toutes les décisions sur le champ de bataille entre les mains d'un seul soldat, par conséquent, transférer toutes les responsabilités du cerveau du général au processeur de l'ordinateur va trop loin.
La machine ne peut être tenue responsable de ses décisions. Seules les personnes sont responsables. Et c'est la pierre angulaire du droit international humanitaire. Cependant, les généraux s'appuieront de plus en plus sur le soutien informatique dans leurs décisions pour briser le brouillard de la guerre et traiter la grande quantité d'informations provenant du front.
Si cela se traduit par moins de victimes civiles, moins de tirs amis et un plus grand respect du droit international humanitaire, nous devrions nous féliciter de cette assistance informatique. Mais la décision finale doit être prise par l'homme et non par la machine.
Voici une dernière question à méditer. Si les entreprises technologiques comme Google ne veulent vraiment pas que nous craignions un soulèvement des machines, pourquoi construisent-elles des robots pour gagner des guerres virtuelles au lieu de se concentrer sur quelque chose de plus pacifique comme des jeux électroniques pacifiques? Avec tout le respect que je dois aux amateurs de sport, nous devons admettre que les enjeux des jeux non liés à la guerre sont beaucoup plus faibles.
Toby Walsh est professeur d'intelligence artificielle à l'Université de New South Wales et à la communauté de recherche Data61.
