Le département américain de la Défense a formulé et adopté des principes éthiques, guidés par lesquels les systèmes militaires d'intelligence artificielle seront développés et appliqués dans le pays. Selon le Pentagone, dans la formulation des principes, l'armée a été guidée par la Constitution américaine, le dixième chapitre du Code américain (décrit le rôle des forces armées), les lois et coutumes de la guerre, ainsi que les traités internationaux et «des normes et valeurs bien établies».
Les développements actifs dans le domaine de la création de systèmes d'intelligence artificielle ont conduit au fait que ces systèmes commencent progressivement à être introduits dans les armes et les équipements militaires. En particulier, des systèmes sont en cours de développement qui permettent aux drones de détecter et de hiérarchiser automatiquement les cibles, ou aux drones d'agir en tant qu'esclaves pour les avions habités. Des systèmes d'intelligence artificielle capables de décrypter les transmissions radio sont également en cours de développement. L'intelligence artificielle deviendra de plus en plus importante dans les futurs développements militaires.
L'introduction active de systèmes d'intelligence artificielle dans les armes et les équipements militaires soulève de nombreuses questions éthiques. En particulier, il n'est pas encore clair dans quelle mesure il est légitime d'utiliser des systèmes d'armes autonomes dans une guerre et quel type de menace ils représentent pour les civils pris dans une zone de combat.
Au total, le Pentagone a formulé cinq principes éthiques pour l'utilisation des systèmes d'intelligence artificielle à des fins militaires:
- Responsabilité. Le personnel militaire doit évaluer les performances de l'intelligence artificielle avec le plus grand soin, en restant entièrement responsable de la conception, du déploiement et de l'utilisation des systèmes d'intelligence artificielle.
- Impartialité. Le département américain de la Défense doit prendre des mesures pour minimiser les écarts indésirables dans les capacités des systèmes d'intelligence artificielle.
- Traçabilité. Les systèmes militaires d'intelligence artificielle et leurs capacités doivent être conçus et déployés de manière à ce que le personnel ait un niveau adéquat de compréhension de la technologie, des processus de développement et des applications. Les méthodologies, données et documentation relatives aux systèmes d'intelligence artificielle utilisés devraient être mises à la disposition du personnel militaire.
- Fiabilité. Les capacités des systèmes militaires d'intelligence artificielle doivent être sans ambiguïté et clairement formulées. La sécurité et l'efficacité de ces capacités doivent être vérifiées par des essais et validées pendant toute leur durée de vie.
- Subordination. Les systèmes d'IA militaires doivent accomplir pleinement leurs tâches prévues, mais l'armée doit être en mesure de détecter et de prévenir les effets indésirables de l'intelligence artificielle. L'armée devrait également être en mesure de désactiver ou d'arrêter les systèmes d'intelligence artificielle qui connaissent des anomalies.
Le Pentagone a également désigné le Joint Center for Artificial Intelligence pour être responsable de la mise en œuvre des principes d'utilisation des systèmes d'intelligence artificielle. Au total, le département américain de la Défense a passé 15 mois à consulter les développeurs et les organisations scientifiques, ainsi qu'à formuler les principes d'utilisation des systèmes d'intelligence artificielle. Dans le même temps, certains experts ont noté l'imprécision des formulations adoptées et l'absence d'un ensemble de règles claires sur ce que l'armée devrait et ne devrait pas faire lors du développement et de l'utilisation de systèmes d'intelligence artificielle.
Vasily Sychev
