Les experts américains développent un réseau de neurones qui peut expliquer les décisions prises par les robots de combat. Cela augmentera le niveau de confiance humaine dans les «soldats électroniques».
Le projet d'Intelligence Artificielle Explicable, ou simplement XAI (Intelligence Artificielle Explicable), permettra aux humains et aux robots de mieux se comprendre. Le réseau neuronal XAI construira une chaîne logique de «raisonnement» du robot et montrera à la personne pourquoi la machine a pris une telle décision - par exemple, ouvrir le feu sur une cible spécifique.
Le développement est en cours pour créer des unités de combat mixtes robot-humain dans l'armée américaine. Jusqu'à présent, c'est difficile à imaginer, mais dans quelques décennies, les robots deviendront des soldats à part entière - tout comme les humains. De plus, ils sont capables de remplacer une personne dans des situations où il peut être nécessaire d'ouvrir le feu sur une cible vivante. Un tel remplaçant dégagera formellement une personne de la responsabilité de prendre une décision mortelle, mais il ne pourra pas la priver de doutes et de remords, et peut également provoquer la méfiance à l'égard des robots. Vous ne savez jamais - peut-être que les robots sont en fait des maniaques électroniques qui aiment tuer?
Le projet XAI devrait résoudre ce problème dans l'interaction homme-robot. Grâce à l'introduction du nouveau système, les militaires (ceux qui sont encore des êtres vivants) pourront comprendre selon quel critère la machine a évalué tel ou tel objet ou personne comme une menace. De plus, XAI permettra aux robots de combat de s'adapter plus facilement aux réalités d'un conflit militaire spécifique et de réduire le degré de cruauté insensée.
Le nouveau développement sera utile non seulement pour les militaires. Il peut également être utilisé dans le domaine civil - dans l'industrie, les systèmes de sécurité et la médecine. Un exemple d'une telle utilisation est donné par Bill Ferguson, un spécialiste de premier plan chez Raytheon, qui est directement impliqué dans le développement d'un réseau neuronal. «Si l'intelligence artificielle détecte des signes de cancer du poumon sur la radiographie, le médecin peut découvrir pourquoi la machine l'a fait. L'ordinateur mettra en évidence toutes les zones suspectes que le médecin aurait pu ignorer, prenant pour des artefacts d'image. Après cela, le médecin pourra déterminer par lui-même s'il vaut la peine de corriger le diagnostic, ou si le réseau neuronal s'est trompé », explique le scientifique.
