La création d'un environnement éthique pour le développement de ces technologies doit être basée sur le «centrisme humain», estime le scientifique russe Maxim Fedorov.
Les participants du groupe international d'experts de l'UNESCO, qui élabore des normes éthiques dans le domaine des technologies de l'intelligence artificielle (IA), au cours des discussions, sont parvenus à une opinion commune selon laquelle la monopolisation est inacceptable dans ce domaine. Cela a été dit à TASS par le représentant de la Fédération de Russie dans le groupe, directeur du Centre des technologies de calcul scientifique et technique pour les problèmes avec les grands ensembles de données de l'Institut Skolkovo des sciences et de la technologie Maxim Fedorov.
Un groupe spécial d'experts (Groupe spécial d'experts de l'UNESCO, AHEG) formé à la suite des résultats de la 40e session de la Conférence générale de l'UNESCO, qui, avec des représentants des États-Unis, du Canada, de la Grande-Bretagne, des pays de l'UE, de la Chine et d'autres pays, comprenait un scientifique russe, a commencé en avril travailler à la résolution d'éventuelles controverses éthiques dans le domaine de l'intelligence artificielle. En conséquence, des spécialistes travaillant dans le mode de communication de conférence (environ 20 experts) devraient constituer la base d'un document normatif de l'UNESCO contenant des recommandations dans ce domaine.
«Le fait est que l'intelligence artificielle ne devrait pas avoir un seul propriétaire. Il ne devrait y avoir aucun monopole - ni pour le pays, ni pour l'entreprise, ni pour les particuliers. Ceci est correct à plusieurs égards et il y a maintenant un accord sur cette question au sein du groupe d'experts de l'UNESCO. Cependant, dans ce domaine, loin de tout est simple, la question du contrôle se pose immédiatement et une inflexion dans l'autre sens peut se produire », a déclaré Fedorov.
Il a également déclaré qu'à présent, à la plate-forme des Nations Unies pour l'éducation, la science et la culture, il y avait une recherche de réponses aux questions de savoir quoi faire avec les monopoles technologiques de facto déjà existants dans le monde et quels devraient être les mécanismes de protection contre la monopolisation de la sphère de l'intelligence artificielle. Sur ces questions et d'autres, la position des représentants russes et d'un certain nombre d'autres pays est basée sur les principes de la priorité inconditionnelle des intérêts humains, de la sécurité et de la liberté de choix, a-t-il ajouté.
L'IA en tant que membre de la société
Au cours de la discussion sur un concept éthique unique des technologies de l'intelligence artificielle, un certain nombre d'experts, se référant aux approches de certains pays d'Asie de l'Est, ont présenté une proposition visant à doter l'intelligence artificielle du statut de «quasi-membre de la société», comme une personne morale, avec ses droits et obligations.
Vidéo promotionelle:
«Ce sujet est très dangereux. Autrement dit, l'IA est créée comme une sorte de nouvelle entité qui vit par elle-même, mais qui a des droits - en tant que membre de la société. Nous avons longuement discuté de ce que sont la raison, la conscience et l'intelligence dans ce contexte, mais nous avons néanmoins réussi à tourner la discussion vers le fait que le sujet de la société peut être quelqu'un qui peut souffrir: une personne peut, mais un algorithme ne peut pas. Ces pensées sont également retracées dans les travaux du visionnaire Yuval Noah Harari ", a déclaré Fedorov, ajoutant qu'avec la Russie, un certain nombre d'experts se sont opposés à la création d'un" quasi-membre de la société "avec des références à des documents réglementaires déjà adoptés dans le domaine de l'IA, y compris au sein de l'UE.
La création d'un environnement éthique pour le développement de technologies d'intelligence artificielle devrait être basée sur le «centrisme humain», dans lequel la création de certains types d'intelligence artificielle ou symbiotique serait strictement interdite, comme le clonage de personnes, est convaincu le scientifique russe.
Responsabilité
Les débats suggèrent également que les robots et les algorithmes soient «personnellement responsables» afin que la machine ou le système qui commet une erreur puisse être «puni».
«Le truc ici est que celui qui a vendu le robot a fait un profit, celui qui l'utilise, en fait, en profite également. Et si le robot fait une erreur qui entraîne des victimes et des pertes, alors il semble que personne n'est à blâmer - punissons le robot. Mais quelqu'un l'a fabriqué et acheté. Il s'avère que les fabricants ne veulent pas assumer la responsabilité et la transférer aux utilisateurs du système », a poursuivi l'expert.
Par exemple, lors de l'utilisation d'un programme acheté, l'utilisateur ne pourra pas demander de support technique en cas d'erreurs. Au lieu de cela, le fabricant supprimera simplement le produit défectueux du disque en guise de «punition», explique la source TASS.
L'accès à l'IA - un devoir ou un droit?
Un autre sujet de discussion est la capacité des personnes à accéder à l'infrastructure d'intelligence artificielle. Certains experts proposent d'accorder le droit d'utiliser de tels systèmes à toute personne sur Terre. Cependant, Maxim Fedorov y voit une menace d'imposer la technologie aux gens contre leur volonté.
«Maintenant, mes collègues et moi semblons avoir réussi à arriver à une opinion commune que le choix de la vie (choix de vie, anglais - note TASS) est l'affaire de chaque personne. Nous devons respecter les droits des personnes, qui, d'ailleurs, ne sont pas obligées d'expliquer pourquoi elles ne veulent pas utiliser d'algorithmes », a déclaré Fedorov, citant à titre d'exemple les représentants amish des partisans protestants de Jacob Amman aux États-Unis qui n'utilisent pas de gadgets, Internet et même l'électricité.
«Je pense que les gens devraient avoir le droit d'accéder à la technologie, mais ils devraient aussi avoir le droit de choisir et le droit d'être des membres à part entière de la société sans utiliser ces technologies. Pourquoi? Quelqu'un - en raison de l'âge, quelqu'un en raison de croyances religieuses, quelqu'un en raison de l'expérience et d'autres circonstances. Mais c'est une question très délicate, car nous manœuvrons entre l'accessibilité, que les pays en développement n'ont peut-être pas, et "ajouter" tout le monde à un certain produit dans d'autres pays ", a-t-il ajouté.
Impact sur l'environnement
Les participants à la discussion examinent également les perspectives de développement des technologies d'intelligence artificielle et l'impact de ce processus sur l'environnement, en tenant compte de l'augmentation des coûts énergétiques et des volumes des composants d'infrastructure. Le représentant de la Russie n’exclut pas la possibilité de signer à l’avenir un analogue du Protocole de Kyoto sur le site de l’UNESCO, ce qui limiterait l’impact négatif sur l’environnement.
«Dans quelle mesure cela affectera la Russie est une question ambiguë. En termes de développement des infrastructures, notre pays n'atteint pas encore le niveau d'équipement moyen mondial, mais le monde change. En principe, tout est en ordre avec les vecteurs d'énergie, il existe de nombreux territoires «froids» pour placer des supercalculateurs et des centres de traitement de données », a expliqué l'expert.
Un document normatif basé sur les conclusions des experts devrait être adopté par l'UNESCO en 2021.