La science-fiction adore dépeindre les robots comme des machines autonomes capables de prendre leurs propres décisions et même d'afficher des personnalités. Cependant, il n'y a aucun moyen de nous débarrasser de l'idée que les robots nous appartiennent en tant que notre propriété et qu'ils n'ont pas les droits que les humains ont habituellement. Mais si une machine peut penser, prendre des décisions et agir de son plein gré, si elle peut être lésée ou forcée d'assumer la responsabilité de ses actes, devrions-nous arrêter de la traiter comme une propriété et commencer à la traiter comme une personne ayant des droits?
Et si le robot devenait soudainement pleinement conscient? Aura-t-il les mêmes droits que nous, et la même protection par le mot de la loi, ou du moins quelque chose de similaire?
Ces questions et d'autres sont déjà en cours de discussion au sein de la commission juridique du Parlement européen. L'année dernière, il a publié un document de projet et une proposition visant à créer un ensemble de règles de droit civil pour la robotique qui régissent sa production, son utilisation, son autonomie et son impact sur la société.
Parmi les solutions juridiques proposées, la plus intéressante était la proposition de créer un statut juridique de «personnes électroniques» pour les robots les plus complexes.
Attention: personnalité
Le rapport reconnaît que les améliorations des capacités autonomes et cognitives des robots en font plus que de simples outils et que les règles ordinaires de responsabilité comme la responsabilité contractuelle et délictuelle ne suffisent pas pour travailler avec eux.
Par exemple, la directive européenne actuelle sur la responsabilité pour les dommages causés par des robots ne couvre que les dommages prévisibles causés par des défauts de fabrication. Dans ces cas, le fabricant est responsable. Cependant, lorsque les robots peuvent apprendre et s'adapter de leur environnement de manière totalement imprévisible, il sera plus difficile pour un fabricant d'anticiper les problèmes qui pourraient causer des dommages.
Vidéo promotionelle:
Des préoccupations ont également été soulevées quant à la manière dont les robots devraient être considérés comme suffisamment ou insuffisamment complexes: en tant que personnes ordinaires, personnes morales (par exemple, entreprises), animaux ou objets. Au lieu de les regrouper dans une catégorie existante, il est proposé de créer une nouvelle catégorie de «personnes électroniques», le cas échéant.
Le rapport ne préconise cependant pas une action législative immédiate. Au lieu de cela, ils suggèrent de mettre à jour la législation si les robots deviennent plus complexes et acquièrent des subtilités comportementales. Si cela se produit, l'une des recommandations est de réduire la responsabilité des «créateurs» au prorata de l'autonomie du robot, et d'inclure également une assurance obligatoire.
Mais pourquoi aller jusqu'à créer une nouvelle catégorie de «visages électroniques»? Après tout, les ordinateurs ne seront pas proches de l'intelligence humaine, voire pas du tout, bientôt.
Les robots - ou, plus précisément, le logiciel à la base - deviennent de plus en plus complexes. Les machines autonomes (ou «émergentes») sont de plus en plus courantes. La controverse continue sur les capacités juridiques des appareils autonomes. Peuvent-ils effectuer une intervention chirurgicale? Un robot chirurgien peut-il être poursuivi?
Le robot apprend à «ressentir» la douleur
Tant que la responsabilité incombe au fabricant, ce ne sont pas des problèmes particulièrement difficiles. Mais que se passe-t-il si le fabricant ne peut pas être facilement identifié, par exemple dans le cas de l'utilisation d'un logiciel open source? Qui poursuivre s'il y a des millions de développeurs de logiciels dans le monde?
L'intelligence artificielle commence également à être à la hauteur de son nom. Alan Turing, le père de l'informatique moderne, a proposé un test en réussissant qu'un ordinateur pourrait se considérer comme intelligent, s'il parvient à tromper, tromper une personne, se faire passer pour un être vivant. Les machines sont déjà sur le point de réussir ce test.
La liste des succès des robots est assez longue: l'ordinateur écrit des bandes sonores sur des vidéos qui ne se distinguent pas de celles écrites par des humains, contourne le "captcha", écrit avec des mots et bat les meilleurs joueurs de poker du monde.
En fin de compte, les robots peuvent égaler les humains en termes de capacités cognitives et même être trop humains, par exemple, s'ils «ressentent» de la douleur. Si ces progrès se poursuivent, les robots conscients cesseront d'être un produit de la fantaisie.
Le rapport de l'UE est l'un des premiers à aborder ces questions, mais d'autres pays sont également activement impliqués. Yue-Xuan Weng de l'Université de Pékin écrit que le Japon et la Corée du Sud pensent que nous coexisterons avec les robots d'ici 2030. Le ministère japonais de l'Économie, du Commerce et de l'Industrie a créé une série de directives commerciales et de sécurité pour les robots de nouvelle génération.
Visages électroniques
Si nous décidons d'accorder un statut juridique aux robots, quel sera-t-il? S'ils se comportaient comme des personnes, nous pourrions les traiter comme des entités juridiques, pas des objets, ou les placer quelque part entre les deux. Les sujets ont des droits et des obligations, ce qui leur confère une «personnalité» juridique. Il n'est pas nécessaire que ce soit des personnes physiques; une société n'est pas, mais est considérée comme une personne morale. Les personnes morales, en revanche, n'ont ni droits ni obligations, bien qu'elles puissent avoir une valeur économique.
L'attribution de droits et d'obligations à un objet ou programme inanimé indépendant de ses créateurs peut sembler … étrange. Mais nous voyons déjà comment les entreprises créent des entités juridiques fictives avec leurs propres droits et obligations.
Peut-être que l'approche des robots devrait être similaire? Si un robot (ou programme) est suffisamment complexe pour répondre à certaines exigences, il peut se voir attribuer le statut de société. Cela lui permettra de gagner de l'argent, de payer des impôts, de posséder des actifs ou d'engager des poursuites judiciaires, quels que soient ses créateurs. Les créateurs du robot seront comme les PDG des entreprises.
Les robots seront alors considérés comme des entités juridiques, mais contrairement aux entreprises, ils auront des corps physiques. Une «personne électronique» peut donc être une combinaison d'un sujet et d'un objet de droit.
ILYA KHEL
