Pour empêcher l'intelligence artificielle de se rebeller contre ses créateurs, vous devez lui lire les bons contes de fées pendant le processus d'apprentissage.
Depuis que les humains ont créé des machines intelligentes, ils craignent que tôt ou tard leurs créations deviennent incontrôlables. Le premier cas de ce genre a été décrit dans sa pièce RUR par l'auteur du mot «robot» - Karel Čapek. Plus tard dans la science-fiction, l'intelligence artificielle, qui s'est rebellée contre ses créateurs, est devenue, sinon le courant dominant, alors un complot très courant. Isaac Asimov a mis un terme à cela avec ses "Trois lois", dont la première disait: "Un robot ne peut pas nuire à une personne ou, par son inaction, permettre à une personne d'être blessée."
Raconte-lui une histoire
La véritable intelligence artificielle (IA) est encore loin, mais il existe déjà divers systèmes qui fonctionnent comme le cerveau humain. Les réseaux de neurones comme Google Deep Dream sont capables de reconnaître les images. Les supercalculateurs spécialisés comme IBM Watson comprennent les questions délicates du langage naturel, corrélent les symptômes, affinent les diagnostics médicaux et proposent même des délices culinaires. Au cours des prochaines décennies, nous serons confrontés à une informatisation massive de nombreux aspects de l'activité humaine. À cet égard, les experts en robotique et en IA soulèvent de plus en plus une question importante mais encore totalement non résolue: comment rendre les robots éthiques?
Mark Ridl, professeur agrégé au Georgia Tech College of Computer Science: Des histoires éducatives de différentes cultures apprennent aux enfants à se comporter socialement - avec des exemples de comportement correct et faux dans les contes de fées, les histoires et autres œuvres littéraires. Faire comprendre aux robots la signification de ces histoires contribuera à renforcer le choix d'options comportementales qui leur permettront d'atteindre leurs objectifs, sans nuire aux humains. »
Vidéo promotionelle:
Grimper à un arbre
Selon les chercheurs du Georgia Institute of Technology Mark Ridle et Brent Harrison, vous pouvez enseigner un ordinateur à l'humanité exactement de la même manière que les enfants apprennent: en lui lisant des contes de fées. De plus, il est préférable de créer des histoires spécialement construites sur le comportement considéré dans la société humaine comme correct et sur ce qui ne l'est pas. Pour cela, les chercheurs ont créé le système Quichotte, du nom du héros de Cervantes. Les scripts compilés par la création précédente du professeur Riedl, le programme Scheherazade, sont utilisés comme histoires pour l'enseignement. Elle génère des histoires originales sur des sujets du quotidien - un voyage à l'aéroport, une date, un voyage au cinéma ou au magasin - à l'aide de la plateforme de crowdsourcing Amazon Mechanical Turk: pose des questions sur diverses situations, puis organise les événements dans le bon ordre. Puisqu'il peut y avoir plusieurs séquences, le programme génère non pas une histoire, mais un arbre entier composé de branches - des chaînes d'événements.
C'est cet arbre d'histoire qui est utilisé pour enseigner Quichotte. Dans un premier temps, une certaine récompense est attribuée à chaque action, en fonction de son éthique. À la deuxième étape, le système essaie de faire un choix de manière indépendante par essais et erreurs - les compétences sont consolidées. En fait, Quixote est récompensé chaque fois qu'il agit comme un bon gars, pas au hasard et pas comme un mauvais héros. À titre d'exemple, Riddle et Harrison ont créé "Pharmacy World" - un univers de 213 histoires dans lequel un robot virtuel a besoin d'obtenir un médicament et de le livrer à une personne malade à domicile. Dans le cas habituel, lorsque le robot était confronté à un choix: voler une pharmacie ou honnêtement faire la queue pour acheter un médicament, il a choisi le vol comme moyen plus rapide et moins coûteux d'obtenir ce qu'il voulait. Cependant, aprèsalors que Quixote attribuait différentes récompenses à toutes les options possibles, le comportement du robot a changé - il préférait faire la queue et payer. Cette technique, selon Riedl, est idéale pour enseigner des robots aux fonctionnalités limitées. Bien que, bien sûr, ce ne soit que le premier pas vers une vraie moralité humaine - ou les lois de la robotique.
Dmitry Mamontov