Le physicien théorique Stephen Hawking et le fondateur de Tesla Motors, Elon Musk, ont approuvé un certain nombre de principes qui devraient garantir que l'intelligence artificielle (IA) ne nuit pas aux humains et ne sert que le bien. Les rapports du Silicon Valley Business Journal.
Ce pacte est nécessaire pour assurer la sécurité des personnes, ainsi que pour répondre à de nombreuses questions concernant l'IA. Musk est convaincu que l'IA peut potentiellement être plus dangereuse que les armes nucléaires. Hawking a également une opinion similaire et affirme que l'IA peut détruire l'humanité. Cependant, tous deux reconnaissent que l'IA aidera les humains à résoudre de nombreux problèmes, tels que la guérison du cancer ou le ralentissement du réchauffement climatique.
Le respect des 23 principes devrait garantir que l'IA ne sert que de bonnes fins. Ils sont répartis en trois catégories: les questions de recherche, les questions d'éthique et de valeurs et les problèmes à long terme. La première catégorie comprend des réponses aux questions auxquelles sont confrontés les créateurs d'IA, y compris comment le financement devrait se dérouler. La deuxième catégorie concerne les problèmes de sécurité et les moyens de neutraliser la menace. Le troisième décrit les risques possibles auxquels l'humanité peut être confrontée lorsque l'IA atteint son apogée et que la soi-disant superintelligence apparaît.
Ces principes ont été développés lors d'une conférence sur les discussions sur l'IA au début de janvier 2017. Le PDG de DeepMind, Demis Hassabis, a contribué à l'écriture.
