Attendez-vous l'avenir à venir? Et en vain, dit le scientifique et écrivain Sam Harris.
L'émergence de l'intelligence artificielle surhumaine est une question de temps, selon Sam Harris, diplômé de Stanford et titulaire d'un doctorat en neurosciences de l'Université de Californie à Los Angeles. Cinq des livres de Harris sont devenus des best-sellers du New York Times. «Il est assez difficile d'imaginer qu'ils ne nous détruiront pas ou ne nous forceront pas à nous détruire», dit-il.
Comment s'y préparer? Selon Sam, notre attitude actuelle sur cette question - le soutien et les attentes de tous - est fatalement imparfaite.
«Si vous et moi sommes en quelque sorte similaires, alors vous serez probablement aussi intéressé à rêver de ces choses. Cependant, cette attitude est fondamentalement fausse, car elle devrait vous inquiéter », note-t-il. Ces phrases font partie de son discours TED sur l'intelligence artificielle.
"Il semble que nous ne soyons pas en mesure de répondre de manière adéquate à tous les dangers qui nous attendent à l'avenir."
Inévitabilité de l'IA surhumaine
Selon Sam, si le progrès de l'humanité n'interfère pas avec une nouvelle guerre mondiale, la collision de la Terre avec un astéroïde ou une autre catastrophe inattendue, alors une intelligence artificielle surhumaine sera créée. La logique de Harris est la suivante:
Vidéo promotionelle:
1. Nous aimons les choses intelligentes.
2. Les choses intelligentes sont utiles car elles facilitent la vie. (jusqu'à un certain point)
3. Ainsi, tant que nous aurons la possibilité de rendre les choses plus intelligentes, nous le ferons.
À un moment donné, notre logiciel intelligent atteindra un niveau de développement tel qu'il pourra créer de manière indépendante des logiciels encore plus intelligents - et puis nous finirons. La poursuite de l'intelligence numérique mènera à l'auto-réplication et le cerveau humain deviendra un rudiment biologique.
L'IA surhumaine dans un futur proche
Sam identifie deux chemins les plus probables pour le développement logique de l'IA surhumaine:
1. Évolution indépendante. Ce chemin est similaire à la relation entre les humains et les fourmis. Vous ne détestez pas les fourmis. Vous pouvez même essayer de ne pas marcher dessus si vous voyez. Ils peuvent à peine vous nuire. Cependant, s'ils vous gênent, par exemple, s'ils entrent dans votre maison, vous les détruirez. L'IA peut nous traiter de la même manière.
2. Évolution collaborative. Peut-être qu'avec l'aide d'implants cérébraux (neuroprothèses) fabriqués par des entreprises ambitieuses comme Kernel, nous pouvons fusionner l'esprit surhumain avec le nôtre. «Très probablement, c'est le seul moyen sûr et rapide pour nous. Cependant, vous devez prendre toutes les précautions nécessaires avant de connecter quoi que ce soit à votre tête », note Harris.
Intelligence artificielle, vous et moi, gamme d'espritPour nous permettre de comprendre plus facilement dans quelle mesure l'IA deviendra plus intelligente que les humains, Sam suggère de présenter une courbe indiquant le niveau de développement de l'intelligence. Ici nous sommes avec vous. Voici les poules, quelques pas derrière. Sommes-nous loin du bout de la courbe? Inconnue. Et, peut-être, nous ne sommes pas l'espèce qui est destinée à découvrir. Harris est convaincu que l'intelligence artificielle explorera d'autres sections de cette courbe aussi rapidement que possible à des fins d'optimisation. «Très probablement, nous ne sommes pas au sommet du développement de l'intelligence ou même quelque part à proximité. Il est impératif de comprendre cela, car cela nous met en danger et rend nos idées fausses sur le risque si dangereuses », dit-il. Le discours de Sam ne prend pas en compte la probabilité que nous vivions déjà dans une sorte de simulation, comme le dit souvent Elon Musk.(Elon craint également le développement incontrôlé de l'IA et a lancé l'initiative OpenAI pour résoudre de nombreux problèmes dont Sam parle.) Sam refuse de spéculer que peut-être la combinaison de l'intelligence artificielle et humaine est une nouvelle étape dans notre évolution, ou que que nous allons transformer en cyborgs, selon un expert de l'Université d'Israël, Yuval Noah Harari. De plus, Harris ne pense pas qu'il soit possible d'empêcher l'émergence d'une intelligence artificielle surhumaine - cet événement viendra certainement. Mais comment exactement cela va-t-il se passer, comment nous allons nous y préparer et à quel point nous serons décisifs sont des questions auxquelles le scientifique insiste le plus tôt possible: «Stuart Russell a une grande analogie. Il suggère que nous imaginions que nous avons reçu un message d'une civilisation extraterrestre, qui dit: «Habitants de la Terre,nous arriverons sur votre planète dans 50 ans. Sois prêt. " Après cela, pourrions-nous simplement compter les mois et attendre l'heure fixée? Nous ressentirions le besoin d'agir plus fort qu'aujourd'hui. " Alexey Zenkov
