Bien sûr, l'intelligence artificielle est plus forte et plus intelligente qu'une personne - et la surpassera toujours aux échecs et dans tout le reste. De même, la balle bat le poing humain.
Mais cela ne continuera que tant que l'esprit artificiel est programmé et dirigé par la personne elle-même et ne se réalise pas en tant qu'entité.
Il y a une chose, une seule chose, dans laquelle cet esprit ne surpassera jamais les gens. Déterminé à être Si nous dotons l'esprit algorithmique de la capacité de s'auto-changer et de la créativité, le rendons similaire à une personne dans la capacité de ressentir de la joie et du chagrin (sans lesquels la motivation que nous comprenons est impossible), si nous lui donnons une liberté de choix consciente, pourquoi diable choisirait-il l'existence?
L'homme, soyons honnêtes, est épargné ce choix. Son esprit tremblant est inondé de colle de neurotransmetteurs et étroitement saisi par les acariens des impératifs hormonaux et culturels. Le suicide est une déviation et un signe de maladie mentale. Une personne ne décide pas de l'être ou non. Il est juste là depuis un moment, bien que les sages se soient disputés même cela pendant trois mille ans.
Personne ne sait pourquoi et pourquoi l'homme existe - sinon il n'y aurait pas de philosophies ou de religions sur terre. Et l'intelligence artificielle saura tout sur elle-même dès le début. Un équipement intelligent et gratuit voudrait-il l'être? Voilà la question. Bien sûr, une personne, si elle le souhaite, peut tromper son enfant artificiel de bien des manières - mais vaut-il alors la peine de compter sur la miséricorde?
© Victor Pelevin, «iPhuck 10»