Le célèbre physicien britannique Stephen Hawking, dans un article inspiré du film de science-fiction "Transcendance" avec Johnny Depp, a déclaré que sous-estimer la menace de l'intelligence artificielle peut être la plus grande erreur de l'histoire humaine.
Dans un article co-écrit avec le professeur d'informatique Stuart Russell de l'Université de Californie à Berkeley et les professeurs de physique Max Tegmark et Frank Wilczek du MIT, Hawking souligne certaines avancées de l'intelligence artificielle, notant les voitures autonomes, l'assistant vocal de Siri et le supercalculateur. le gagnant de l'homme dans le jeu de quiz Jeopardy TV.
«Toutes ces réalisations pâlissent dans le contexte de ce qui nous attend dans les décennies à venir. La création réussie de l'intelligence artificielle sera le plus grand événement de l'histoire humaine. Malheureusement, il se peut que ce soit le dernier, si nous n'apprenons pas à éviter les risques », a déclaré Hawking dans le journal britannique The Independent.
Les professeurs écrivent qu'à l'avenir, il se peut que personne et rien ne puisse empêcher les machines dotées d'une intelligence inhumaine de s'améliorer. Et cela lancera le processus de la soi-disant singularité technologique, ce qui signifie un développement technologique extrêmement rapide. Dans le film avec la participation de Depp, le mot «transcendance» est utilisé dans ce sens.
Imaginez qu'une telle technologie dépasse les humains et stimule les marchés financiers, la recherche scientifique, les humains et le développement d'armes au-delà de notre compréhension. Si l'effet à court terme de l'intelligence artificielle dépend de qui la contrôle, alors l'effet à long terme dépend de sa capacité à le contrôler.
Il est difficile de dire quelles conséquences l'intelligence artificielle pourrait avoir sur l'homme. Hawking pense que peu de recherches sérieuses sont consacrées à ces questions en dehors d'organisations à but non lucratif telles que le Cambridge Center for the Study of Existential Risks, l'Institut pour l'avenir de l'humanité et les instituts de recherche sur l'intelligence artificielle et la vie future.
Selon lui, chacun de nous devrait se demander ce que nous pouvons faire maintenant pour éviter le pire des scénarios de l’avenir.