Deux milliardaires qui ont fait fortune en ligne, le propriétaire de Tesla et Space X, Elon Musk, et le fondateur de Facebook, Mark Zuckerberg, se sont lancés dans une dispute d'absentéisme sur les dangers de l'intelligence artificielle.
Les deux entrepreneurs sont convaincus que la création d'une intelligence artificielle (IA) à part entière est une question de proche avenir. Mais Musk pense qu'il est temps pour l'humanité de réfléchir à la régulation des développements dans ce domaine, et Zuckerberg est convaincu que l'intelligence artificielle améliorera considérablement la vie des gens.
À la mi-juillet, Elon Musk s'est entretenu avec les gouverneurs des États américains et a exhorté les autorités à réfléchir à l'introduction de restrictions législatives sur le développement de l'IA.
Zuckerberg a répondu à la question sur les dangers de l'IA lors de discussions avec les utilisateurs de Facebook. On lui a demandé sans détour s'il pensait que les craintes de Musk étaient valables. Le créateur de Facebook a déclaré qu'il ne comprenait pas comment Musk pouvait sérieusement appeler à un ralentissement en cours.
Il a répondu en tweetant: «J'en ai parlé avec Mark. Il a une compréhension limitée de cette question :
Present Tense publie intégralement les discours des deux milliardaires.
"Tant que nous ne verrons pas des robots marcher dans les rues et tuer des gens, nous ne saurons pas comment réagir." Les craintes d'Elon Musk
Vidéo promotionelle:
J'ai accès aux toutes dernières innovations en matière d'IA. Et je pense que les gens devraient vraiment se préoccuper de cette question. Je sais ce que ça fait, mais tant que les gens ne verront pas des robots marcher dans les rues et tuer des gens, ils ne sauront pas comment réagir.
Cela semble irréaliste. Je pense que nous devons vraiment nous soucier de l'IA. Et je pense que c'est un cas rare où, dans nos restrictions législatives, nous devons jouer en avance sur la courbe, et ne pas prendre de décisions plus tard, quand il est trop tard.
En règle générale, les restrictions fonctionnent comme ceci: au début, beaucoup de mauvaises choses se produisent, des protestations de la société et après de nombreuses années, il existe des organismes de réglementation pour cette industrie. Les entreprises qui n'aiment pas le contrôle extérieur résistent, et cela prend beaucoup de temps. Dans le passé, cela a déjà entraîné de mauvaises conséquences, mais n'a pas posé de menace fondamentale à l'existence de l'humanité.
L'IA est un risque fondamental pour l'existence humaine. Et c'est le genre de risque que ni les accidents de voiture, ni les accidents d'avion, ni les drogues problématiques, ni la mauvaise nourriture n'ont jamais eu. Ce n'était pas une menace. Peut-être étaient-ils destinés à des personnes spécifiques, mais ils ne représentaient pas un risque pour toute la société.
L'IA est une menace existentielle fondamentale pour la civilisation, et je ne pense pas que les humains en soient pleinement conscients. Oui, être restreint n'est pas amusant. Mais dans l'industrie automobile, nous sommes contrôlés par le ministère des Transports et bien d'autres. Et chaque pays a des organismes de réglementation. Dans l'industrie spatiale, nous sommes contrôlés par la Federal Aviation Administration. Mais si vous demandez à une personne ordinaire: "Hé, vous voulez vous débarrasser de la gestion de l'aviation civile, et espérez juste que les fabricants n'économisent pas sur l'avion, parce que les bénéfices ont baissé ce trimestre", la personne répondra: "Bien sûr que non." Ça sonne tellement.
Je pense que même les gens très libéraux diraient encore: "Gardons un œil sur les avionneurs, nous devons nous assurer qu'ils fabriquent de bons avions." Belles voitures, des trucs comme ça. Les régulateurs ont donc un rôle à jouer. Bien sûr, je suis contre un contrôle strict. Mais je pense que nous ferions mieux de nous dépêcher avec l'IA.
Bien sûr, cette [invention de l'IA] entraînera des pertes d'emplois, car les robots peuvent tout faire mieux que nous. Autrement dit, mieux que nous tous. Oui. Je ne sais pas quoi faire. C'est le pire problème pour moi. Oui, je suis convaincu que nous aurons besoin d'un contrôle de l'État, car nous pourrons ainsi garantir la sécurité publique.
Les entreprises sont pressées, elles ont besoin de temps pour faire de l'IA, sinon elles deviendront non compétitives. Si votre concurrent est pressé de faire de l'IA, et vous ne l'êtes pas, il vous détruira. Et les entreprises disent: "Nous ne voulons pas mourir, il semble que nous devions également créer de l'IA."
Et c'est là que les contrôles devraient entrer en jeu: "Les gars, vous devez tous ralentir et vous assurer que c'est sûr." Si les examinateurs sont convaincus que c'est sûr, vous pouvez continuer à travailler. Sinon, ralentissez. Mais les auditeurs doivent le faire pour tous ceux qui le font, sinon les actionnaires diront: «Hé, pourquoi ne développez-vous pas l'IA plus rapidement que vos concurrents? Ce serait nécessaire!"
Je crois que c'est le plus grand risque que nous prenons en tant que civilisation. Je pense que le rôle de l'État est de prendre soin de la société et de prêter attention à ce qui la menace. D'où les limites. Tout d'abord, vous devez en apprendre le plus possible à ce sujet afin de comprendre la nature du problème, d'observer les progrès et les réalisations incroyables dans le domaine de l'IA.
L'année dernière, dans un jeu de go assez difficile à gagner, et dans lequel les gens pensaient que l'ordinateur ne battrait jamais le meilleur joueur humain, ou que cela arriverait dans 20 ans, l'an dernier AlphaGo, créé par DeepMind, l'entreprise rachetée par Google a battu le meilleur joueur de go au monde. Et maintenant, elle peut jouer avec 150 joueurs en même temps et les vaincre tous.
C'est un taux de progrès impressionnant, et il apparaîtra de plus en plus souvent. La robotique, par exemple. Il existe des robots qui apprennent à marcher à partir de zéro en quelques heures. Plus rapide que toutes les espèces. Mais le plus dangereux - et c'est le plus difficile à comprendre - car ce n'est pas quelque chose de physique, c'est l'intelligence.
Il semblerait, eh bien, que peut faire une puissante intelligence [artificielle] sur le Web? Eh bien, par exemple, commencez une guerre. Par exemple, en créant de fausses nouvelles, de faux communiqués de presse et des adresses postales, et en manipulant simplement des informations. Le stylo est plus puissant que l'épée.
À titre d'exemple - je tiens à souligner, je ne pense pas que cela se soit réellement produit, je dis cela purement hypothétique - vous souvenez-vous de cet avion malais qui a été abattu au-dessus de la frontière entre la Russie et l'Ukraine? Cela a considérablement accru les frictions entre la Russie et l'UE.
Imaginez que si vous aviez une intelligence artificielle et que son objectif était de maximiser la valeur d'un portefeuille d'actions, une solution serait d'acheter des actions de défense, des actions de consommation à découvert et de déclencher une guerre.
Comment a-t-il pu le faire? Piratez Malaysia Airlines, des serveurs de routes aériennes, tracez des itinéraires au-dessus d'une zone de guerre, puis envoyez un message anonyme indiquant qu '"un avion ennemi vous survole".
"Toutes les technologies peuvent être utilisées pour le mal et le bien." L'optimisme de Mark Zuckerberg
J'ai des convictions assez fortes à ce sujet. Je suis très optimiste. Je suis une personne optimiste en général. Je pense que nous pouvons créer des choses qui rendent le monde meilleur, et je suis particulièrement optimiste à propos de l'IA. Je pense que je ne comprends tout simplement pas les gens qui sont toujours sceptiques et constamment intimidés par ces scénarios de la fin imminente du monde. Je pense que c'est vraiment très mauvais et irresponsable, car dans les cinq à dix prochaines années, l'intelligence artificielle pourra améliorer et améliorer la qualité de nos vies.
Si vous êtes préoccupé par la sécurité et la santé des personnes, l'IA aide déjà à mieux diagnostiquer les maladies et à sélectionner des médicaments pour les personnes en fonction de leur maladie et de la manière dont elles peuvent être mieux soignées. De nombreuses personnes recevront de meilleurs soins de santé que jamais.
Quant aux voitures autonomes, elles seront plus sûres que les voitures conduites par des personnes. C'est juste une question de temps. Les accidents de voiture restent l'une des principales causes de décès. Et s'ils pouvaient être éliminés avec l'aide de l'IA, cela améliorerait considérablement la vie des gens.
Quand j'entends le raisonnement: «Oh, vous savez, l'IA va nuire aux gens à l'avenir», je pense qu'en effet, toute technologie peut être utilisée à la fois pour le mal et le bien. Et vous devez être prudent lorsque vous créez quelque chose, vous devez être prudent et réfléchir à la façon dont il sera appliqué.
Mais quand les gens insistent pour ralentir le processus d'IA, je trouve cela très controversé. C'est vraiment difficile pour moi de comprendre cela, car si vous êtes contre l'IA, alors vous êtes contre des machines plus sûres qui n'entraîneront pas d'accidents, contre la possibilité de mieux diagnostiquer les maladies. Et je ne comprends tout simplement pas comment certaines personnes peuvent le faire sans ruse. Je suis donc généralement beaucoup plus optimiste à propos de cette [création d'IA] que peut-être beaucoup de gens.
