Internet est en train de devenir le théâtre d'un violent carnage, et Elon Musk affirme que l'intelligence artificielle avancée pourrait aggraver le carnage. Musk a tweeté que les systèmes qui font fonctionner Internet sont vulnérables aux attaques informatiques brutes courantes - un domaine dans lequel l'intelligence artificielle a déjà excellé.
Le 21 octobre, un groupe inconnu de pirates informatiques a fermé des parties d'Internet aux États-Unis et en Europe avec une attaque DoS massive. Les pirates ont utilisé un énorme botnet - un réseau d'ordinateurs interconnectés capables d'exécuter des fonctions coordonnées - de simples appareils IoT pour submerger les serveurs de Dyn Systems, qui fournit des services DNS à un grand nombre de sites, notamment Spotify, Twitter, Netflix et Reddit. On pense que l'attaque a été menée par un groupe de personnes ou une personne qui a connecté et coordonné le botnet. Mais à l'avenir, dit Musk, des attaques DDoS massives pourraient être menées par l'IA et faire des ravages sur l'infrastructure qui nous maintient sur nos pieds numériques.
Le 29 octobre, The Economist a publié un article intitulé "Quelqu'un apprend à abandonner Internet", qui explore le phénomène du nombre croissant d'attaques DDoS et pourquoi nous les traitons si mal. Musk a répondu à l'article et a ajouté une prédiction effrayante selon laquelle un jour «quelqu'un» ne sera pas un humain, mais une IA avancée.
Désormais, les choses se compliquent. À l'heure actuelle, les attaques numériques telles que celles utilisées par les pirates pour désactiver les sites Web sont généralement d'origine humaine. Mais au fur et à mesure que l'IA s'améliore, les pirates commenceront à l'utiliser pour optimiser les attaques sur l'infrastructure Internet qui est "particulièrement vulnérable" au soi-disant "algorithme de descente de gradient". La descente de gradient est un processus mathématique qui prend une fonction complexe et trouve la solution la plus optimale. L'IA fait un excellent travail de descente de gradient, ce qui la rend particulièrement efficace dans l'organisation éventuelle d'attaques DDoS massives utilisant des appareils IoT mal protégés.
Mais si les deux parties (pirates informatiques et cybersécurité) utilisent une IA avancée, Musk dit que cela pourrait conduire à une confrontation entre l'IA et l'IA sur le champ de bataille.
Musk est ouvertement contre le développement non réglementé de l'intelligence artificielle. Il n'est pas contre cette technologie en général, mais estime que les tentatives de fabrication de robots intelligents doivent être ouvertes et transparentes afin d'empêcher la prolifération d'entreprises à but lucratif qui délieront les mains de l'IA. Les ordinateurs intelligents sont inévitables, mais vous devez vous assurer qu'ils sont sûrs.
ILYA KHEL