Le sujet de l'intelligence artificielle avancée (IA) à l'avenir comporte généralement certaines craintes - par exemple, elle sera capable de s'auto-apprendre et deviendra si développée que les gens ne pourront plus la comprendre. Entre de mauvaises mains, et même seul, un algorithme aussi avancé peut prendre le contrôle des gouvernements et des armées, introduire des méthodes orwelliennes de surveillance et de manipulation, établir le contrôle de la société et même contrôler une armée de drones de combat autonomes sur le champ de bataille.
Mais certains experts en IA ne considèrent pas ces craintes comme valables. En fait, une IA très avancée peut être mieux à même de gouverner le monde que les humains. Ces peurs sont elles-mêmes dangereuses car elles peuvent nous empêcher de saisir une telle opportunité.
«Peut-être que la non-mise en œuvre de l'IA présente un danger pour l'humanité», a déclaré Thomas Mikolov, chercheur sur Facebook sur l'IA, lors d'une conférence à Prague sur les défis de la création de l'IA au niveau de l'intelligence humaine.
Mikolov explique que les humains, en tant qu'espèce, sont très faibles pour prendre des décisions à long terme pour apporter des résultats bénéfiques. Les humains ont défriché les forêts tropicales pour en extraire les matières premières, ne réalisant pas (ou pas intéressés) qu'ils contribuaient ainsi à la dégradation de notre planète - peut-être de manière irréversible.
Mais un système d'IA avancé pourrait protéger l'humanité de sa propre myopie.
«Les gens sont mal en mesure de prévoir un avenir lointain, disons 20 à 30 ans. Peut-être qu'en créant une IA beaucoup plus intelligente que nous, nous pouvons nous aider à éviter de futures catastrophes.
Bien sûr, Mikolov appartient à une minorité de scientifiques qui pensent qu'une IA hautement développée sera bienveillante. Au cours de la conférence, de nombreux orateurs ont exprimé une crainte généralisée de l'IA, plus souvent en relation avec son utilisation possible à des fins dangereuses par des acteurs malveillants, dont le danger ne doit pas être sous-estimé.
Nous ne savons pas avec certitude s'il sera possible de créer une IA polyvalente capable d'exécuter n'importe quelle tâche de pensée disponible pour les humains, et peut-être même mieux qu'eux.
Vidéo promotionelle:
L'avenir de l'IA avancée semble prometteur, mais il soulève de nombreuses préoccupations éthiques. Nous ne connaissons même pas toutes les questions auxquelles il faudra répondre.
Pourtant, la plupart des participants à la conférence de Prague ont convenu que les règles doivent être élaborées avant d'être nécessaires. Déjà, il est nécessaire de créer des traités internationaux, des comités d'éthique et des organismes de réglementation au sein des gouvernements, des entreprises et des communautés scientifiques. La mise en œuvre de ces institutions et protocoles réduira la probabilité qu'un gouvernement hostile, un chercheur imprudent ou même un «scientifique» vraiment insensé déclenche une IA malveillante ou utilise un algorithme complexe d'une autre manière comme arme. Et dans le pire des cas, nous aurons des remèdes.
En introduisant les règles et précautions nécessaires, nous pourrons vivre en harmonie avec une IA hautement développée à l'avenir; peut-être qu'un jour il nous sauvera même.
Vadim Tarabarko
