Plus tôt cette année, 116 sommités technologiques ont signé une lettre ouverte appelant l'ONU à interdire les «systèmes d'armes autonomes létales». Ils estiment que cela peut conduire à des conflits armés d'une ampleur sans précédent. The Independent a noté que "c'est la première fois que des experts en intelligence artificielle et des sociétés de robotique prennent une décision commune sur cette question".
Mais tous les observateurs ne sont pas si inquiets. Andrew Ng, qui jusqu'à récemment travaillait comme scientifique en chef à Baidu, est arrivé à la conclusion que s'inquiéter des robots tueurs, c'est comme s'inquiéter de la surpopulation sur Mars, et nous aurons suffisamment de temps pour le réaliser.
Dans les premières années du 21e siècle, peu de sujets suscitaient plus d'intérêt ou de débats plus vigoureux que l'intelligence artificielle, à commencer par la compréhension même du terme. En mars dernier, un observateur a noté qu '«il y a à peu près autant de définitions de l'IA que de scientifiques développant cette technologie». Robbie Whiting, fondateur de la société de conseil Junior, affirme que «l'IA n'est pas seulement un mot à la mode - elle va changer le monde».
Bien que l'exagération existe, l'IA est déjà en train de reconstruire des industries entières telles que le transport, la finance et la santé. Le directeur technique de Facebook estime que l'IA «peut résoudre des problèmes à l'échelle de la planète». Elon Musk, quant à lui, soutient que «l'IA pose un risque fondamental pour l'existence de la civilisation humaine». La plupart des technologies ne sont ni utiles ni nuisibles - ce qui compte, c'est qui les utilise et pourquoi.
Peu de gens ne sont pas d'accord sur le fait que l'IA évolue beaucoup plus vite que nous essayons de comprendre sa nature complexe, ses multiples aspects et ses implications profondes pour la sécurité nationale. Dans un rapport récent de Gregory Allen et Thaniel Chan, étudiants diplômés de l'Université de Harvard, il y a un appel au gouvernement pour créer quelque chose comme une société RAND pour l'IA.
Les chercheurs de RAND, quant à eux, souscrivent aux propos de l'équipe de Harvard.
Ils proposent de considérer quatre domaines dans lesquels l'impact de l'IA peut être significatif, mais incertain.
Vidéo promotionelle:
Lieux de travail
Kai Fu Lee, président de SinovationVentures, estime que l'IA «vise les suppressions d'emplois à grande échelle», tout en concentrant la richesse entre les mains des entreprises qui développent ou adoptent l'IA. D'autres pensent que des craintes similaires étaient présentes avec l'avènement de toutes les technologies qui changent le monde, jusqu'à l'imprimerie au 15ème siècle.
The Economist convainc les lecteurs que «l'IA crée une demande d'emplois» et qu'un nombre croissant de personnes dans le monde «fournissent des services numériques sur Internet». Quelles entreprises et quels pays prospéreront à l'ère de l'IA? Quels segments vont disparaître, changer, être créés? Comment la nature du travail changera-t-elle?
Guerre
Les partisans des drones de combat soutiennent que ces armes peuvent atteindre des cibles avec une précision beaucoup plus élevée que les humains; et plus le rôle qu'ils jouent dans le théâtre de la guerre est grand, moins les techniciens les utiliseront pour nuire.
Mais que se passe-t-il si une telle arme devient indépendante et fonctionne de manière indépendante, sans intervention humaine? Le retrait de personnes de la liste du personnel militaire entraînera-t-il une course aux armements encore plus grave et imparable?
Une lettre ouverte, publiée lors de la Conférence internationale de collaboration sur l'intelligence artificielle de 2015, a averti que les armes autonomes "ne nécessitent pas de matières premières chères ou difficiles à trouver, elles deviendront donc omniprésentes et bon marché pour toutes les forces militaires importantes à produire en masse". L'ère des armes automatisées sera-t-elle plus pacifique ou plus belliqueuse?
Les chercheurs de RAND demandent un cadre analytique et un effort international sur l'utilisation de drones de combat à longue portée pour lutter contre le terrorisme et les assassinats ciblés.
Faire des décisions
Les politiciens sont constamment confrontés à une myriade de choix et de motivations - il y en a beaucoup plus à l'époque des médias sociaux qu'il y a vingt ans. Une telle surcharge d'informations ne permet pas de faire face à la situation pendant une crise, encore moins de multiples crises.
Récemment, il a été proposé de faire passer "toutes les décisions prises par le président par ordinateur - non pas pour faire le choix final, mais pour aider le leader en la personne d'une personne".
Mais alors que l'IA est pour la plupart sans péché maintenant, la recherche RAND met en évidence les risques de biais algorithmique dans le filtrage des nouvelles, ayant un impact sur la justice pénale et même la fourniture de prestations de sécurité sociale et la délivrance de visas. Quelles décisions devraient être prises à l'IA? Que doit rester entre les mains d'une personne? Entre les mains d'une équipe de personnes?
Création
Le monde est habitué à l'IA qui peut réaliser des exploits informatiques passionnants et battre des gens dans des jeux de société populaires (un peu plus de 20 ans se sont écoulés depuis que le supercalculateur IBMDeepBlue a vaincu le grand maître d'échecs Garry Kasparov). Comment va-t-il continuer à progresser dans l'espace créatif des personnes?
Le chercheur en intelligence artificielle Jesse Engel pense qu'il "transformera le processus créatif … avec des outils intelligents qui offrent de nouvelles façons de s'exprimer". D'autres ne sont pas aussi optimistes. La journaliste Adrienne Lafrance note que l'intelligence artificielle peut déjà «flirter», «écrire des romans» et «faux tableaux célèbres avec une précision incroyable». Que signifie être créatif? De plus, que signifie être humain?
Les discussions sur l'IA vont souvent aux extrêmes, qu'il s'agisse de la promesse d'une utopie exempte de souffrance humaine ou des dangers d'une dystopie où les robots asservissent leurs créateurs humains. Une analyse plus équilibrée et plus rigoureuse est nécessaire pour aider à élaborer des politiques visant à atténuer les risques et à maximiser les avantages. Certaines mesures doivent être prises pour surmonter les craintes que l'IA fonctionne pour l'État et la société.
Comment l'IA peut-elle influencer les intérêts nationaux d'un pays? Quels types d'IA, le cas échéant, peuvent être considérés comme des technologies stratégiques sur la base de critères gouvernementaux? Où devraient jouer les forces du marché et où est la politique? Alors que l'IA reste largement un domaine de la science-fiction, ces questions prennent de plus en plus d'importance.
Ilya Khel