Greg Corrado, le programmeur principal du projet Google Brain (qui crée des systèmes d'apprentissage automatique et d'intelligence artificielle et leur intégration dans les services Google) a expliqué à RIA Novosti ce qu'est l'intelligence artificielle, pourquoi le soulèvement des machines auto-améliorées ne nous menace pas, et a partagé ses réflexions sur la façon dont l'humanité s'adaptera à la vie à l'ère des «machines intelligentes».
Ces dernières années, Corrado et ses collègues ont développé de nouveaux systèmes de traduction automatique, appris au moteur de recherche d'images Google Images à reconnaître les chats, les chiens et d'autres objets, et créé un réseau neuronal qui améliore la résolution des photos. Ils travaillent actuellement sur un assistant vocal pour les téléphones Android.
Greg, à en juger par vos publications, votre carrière scientifique a commencé en neurophysiologie, pas dans le développement de l'intelligence artificielle. Comment se fait-il que les systèmes d'IA soient devenus importants pour vous personnellement et pour Google en général?
- Au départ, je m'intéressais à des choses complètement différentes - au début, j'étudiais la physique, puis je suis passée au domaine des sciences du cerveau. Ensuite, il m'a semblé que le cerveau était le système physique le plus intéressant, et je voulais comprendre comment le développement de notre cerveau a conduit à l'émergence d'êtres intelligents et conscients de soi.
Après avoir travaillé quelque temps de cette manière, j'ai réalisé qu'il n'était pas moins intéressant pour moi d'étudier toutes les formes d'intelligence, non seulement dans ses manifestations biologiques, mais aussi dans ses manifestations artificielles. De plus, à cette époque, il me semblait que dans le domaine de l'intelligence artificielle nous pourrions avancer beaucoup plus vite que dans l'étude du cerveau humain.
Avec Google, la situation est différente - la société est en fait engagée dans l'intelligence artificielle depuis sa création. La mise en œuvre même du moteur de recherche, tel que conçu par les fondateurs de l'entreprise, Sergey Brin et Larry Page, nécessite au moins une forme d'intelligence artificielle.
Pour nous, la tâche principale n'est pas de créer l'IA comme une sorte de produit que nous pourrions emballer dans une boîte et vendre, mais d'utiliser de tels systèmes pour organiser et traiter les informations. La quantité d'informations augmente constamment, et plus nous recevons de données, plus nous les voyons et perdons l'idée de ce qui est important et de ce qui ne l'est pas.
L'idée très mathématique décrivant les réseaux de neurones profonds et les méthodes d'apprentissage non linéaires est apparue il y a plus de dix ans, mais elles ne sont devenues populaires que ces deux ou trois dernières années. Quelle est la raison pour ça?
Vidéo promotionelle:
- Je peux en dire plus - les principes mêmes d'organisation de ces réseaux sont apparus encore plus tôt, dans les années 60 du siècle dernier, et ils ont finalement été formalisés sous une forme mathématique dans les années 80 et 90. Depuis, ils n'ont pas vraiment changé. La seule raison pour laquelle leur renaissance se produit actuellement est que les ordinateurs sont devenus nettement plus rapides ces dernières années et que nous avons la possibilité d'augmenter leur puissance à moindre coût.
Dans les années 90 et au début des années 2000, nous ne comprenions pas cela, et les réseaux de neurones étaient donc considérés à l'époque comme un jouet intéressant mais inutile. Mais en réalité, ils n'avaient tout simplement pas assez de ressources informatiques pour faire quelque chose d'utile. Lorsque les volumes de données et les ressources de calcul étaient faibles, des approches mathématiques simples les utilisaient plus efficacement que les réseaux de neurones.
Avons-nous d'abord réalisé que les réseaux profonds et l'apprentissage automatique pouvaient être utiles? vers 2010 ou 2011, et il nous a fallu environ cinq ans pour tester cette idée et prouver qu'elle l'était. Maintenant, chaque personne dans l'industrie comprend qu'il en est ainsi et s'efforce dans ce sens.
Chaque année notre civilisation produit de plus en plus de données dont le traitement sera bientôt impossible sans l'utilisation de l'intelligence artificielle. L'humanité pourra-t-elle se développer davantage, comme le croient les adversaires de l'IA, sans utiliser de tels systèmes?
- Je ne pense pas que l'intelligence artificielle ou l'apprentissage automatique puissent être quelque chose de bon ou de mauvais - c'est juste un ensemble de nouvelles technologies, la manière d'utiliser qui dépendra uniquement de nous-mêmes. En tant que société, nous devons décider pour quoi et comment ils seront appliqués - par exemple, nous pouvons les abandonner complètement pour une raison éthique ou politique.
Je pense personnellement qu'une telle solution serait extrêmement inefficace et similaire à celle si nous interdisions les machines à coudre automatiques et forçions toutes les usines à coudre les vêtements à la main. Au lieu de cela, nous devons comprendre où leur utilisation apportera de réels avantages et s'alignera sur nos valeurs.
Et il me semble qu'il existe d'innombrables domaines dans lesquels l'utilisation à la fois de l'IA et de l'apprentissage automatique apportera d'énormes avantages à la société, dont nous ne pouvons toujours pas imaginer.
Google utilise aujourd'hui des réseaux de neurones dans le travail de Google Translate, Google Image Search et de nombreux autres produits. Où la principale percée dans leur application sera-t-elle réalisée dans un proche avenir?
- Quand les gens parlent du développement de l'intelligence artificielle, ils imaginent souvent quelque chose de très impressionnant, ce qui n'est vraiment pas. Vous devez comprendre que nous essayons simplement de rendre les machines moins stupides qu'elles ne le sont aujourd'hui et de les faire interagir avec les humains de la manière la plus naturelle.
De plus, l'intelligence artificielle nous permet de corriger les erreurs des machines et de leur faire apprendre de ces erreurs. Il y a une sorte de dialogue entre l'homme et la machine.
J'espère que dans les dix prochaines années, nous aurons un système, fonctionnant peut-être sur les téléphones et autres appareils mobiles, qui interagira dynamiquement avec le propriétaire et tiendra compte de ses caractéristiques de personnalité et de certains souhaits spécifiques.
Par exemple, vous demandez à un tel assistant de vous aider à atteindre un point sur la carte. Lorsqu'il vous propose un itinéraire, vous pouvez lui demander de le placer plus près du parc ou de répondre à d'autres souhaits, et le système vous comprendra et réalisera vos souhaits. Nous voulons que la communication avec de tels systèmes soit aussi naturelle que possible pour une personne.
Ces dernières années, les scientifiques ont de plus en plus parlé de la création de systèmes d'intelligence artificielle auto-améliorés, que de nombreux scientifiques sérieux, par exemple Stephen Hawking, considèrent comme très dangereux pour l'homme. Est ce que c'est vraiment?
- En fait, l'intelligence artificielle auto-améliorante n'a pas encore été créée. D'un point de vue technique, il est possible qu'un jour de tels systèmes apparaissent, mais ils n'existent pas encore, et il est peu probable qu'ils apparaissent dans un avenir prévisible.
Par exemple, il existe aujourd'hui des robots qui travaillent sur des chaînes de montage et assemblent des machines et d'autres dispositifs techniques complexes. Ces robots ont été assemblés sur la même ligne avec la participation des mêmes robots, mais cela ne signifie pas que les robots se sont améliorés. Il en va de même pour les technologies d'apprentissage automatique: nous les utilisons pour analyser des données, y compris d'autres systèmes d'intelligence artificielle, mais elles ne peuvent toujours pas s'améliorer sans la créativité humaine.
Le système AlphaGo, par exemple, est capable d'une forme très limitée d'auto-apprentissage, mais il ne peut pas changer radicalement son architecture et se rendre radicalement différent, par exemple adapté pour résoudre d'autres problèmes. Ce qui existe aujourd'hui n'est qu'une petite partie de ce qui doit être fait pour créer des systèmes d'auto-apprentissage, et le reste du chemin n'est pas encore couvert.
Par conséquent, je pense personnellement que la création de l'intelligence artificielle aujourd'hui ressemble de plus en plus à l'art qu'à l'ingénierie ou à la science, et les leaders de notre industrie se surprennent souvent eux-mêmes et leurs collègues avec leurs découvertes et découvertes inattendues. De manière générale, on peut dire qu'aujourd'hui la création de l'IA est la prérogative exclusive de l'homme.
Ces systèmes peuvent-ils être utilisés pour résoudre les tâches les plus inhabituelles - par exemple, comme «cerveau» pour des rovers ou des sondes qui étudieraient indépendamment des planètes et des mondes éloignés?
- En principe, cela est tout à fait possible, et il me semble qu'à l'avenir, l'intelligence artificielle sera utilisée pour mener des recherches dans l'espace ou sur le fond des océans, où le contrôle direct de la technologie est impossible pour une raison ou une autre. Les systèmes d'IA aideront ces rovers ou robots à résoudre certaines tâches de routine et à éviter les dangers, mais de véritables recherches scientifiques seront toujours menées par des humains.
Seule une personne peut définir des tâches scientifiques spécifiques et déterminer comment les résoudre. Nous pouvons dire au robot - "approchez-vous de ce cratère et essayez d'y trouver des roches blanches", mais le robot lui-même, en principe, ne peut pas comprendre pourquoi ces roches nous intéressent. L'homme définit très bien les tâches et cherche des moyens de les résoudre, et les machines n'ont pas encore une telle opportunité. Dans ce cas, les robots ne peuvent être que des assistants, mais pas des chercheurs.
Cette question est directement liée au fait que beaucoup de gens ne comprennent pas ce qu'est l'intelligence artificielle et pensent que les scientifiques créent un analogue complet d'une personne avec son esprit, ses sentiments et d'autres caractéristiques. Pourquoi cela arrive-t-il?
- Il me semble que c'est une conséquence du fait que les gens ne comprennent pas du tout pourquoi l'intelligence artificielle existe. Ils croient que nous créons des machines comme les humains. Je rejette complètement cela et dis que nous le créons non pas pour remplacer une personne, mais pour compléter ses capacités.
Par exemple, j'utilise un ordinateur tous les jours, et il y a des choses que je peux faire par moi-même - ajouter ou multiplier des nombres. L'ordinateur le fait plus rapidement et je l'apprécie aussi pour cette raison. En conséquence, je peux effectuer la «division du travail» en transmettant les calculs à l'ordinateur et faire plus que ce que j'aurais pu faire sans son aide. Et cela, me semble-t-il, est l'essence même de l'intelligence artificielle.
L'idée de créer un analogue complet d'une personne, me semble-t-il, est enracinée dans la science-fiction ou la philosophie. Les philosophes se demandent depuis longtemps si nous pouvons créer des machines qui ressemblent à des humains, mais cette question n'a rien à voir avec la question de savoir si de telles «personnes artificielles» nous seront utiles et si cela est possible du tout.
Par conséquent, du point de vue de la pratique, il vaut mieux créer une intelligence qui complétera notre propre esprit et élargira ses capacités, et non la copier.
Il existe déjà aujourd'hui des systèmes similaires aux machines à pilote automatique, dans lesquels la vie humaine dépend des actions de l'intelligence artificielle. Avons-nous besoin de créer des normes juridiques fondamentalement nouvelles pour définir la responsabilité et qui sera responsable des actions de l'IA?
- C'est une question très importante. Permettez-moi de souligner tout de suite que je ne suis pas avocat, mais il me semble qu'il y a eu des exemples de problèmes similaires dans le passé. Par exemple, pendant de nombreux siècles, il existe des lois qui déterminent qui est responsable du fait que le cheval de quelqu'un a donné un coup de pied à un étranger, qu'un chien a attaqué un étranger, une machine s'est cassée et blessé un travailleur, ou tout autre incident s'est produit.
Il me semble que nous devons utiliser cette expérience pour déterminer la responsabilité du comportement des systèmes d'intelligence artificielle. En conséquence, il ne reste plus qu'à discuter de la manière dont nous pouvons adapter ces principes pour déterminer comment nous allons interagir avec les machines autonomes et autres appareils de ce type.
Cette discussion, j'en suis plus que sûr, sera très chaude et longue, mais il me semble qu'elle ne nécessitera pas l'introduction de normes et principes juridiques complètement nouveaux. Bien sûr, certaines personnes suggèrent de considérer les systèmes d'IA comme des «personnalités» et ainsi de suite, mais pour moi personnellement, c'est quelque chose de très étrange et incompréhensible.
Les futurologues et certains de vos collègues prédisent que le développement ultérieur de l'IA laissera de nombreuses personnes occupées à un travail qualifié mais routinier - comptables, chauffeurs, fonctionnaires - sans travail. Ce problème existe-t-il et comment le résoudre?
- Bien sûr, ce problème existe. Mes parents et grands-parents étaient comptables, et ma grand-mère a commencé avec un stylo et du papier pour finir avec des calculatrices, et ma mère est passée des calculatrices aux feuilles de calcul sur ordinateur. Tous ces changements ont radicalement changé la façon dont les comptables travaillent, mais l'essence même de la profession n'en a pas changé - les comptables n'ont pas disparu, mais en même temps ils ont commencé à travailler mieux, plus vite et mieux.
Il me semble que quelque chose de similaire se produira avec l'intelligence artificielle. Le contenu de nombreuses professions changera, mais leur essence restera la même, certaines d'entre elles pourront même disparaître, mais un tel sort ne s'abattra que sur une petite partie d'entre elles.
En outre, quelque chose de similaire pourrait se produire, ce qui est arrivé dans le domaine de la conception Web à la fin des années 1990 - avant l'avènement et la diffusion d'Internet, personne n'aurait pu imaginer que quiconque pouvait faire de telles choses. D'un autre côté, il est insensé et erroné d'aborder cette question à la légère et de penser que rien ne changera. Vous devez comprendre que ces technologies changeront le monde, que vous devrez vous y adapter et aider les autres à s'y adapter.
