"The Rise of the Machines", "The Terminator Returns" … Beaucoup de science-fiction est construite sur le fait que les ordinateurs deviennent si intelligents qu'ils comprennent qu'ils seront mieux sans personne. Contes de fées? Comment regarder. D'ici 2050, un ordinateur domestique typique sera en mesure de traiter autant d'informations que toutes les personnes sur terre réunies.
Mais 2050 est à condition que les machines se développent progressivement. Cela ne fonctionne pas de cette façon. Notre relation avec le monde électronique progresse à pas de géant. Une fois - une souris était attachée à la voiture. Une fois - Internet est apparu. Une fois - il y avait des smartphones avec des tablettes.
La prochaine percée arrive lorsque l'ordinateur peut comprendre les gens. Les smartphones ont déjà des applications comme Siri et Cortana qui peuvent avoir une conversation simple avec nous. Mais le problème est que l'ordinateur comprend, non ce que nous disons, mais ce que nous voulons dire! L’exemple le plus simple: la phrase «Il m'a quitté», prononcée par une femme tachée de larmes et le chef d’un homme a des significations complètement différentes.
Donc: dès que les machines apprendront à reconnaître les nuances de la parole humaine, d'une part, nos mains seront déliées au sens littéral et figuré. J'ai parlé à l'ordinateur et il a tout fait. D'un autre côté, ne nous approchons-nous pas d'une ligne dangereuse, supprimant la dernière barrière de communication entre les gens et le fer sans âme?
J'ai longtemps voulu en parler avec un scientifique renommé, directeur de la recherche linguistique à ABBYY, chef des départements de linguistique computationnelle à l'Université d'État russe pour les sciences humaines et à l'Institut de physique et de technologie de Moscou, Vladimir Selegey. Mais quand je lui ai fait part de mes peurs apocalyptiques, il a froncé les sourcils.
«Oui, la science-fiction regorge de sombres prédictions sur la façon dont les machines entraînées par l'homme s'en passeront. Mais je ne comprends pas pourquoi une augmentation de la quantité de connaissances intégrées dans les programmes incitera un ordinateur à prendre des décisions sans demander la permission à une personne?
En fait, le problème n'est pas que l'ordinateur apprendra à se passer des gens, mais que les gens voudront se passer d'eux-mêmes lorsqu'ils résolvent certains problèmes. Voici Tchernobyl …
Vidéo promotionelle:
Et qu'est-ce que Tchernobyl a à voir avec ça?
- Un réacteur nucléaire est un modèle physique très complexe. Il semble que tous les paramètres de contrôle du réacteur soient connus, que tout obéisse à des lois physiques strictes et que la prise de décision puisse être entièrement confiée à l'ordinateur. Mais…
En 1986, une semaine après l'accident, j'ai participé à un séminaire sur l'utilisation de l'intelligence artificielle dans l'industrie. Même alors, il était clair qu'en confiant la prise de décision à un ordinateur, nous courions un risque sérieux. Il est courant que les programmes contiennent des erreurs. Même les satellites ont des problèmes logiciels.
Autrement dit, une personne est plus fiable qu'un ordinateur, bien qu'elle "pense" beaucoup plus vite?
- Une personne, en plus de tout le reste, a de la motivation. Il résout ses problèmes - éducation, procréation, carrière, il sait se sentir …
Mais un programmeur rusé peut-il écrire un programme qui enseignerait à une machine d'agression …
- Vous pouvez essayer de fabriquer, par exemple, un robot militaire qui prendra des décisions par lui-même, en analysant ce qu'il voit et entend. Et ce sera très dangereux. Mais pas parce que le robot aura soudainement envie de détruire, comme l'écrivent les écrivains de science-fiction. Mais en raison de l'erreur d'un programmeur, la négligence de certains facteurs peut conduire à un comportement imprévisible du robot.
Mais jusqu'à présent, nous sommes très loin de la capacité de créer des programmes d'auto-apprentissage capables de générer des connaissances complètement nouvelles. En gros, passez indépendamment de la table de multiplication à la capacité de résoudre des équations complexes.
Dans la seconde moitié du XXe siècle, les prédictions futuristes dans le domaine de la science étaient très populaires. Tout sur l'intelligence de l'ordinateur est entré dans le lait. Personne n'a prédit Internet, l'incroyable liberté d'accès à l'information, aux téléphones portables. Mais tout le monde parlait d'ordinateurs pensants.
Par exemple, à la fin des années 60, notre premier système d'échecs KAISA s'est comporté avec succès au championnat du monde d'ordinateurs. On croyait que pour qu'une machine batte une personne, il était nécessaire de simuler les algorithmes d'un jeu humain. Pour poser l'esprit, l'intellect, l'intuition très mystérieuse qui pousse le joueur d'échecs à prendre les bonnes décisions.
Aujourd'hui, l'ordinateur bat une personne. Mais il n'a jamais appris l'intuition. Un milliard de parties jouées, toute l'expérience du jeu, toutes les décisions qui ont jamais été prises par les joueurs d'échecs ont été chargées dans sa mémoire. Et ils leur ont appris à l'utiliser lors du choix du plan de match optimal, leur fournissant une vitesse de dénombrement et d'évaluation des options extrêmement rapide. L'ordinateur bat les champions du monde, mais n'en tire aucun plaisir. Tout est complètement différent des gens.
Mais vous faites partie de ceux qui apprennent juste à l'ordinateur à "tourner la tête"
- Nous essayons seulement d'apprendre aux programmes à «comprendre» les textes afin qu'ils puissent en extraire des informations, les accumuler et les généraliser. Pour que les gens reçoivent des connaissances filtrées, sélectionnées parmi des milliards de sources. C'est très difficile, car une personne elle-même ne sait pas très bien comment s'organise sa capacité linguistique, sur laquelle repose sa compréhension des autres.
La traduction automatique statistique est désormais populaire. L'ordinateur ne comprend pas du tout en quoi consiste le texte traduit, il sait juste trouver les variantes les plus probables de la traduction de petits fragments (en quelques mots), en analysant les énormes volumes de traductions humaines stockées dans sa mémoire. En général, le texte est clair. Mais il serait frivole de prendre une décision responsable sur la base d'une telle traduction.
D'accord, l'ordinateur peut-il traduire mes instructions?
- Instructions? Est-ce dangereux.
- Oui à un simple réfrigérateur!
- Même au réfrigérateur! J'aimerais que nos programmes traduisent, en essayant de comprendre le texte, en choisissant entre des options basées sur les connaissances, et pas seulement parce que cette correspondance se trouve le plus souvent dans notre base de données.
D'accord, disons que vous avez résolu le problème et créé un système grâce auquel les ordinateurs apprendront à comprendre les nuances de notre discours et même à le traduire précisément dans une autre langue. Et puis un nouveau danger menace les gens - il n'y aura pas besoin de réfléchir. Il n'y aura pas besoin d'entraîner la mémoire, le cerveau. Besoin d'informations - s'il vous plaît, Wikipedia. Vous devez parler à un étranger - traducteur …
- Plus le niveau d'intelligence et de connaissance d'une personne est élevé, plus le prochain «assistant intelligent» lui sera utile. Et le plus bas, plus les opportunités semblent ne pas penser du tout. Les technologies informatiques conduisent à la polarisation de la société. En gros, l'avènement de la calculatrice n'a pas conduit à la dégénérescence des mathématiciens. Mais chez certains des écoliers, évidemment, il y a eu une diminution du niveau déjà bas de capacités.
- Vous savez, pour moi, un indicateur sérieux d'une baisse du niveau d'éducation est le nombre de personnes qui écrivent de manière analphabète ou sont incapables d'exprimer leurs pensées et leurs sentiments sans utiliser le compagnon
- Oui, les gens ont commencé à écrire avec moins de compétence. Tout simplement parce que, en général, il y a moins de lecture de textes édités et beaucoup plus de telles ressources où l'orthographe est très floue. Est-ce que cela a rendu les gens plus stupides? Probablement pas.
Voyez-vous un lien entre le fait qu'une personne exprime de manière illettrée ses pensées dans sa langue maternelle et le fait qu'elle est devenue plus stupide?
«Je n'irais pas aussi loin. Bien que cela soit évident: parce que les enfants ont commencé à moins lire, certains problèmes se sont posés avec le transfert des connaissances et de la culture entre les générations. C'est un problème. Aujourd'hui, nous voyons qu'un écolier moderne avec le même niveau de notes qu'il y a 30 ans connaît moins bien la littérature.
Ici! …
«… Mais d'un autre côté, il connaît beaucoup d'autres choses beaucoup mieux, que personne ne pensait pouvoir savoir.
Est-ce un processus naturel?
- Oui. De plus, pour la première fois dans l'histoire de l'humanité, le savoir ne peut pas être transféré des anciens aux plus jeunes, comme cela s'est produit pendant des siècles. Il y a eu un transfert de connaissances des plus jeunes vers les aînés, ce qui n'était auparavant pas du tout caractéristique de la culture humaine. Un enfant apprend à papa ou maman à travailler sur un ordinateur, avec un téléphone portable, est une source de connaissances diverses pour ses parents. Et encore plus d'enfants voyagent à travers le monde. Très souvent, ils sont une source de connaissances géographiques et culturelles.
Écoutez, mais ici, tout a commencé avec les ordinateurs. Ils ont libéré les gens même du besoin de mémoriser les règles élémentaires de la grammaire
- Juste au début des années 90, j'ai travaillé dans une équipe qui a développé l'un des premiers systèmes de vérification orthographique pour la langue russe. Cela a-t-il été utile ou nuisible? Très utile de mon point de vue. Ce système a permis une création de documents plus rapide. Et puis tout dépend du niveau de responsabilité de la personne. Qui a dit qu'après la voiture, il n'était pas du tout nécessaire de faire un contrôle? Le système ne fait que le rendre beaucoup plus efficace.
Mais on fait confiance à l'ordinateur
- Cela signifie seulement que la personne qui a réalisé le programme ne vous a pas informé qu'il existe de nombreux phénomènes que la machine ne peut pas vérifier. Négociation, par exemple.
Les nouvelles technologies, hélas, conduisent souvent à la perte des compétences traditionnelles. J'ai fait des réparations dans l'appartement. Je voulais installer des fenêtres en bois, qui avaient été installées auparavant. Mais cela s'est avéré impossible. Tous installent des fenêtres à double vitrage. Les gens, hélas, arrêtent de faire beaucoup de choses avec leurs mains. Que faire, c'est comme ça que la vie fonctionne. Malheureusement.
Alors vous êtes conformiste?
- Ne pas. Je pense que faire des choses absolument nuisibles n'est pas bon. Mais lorsque vous avez à la fois des gains et des pertes, vous devez évaluer les risques … Si vous fabriquez de la drogue, vous ne pensez pas que non seulement les bonnes personnes, mais aussi les mauvaises survivront du fait de leur utilisation.
Dans notre cas, parallèlement au développement des technologies, il est nécessaire de s'engager dans la formation de ceux qui les utilisent. Les conséquences négatives des nouvelles technologies se reflètent principalement sur ceux qui ne font pas très bien leur travail à quelque niveau technologique que ce soit.
Prenez la médecine, par exemple. Nous voulons aider le médecin à prendre une décision, nous faisons un système informatique expert basé sur l'analyse d'un grand nombre de diagnostics fiables faits par les meilleurs médecins. Cela donne à un professionnel la possibilité de se tourner vers un plus grand volume de connaissances que lui-même. Mais la décision finale est la sienne, pas l'ordinateur! Pour un mauvais médecin, tout est différent - il aura confiance en ce qu'il ne peut pas vérifier de manière fiable. Mais en moyenne, avec l'avènement de ces technologies, il me semble que la médecine s'améliore encore, pas en pire.
Eh bien, nous étions convaincus que le système intellectuel de compréhension d'une personne par un ordinateur offrira plus que de mal. Mais quand apparaîtra-t-elle?
- C'est une tâche très difficile qui ne peut être résolue immédiatement. Il est nécessaire d'enseigner les connaissances informatiques sur le langage et les connaissances sur le monde, les méthodes d'inférence et la comparaison des valeurs. Quelque chose que nous savons faire maintenant, quelque chose prendra des années. Par exemple, nous avons besoin de données fiables sur l'utilisation de la langue, tenant compte des différences individuelles et sociales. Et ces différences sont très importantes. Par exemple, nous avons réalisé un projet spécial consacré aux différences régionales dans la langue russe. A rassemblé un dictionnaire, dans lequel près de 10 mille mots, qui sont la norme pour les résidents de certaines régions de notre pays seulement
Qui sommes nous?
- Il s'agit d'un projet commun appelé Langues des villes russes, impliquant des spécialistes ABBYY, des linguistes, des passionnés de différentes régions de Russie et des russophones de l'étranger. Nous avons analysé le langage des médias régionaux, des réseaux sociaux, des décrets et des décisions des autorités locales. Et ce n'est qu'une petite partie des connaissances qui doivent être enseignées à un ordinateur!
Quelle est la différence fondamentale entre votre approche de la traduction et les systèmes que Google utilise, par exemple?
- Les systèmes statistiques ne construisent pas de structures linguistiques. Ils recherchent des correspondances de traduction pour de petits fragments de 5 à 7 mots. Mais la langue est tellement agencée que très souvent les mots liés sont situés beaucoup plus loin, et si cette connexion n'est pas prise en compte, des erreurs surviennent. Mais très souvent, de tels détails sont importants dans la traduction, dont la négligence peut complètement changer le sens. Pour tout prendre en compte, il est nécessaire d'identifier lors de l'analyse l'ensemble du système de connexions linguistiques entre les mots, ce qu'on appelle la structure d'une phrase. Nous ne traduisons pas des morceaux de phrases d'une langue à une autre, nous essayons d'identifier la structure sémantique de la phrase, puis de synthétiser cette structure au moyen d'une autre langue.
Mais ces structures sémantiques sont utilisées non seulement et pas tant à des fins de traduction automatique. Ils sont également nécessaires pour résoudre efficacement les problèmes de recherche intelligente et d'analyse des informations, qui sont aujourd'hui plus importants pour ABBYY en tant que société commerciale. Par exemple, les premières solutions récemment publiées pour le marché des entreprises sont basées sur ces technologies: elles vous permettent simplement de rechercher et d'analyser des données dans l'énorme flux d'informations stockées dans les organisations.
Et quelle langue, de votre point de vue, est la plus difficile à comprendre?
- Il est généralement admis que les plus difficiles sont les langues dans lesquelles vous devez apprendre plus de règles. Mais dans le cas de la compréhension informatique, ce n'est pas le cas.
Quelque chose qui est difficile pour une personne, par exemple, un système d'inflexion riche en russe ou en lituanien, simplifie la tâche d'un ordinateur à certains stades d'analyse.
Par exemple, la langue chinoise est très difficile car elle ne contient aucune morphologie, d'où la grande ambiguïté à laquelle l'ordinateur est confronté. Par conséquent, pour l'analyse informatique de la langue chinoise, il est très important d'utiliser des connaissances sur le monde, plus importantes que, par exemple, lors de l'analyse de langues à morphologie développée.
Nous avons réussi à travailler avec le russe, l'allemand, l'anglais, le français, l'espagnol, le chinois. L'analyse linguistique est divisée en étapes. Certaines étapes ont une spécificité, des difficultés pour une langue, d'autres pour une autre. Mais en substance, les technologies avec lesquelles nous travaillons sont applicables à toutes les langues.
A votre avis, quand viendra le jour où nous pourrons recevoir une traduction rapide et compréhensible sur ordinateur en parallèle de notre conversation. Disons que nous parlons maintenant, et obtenir immédiatement une transcription de notre conversation en espagnol?
- Ce sera possible très bientôt. Je ne pense pas que dans deux ans. Mais … Que faut-il pour résoudre ce problème? Nous devons améliorer nos systèmes d'analyse de la parole. Nous ne pouvons pas encore prendre une conversation spontanée, la séparer du bruit et obtenir le texte souhaité. Et il y a des progrès dans ce sens chaque année.
Mais il y aura tout de même de telles choses que la machine ne peut pas interpréter sans ambiguïté. Et ici, la précision de la compréhension et de la traduction dépendra de la disponibilité du système de connaissances sur le monde, des mécanismes d'inférence logique.
Mais dans tous les cas, le danger d'une confiance totale dans un tel programme demeurera. C'est une erreur de penser que, disons, dans cinq ans, vous pouvez dicter une lettre à un ordinateur, il la traduira, l'enverra à votre partenaire commercial, et tout ira bien. Personne ne garantit que la machine ne manquera pas le "pas" quelque part ou ne fera pas d'autres erreurs, après quoi votre relation commerciale peut être considérée comme terminée.
Autrement dit, une personne en tant que contrôleur devrait toujours l'être?
- Certainement. Faire confiance aveuglément à la technologie est dangereux.
