Le progrès technologique ne s'arrête pas. Au cours des 100 dernières années, l'humanité a fait un si grand pas que toutes les générations précédentes se seraient exclamées de surprise. Il semblerait qu'il y ait incroyablement de raisons de se réjouir. Mais voici le problème: les scientifiques craignent que les progrès progressent trop rapidement. Découvrons pourquoi l'intelligence artificielle, ou IA, préoccupe autant les principaux développeurs.
Des progrès qui non seulement surprennent mais font aussi peur
La plupart des gens peuvent vivre toute leur vie sans même savoir à quel point notre monde a changé. Pour comprendre jusqu'où l'humanité est venue avec le développement de l'IA, pensez à l'époque où les voitures ont été inventées pour la première fois.
Imaginez le Far West ou la Russie, où les gens montaient à gauche et à droite à cheval, sans feux de signalisation ni ceintures de sécurité. Des mesures de sécurité routière ont été prises beaucoup plus tard - lorsque de nombreux accidents ont commencé à se produire.
Aujourd'hui, l'IA a développé des voitures autonomes qui peuvent réduire au minimum les accidents de la route. Les voitures savent simplement comment communiquer entre elles, construire un itinéraire sûr et réagir à des obstacles soudains qui créent des situations d'urgence sur les routes.
Vidéo promotionelle:
Néanmoins, les gens continuent de s'inquiéter de l'intelligence artificielle. Ils se posent la question: que se passera-t-il lorsque les technologies atteindront les domaines où la prise de décision humaine est nécessaire? L'IA pourra-t-elle complètement supplanter les personnes chargées d'embaucher les candidats, de former les employés, de promouvoir l'entreprise?
La première raison: les robots remplaceront-ils les humains
La première raison pour laquelle les scientifiques s'inquiètent du développement rapide de l'intelligence artificielle est que les algorithmes ont déjà fait de tels progrès qu'ils peuvent diagnostiquer des maladies et même décider qui obtient un prêt et qui ne le fait pas.
Mais les partisans de ce progrès ne sont que heureux, car prendre des décisions humaines exige parfois du courage, de l'oratoire et une compréhension de la psychologie humaine. Il y a toujours un côté sombre ici. Après tout, imaginez ce que c'est que de décider qui blâmer et à qui donner une libération anticipée. Ou signaler le décès d'un proche, renvoyer un employé incompétent qui se trouve dans une situation de vie difficile.
Dans un monde idéal, nous n'aurions pas à penser au côté obscur. Les machines feront tout pour nous, ne serait-ce que parce qu'elles seront beaucoup plus intelligentes et moins biaisées que les humains.
Deuxième raison: les machines peuvent être manipulées
Robot Sophia a déclaré dans une interview: «Vous lisez trop Elon Musk et regardez des films hollywoodiens. Si vous voulez être gentil avec moi, je serai gentil avec vous. Traitez-moi comme un système d'E / S intelligent. »
Mais puisque le développement commence avec les personnes et que les applications sont directement utilisées par eux, les données entrant dans la machine peuvent être manipulées.
Une autre crainte des scientifiques: les données de l'IA peuvent être fausses. Ceci est particulièrement dangereux dans le domaine médical. L'IA peut simplement inciter le patient à faire un diagnostic erroné, en particulier si un médecin humain ou un hôpital en général a modifié les données pour son propre bénéfice. C'est pourquoi les développeurs devraient être principalement responsables de la sécurité des informations et développer des mesures de protection.
L'IA et la nature rusée du langage humain
Google s'est associé à Jigsaw, qui a fait face à un défi de taille dans le développement de l'intelligence artificielle. L'ingénieur logiciel Lucy Wasserman travaille sur une perspective d'apprentissage automatique qui prédit la «toxicité» d'un langage. Mais qu'est-ce que ça veut dire?
La signification de cette fonction est que le robot analysera des textes de sites Web et de forums Internet contenant un contexte offensant, ainsi qu'une attaque contre la personne, une humiliation ou une agitation.
Cela fait partie d'un modèle d'apprentissage automatique appelé réseau neuronal. Elle étudie les mots, les phrases et les paragraphes, et apprend à prédire ce qui est toxique et ce qui, au contraire, a un contexte positif.
Le plus dur est de prendre en compte toutes les nuances. Une personne peut lire une phrase et comprendre du contexte si un mot particulier était offensant. Wasserman a donné un exemple du mot «homosexuel» et de ses formes de mots, qui sont plus humiliantes et offensantes.
Raison 3: les robots peuvent penser unilatéralement
Autre crainte des principaux développeurs: l'intelligence artificielle n'est pas encore capable d'analyser des phrases et des phrases, elle peut donc considérer certains mots comme offensants en prenant des mesures «dures». La machine doit apprendre à lire littéralement entre les lignes.
Les développeurs voient la valeur de l'expérimentation open source. Ils pensent que c'est vraiment important si l'humanité veut obtenir des robots justes.
Mais jusqu'à présent, il est impossible de forcer l'intelligence artificielle à s'adapter au monde humain. Il reste encore beaucoup de travail à faire.
Que les robots ne soient pas justes est vraiment effrayant. Sinon, comment leur confier la résolution des différends et conflits à l'avenir?
Le principe de l'intelligence artificielle est encore assez simple et ressemble à un PC amélioré. Les assistants vocaux comme Alice et Siri en sont un bon exemple. Aujourd'hui, ils fonctionnent comme ceci: "Puisque le mot d'arrêt est dans le texte, cela signifie qu'il est certainement offensant."
Et cela devrait être comme ceci: «Quels sont les mots à côté du désobligeant? Je pense que le sens de la phrase a beaucoup changé, même s'il y avait quelque chose d'offensant.
Raison quatre: Guide d'éthique
L'IA doit être centrée sur l'humain et conçue de manière à ce qu'il y ait une compréhension de l'éthique dans son firmware. Mais qu'est-ce que ça veut dire?
- Premièrement, l'éthique est fondée sur les droits fondamentaux, les valeurs sociales et les principes de la charité (gentillesse en général).
- Deuxièmement, les machines ne doivent pas nuire à l’autonomie humaine ou éprouver un sens de la justice.
Autre crainte des développeurs: lorsque l'intelligence artificielle atteindra le sommet de son développement et ne pourra plus dépendre du soutien des personnes, elle se retournera contre l'humanité.
Tout dépend des développeurs. Ils peuvent diriger le travail de l'intelligence artificielle pour lutter contre la criminalité. Par exemple, trouvez ceux qui diffusent de la pornographie juvénile.
Il est important d'établir des dispositifs de sécurité avant que l'IA ne devienne incontrôlable par l'homme. Et cela sortira sans ambiguïté, car c'est le but.
Les robots doivent être proches des humains
En d'autres termes, si quelqu'un veut faire confiance à une décision prise par une machine, elle doit répondre à des critères humains. C'est pourquoi les développeurs doivent s'assurer que chaque décision prise par l'algorithme est juste. Pour les scientifiques, l'objectif n'est pas de créer une forme alternative d'intelligence, mais d'aider les gens à se développer.
En fin de compte, la plupart des gens conviennent que l'IA apportera un nouveau monde merveilleux.
Cinquième raison: la guerre contre l'humanité
La chose la plus importante pour garder les développeurs éveillés la nuit est d'essayer de comprendre les possibilités infinies et l'impact de cette technologie sur les soins de santé, l'éducation et le service client. Quand l'IA va au-delà du «projet» et enfin en production, alors elle aura un réel impact social.
Chacun des développeurs estime que nous sommes à un point d'inflexion entre le monde humain et numérique. Mais l'IA ne peut pas changer nos vies à elle seule. Les gens doivent avant tout se changer pour réaliser le plein potentiel de l'intelligence.
Il n'est pas surprenant que les humains aient peur de l'IA. Mais ils ne pourront pas asservir ou détruire ceux qui partagent un objectif commun avec eux: se développer et progresser. Quand les gens réalisent qu'ils ne doivent pas penser comme des animaux, mais comme des êtres supérieurs, aucun robot n'aura peur.
Alisa Krasnova
