Quelle est la différence entre une personne et un programme. Les réseaux de neurones, qui constituent désormais la quasi-totalité du domaine de l'intelligence artificielle, peuvent prendre en compte beaucoup plus de facteurs dans la prise de décision qu'une personne, le faire plus rapidement et dans la plupart des cas avec plus de précision. Mais les programmes ne fonctionnent que tels qu'ils ont été programmés ou enseignés.
Ils peuvent être très complexes, prendre en compte de nombreux facteurs et agir de manière très variée. Mais ils ne peuvent toujours pas remplacer une personne dans la prise de décisions. En quoi une personne diffère-t-elle d'un tel programme? Il y a 3 différences clés à noter ici, dont toutes les autres découlent:
- Une personne a une image du monde, ce qui lui permet, en termes d'informations, de compléter l'image avec des données qui ne sont pas prescrites dans le programme. De plus, l'image du monde est structurellement arrangée de telle manière qu'elle nous permet d'avoir au moins une idée de tout. Même si c'est quelque chose de rond et qui brille dans le ciel (OVNI). Habituellement, à cette fin, des ontologies sont construites, mais les ontologies n'ont pas une telle complétude, prennent mal en compte la polysémie des concepts, leur influence mutuelle, et ne sont jusqu'à présent applicables que dans des sujets strictement limités.
- Une personne a une logique qui prend en compte cette image du monde, que nous appelons le bon sens ou le bon sens. Toute déclaration a un sens et tient compte des connaissances non déclarées cachées. Malgré le fait que les lois de la logique ont plusieurs centaines d'années, personne ne sait encore comment fonctionne la logique ordinaire, et non mathématique, du raisonnement. Nous ne savons pas vraiment comment programmer des syllogismes, même ordinaires.
- Arbitraire. Les programmes ne sont pas arbitraires. C'est peut-être la plus difficile des trois différences. Qu'est-ce que nous appelons l'arbitraire? La capacité de construire un nouveau comportement différent de ce que nous avons réalisé dans les mêmes circonstances auparavant, ou de construire un comportement dans de nouvelles situations non rencontrées auparavant. C'est, en substance, la création d'un nouveau programme de comportement à la volée sans essais et erreurs, en tenant compte des circonstances nouvelles, y compris internes.
L'arbitraire est encore un domaine inexploré pour les chercheurs. Les algorithmes génétiques capables de générer un nouveau programme de comportement pour les agents intelligents ne sont pas une option, car ils génèrent une solution non logiquement, mais au moyen de «mutations» et la solution est trouvée «par hasard» lors de la sélection de ces mutations, c'est-à-dire par essais et erreurs. Une personne trouve immédiatement une solution, la construisant de manière logique. La personne peut même expliquer pourquoi une telle décision a été choisie. L'algorithme génétique n'a aucun argument.
On sait que plus un animal est haut sur l'échelle évolutive, plus son comportement peut être arbitraire. Et le plus grand arbitraire est montré chez une personne, car une personne a la capacité de prendre en compte non seulement des circonstances externes et ses compétences acquises, mais également des circonstances cachées - des motifs personnels, des informations précédemment rapportées, les résultats d'actions dans des circonstances similaires. Cela augmente considérablement la variabilité du comportement humain et, à mon avis, la conscience y est impliquée. Mais plus là-dessus plus tard.
Conscience et arbitraire
Qu'est-ce que la conscience a à voir avec cela? En psychologie comportementale, on sait que nous effectuons des actions habituelles automatiquement, mécaniquement, c'est-à-dire sans la participation de la conscience. C'est un fait remarquable, ce qui signifie que la conscience est impliquée dans la création d'un nouveau comportement, est associée à l'orientation du comportement. Cela signifie également que la conscience est connectée exactement quand il est nécessaire de changer le modèle de comportement habituel, par exemple pour répondre à de nouvelles demandes, en tenant compte de nouvelles opportunités. En outre, certains scientifiques, par exemple Dawkins ou Metzinger, ont souligné que la conscience est en quelque sorte liée à la présence d'une image d'eux-mêmes chez les personnes, que le modèle du monde comprend le modèle du sujet lui-même. À quoi devrait alors ressembler le système lui-même, qui aurait un tel arbitraire? Quelle structure avoir pour pouvoir construire un nouveau comportement pour résoudre un problème en fonction de nouvelles circonstances.
Pour ce faire, nous devons d'abord rappeler et clarifier certains faits connus. Tous les animaux dotés d'un système nerveux, d'une manière ou d'une autre, contiennent en lui un modèle de l'environnement, intégré à l'arsenal de leurs actions possibles. Autrement dit, ce n'est pas seulement un modèle de l'environnement, comme l'écrivent certains scientifiques, mais un modèle de comportement possible dans une situation donnée. Et en même temps, c'est un modèle pour prédire les changements dans l'environnement en réponse à toute action de l'animal. Ceci n'est pas toujours pris en compte par les scientifiques cognitifs, bien que cela soit directement indiqué par les neurones à miroir ouvert dans le cortex prémoteur, ainsi que par les études de l'activation des neurones chez les macaques, en réponse à la perception d'une banane, dans laquelle non seulement la région de la banane dans le cortex visuel et temporal est activée, mais aussi les mains dans le cortex somatosensoriel, donc que le modèle de la banane est directement lié à la main, puisque le singe ne s'intéresse qu'à ce fruit,qu'elle peut le prendre et le manger. Nous oublions simplement que le système nerveux ne semblait pas refléter le monde animal. Ce ne sont pas des sophistes, ils veulent juste manger, leur modèle est donc plus un modèle de comportement et non le reflet de l'environnement.
Vidéo promotionelle:
Un tel modèle présente déjà un certain degré d'arbitraire, qui se traduit par la variabilité du comportement dans des circonstances similaires. Autrement dit, les animaux disposent d'un certain arsenal d'actions possibles qu'ils peuvent réaliser en fonction de la situation. Il peut s'agir de modèles temporels plus complexes (réflexe conditionné) que de réactions directes aux événements. Mais encore, ce n'est pas un comportement complètement arbitraire, qui nous permet de former des animaux, mais pas des humains.
Et ici, il y a une circonstance importante que nous devons prendre en compte: plus les circonstances sont connues, moins le comportement est variable, car le cerveau a une solution. Inversement, plus les circonstances sont récentes, plus il y a d'options de comportement possible. Et toute la question est dans leur sélection et leur combinaison. Les animaux le font simplement en montrant tout l'arsenal de leurs actions possibles, comme l'a montré Skinner dans ses expériences.
Cela ne veut pas dire que le comportement volontaire est complètement nouveau, il consiste en des modèles de comportement déjà appris. Il s'agit de leur recombinaison, initiée par de nouvelles circonstances qui ne coïncident pas complètement avec celles pour lesquelles il existe déjà un modèle tout fait. Et c'est précisément le point de séparation du comportement volontaire et mécanique.
Modélisation de l'arbitraire
La création d'un programme de comportement arbitraire pouvant prendre en compte des circonstances nouvelles permettrait de faire un «programme de tout» universel (par analogie avec la «théorie de tout») au moins pour un certain domaine de problèmes.
Qu'est-ce qui pourrait rendre leur comportement plus arbitraire, plus libre? Mes expériences ont montré que la seule issue était d'avoir un deuxième modèle qui modélise le premier et puisse le changer, c'est-à-dire d'agir non pas avec l'environnement comme le premier, mais avec le premier modèle pour le changer.
Le premier modèle réagit aux circonstances de l'environnement. Et si le modèle activé par celui-ci s'est avéré être nouveau, le deuxième modèle est appelé, qui apprend à rechercher des solutions dans le premier modèle, en reconnaissant toutes les options possibles de comportement dans le nouvel environnement. Permettez-moi de vous rappeler que dans un nouvel environnement, plus d'options de comportement sont activées, donc la question est précisément dans leur sélection ou leur combinaison. En effet, contrairement à l'environnement familier, en réponse à de nouvelles circonstances, pas un modèle de comportement n'est activé, mais plusieurs à la fois.
Chaque fois que le cerveau rencontre quelque chose de nouveau, il effectue non pas un, mais deux actes - en reconnaissant la situation dans le premier modèle et en reconnaissant les actions déjà entreprises ou possibles par le second modèle. Et dans cette structure, il existe de nombreuses possibilités similaires à la conscience.
- Cette structure en deux actes permet de prendre en compte non seulement des facteurs externes, mais également internes - dans le second modèle, les résultats de l'action précédente, les motifs éloignés du sujet, etc. peuvent être mémorisés et reconnus.
- Un tel système peut construire un nouveau comportement immédiatement, sans apprentissage long, initié par l'environnement selon la théorie évolutionniste. Par exemple, le deuxième modèle a la capacité de transférer des solutions de certains sous-modèles du premier modèle vers d'autres parties de celui-ci et de nombreuses autres capacités du métamodèle.
- Un trait distinctif de la conscience est la présence d'une connaissance de son action, ou mémoire autobiographique, comme le montre l'article. La structure en deux actes proposée a justement une telle capacité - le second modèle peut stocker des données sur les actions du premier (aucun modèle ne peut stocker des données sur ses propres actions, car pour cela, il doit contenir des modèles cohérents de ses actions, pas les réactions de l'environnement).
Mais comment se fait exactement la construction d'un nouveau comportement dans la structure en deux actes de la conscience? Nous n'avons pas de cerveau ni même de modèle plausible. Nous avons commencé à expérimenter avec des cadres verbaux comme prototypes de modèles dans notre cerveau. Un cadre est un ensemble d'actants verbaux pour décrire une situation, et une combinaison de cadres peut être utilisée pour décrire un comportement complexe. Les cadres de description de situation sont les cadres du premier modèle, le cadre pour décrire ses actions est le cadre du second modèle avec les verbes d'actions personnelles. Nous les avons souvent mélangés, car même une phrase est un mélange de plusieurs actes de reconnaissance et d'action (acte de parole). Et la construction même de longs discours est le meilleur exemple de comportement volontaire.
Lorsque le premier modèle du système reconnaît un nouveau modèle auquel il n'a pas de réponse programmée, il appelle le deuxième modèle. Le second modèle recueille les cadres activés du premier et recherche un chemin plus court dans le graphique des cadres connectés, qui, de la meilleure façon, «ferme» les modèles de la nouvelle situation avec une combinaison de cadres. C'est une opération assez compliquée et nous n'avons pas encore obtenu de résultat en cela qui prétend être le «programme de tout», mais les premiers succès sont encourageants.
Les études expérimentales de la conscience par modélisation et comparaison de solutions logicielles avec des données de psychologie fournissent un matériel intéressant pour des recherches ultérieures et vous permettent de tester certaines hypothèses qui sont mal testées dans des expériences sur des humains. Cela peut être appelé des expériences de simulation. Et ce n'est que le premier résultat dans cette direction de recherche.
Auteur: Alexander Khomyakov
