Les mathématiciens israéliens ont prouvé que l'intelligence artificielle est loin d'être toujours capable de trouver des modèles dans des ensembles de données ou de donner des réponses sans ambiguïté à des questions. Leurs résultats ont été présentés dans la revue Nature Machine Intelligence.
Les systèmes modernes d'apprentissage automatique et d'intelligence artificielle fonctionnent sur un principe très simple. Ils apprennent progressivement à «voir» certains modèles et à distinguer les réponses correctes des réponses incorrectes en utilisant de vastes bases de données préparées par l'homme.
Initialement, cette approche était principalement utilisée pour créer des systèmes de reconnaissance d'images. Par la suite, il s'est avéré que cela pouvait s'appliquer à presque tout, des IA "créatives", capables de dessiner et de créer de la musique par elles-mêmes, à la machine AlphaZero, qui peut apprendre sans l'aide des gens et jouer à plusieurs jeux de société, ne connaissant que leurs règles.
De tels succès, note Yehudayoff, ont forcé les programmeurs, les philosophes et les mathématiciens à se demander si cette méthode de résolution de problèmes a des limites et si une intelligence artificielle extrêmement «générale» peut trouver un modèle dans n'importe quel ensemble arbitraire de données et répondre à toutes les questions possibles.
Les mathématiciens israéliens ont tenté de savoir s'il en était vraiment ainsi en analysant les versions les plus générales de divers problèmes mathématiques qui sont activement résolus aujourd'hui à l'aide de systèmes d'apprentissage automatique.
Leur attention a été attirée sur les versions de l'intelligence artificielle qui tentent de prédire les valeurs maximales en utilisant des ensembles de données incomplets. Par exemple, ces machines essaient de deviner les préférences des visiteurs d'un site particulier et de sélectionner des publicités qui seraient intéressantes pour la plupart d'entre eux.
En présentant ce problème comme une collection de plusieurs grands et petits ensembles, Yehudaioff et ses collègues ont trouvé qu'il était similaire dans sa description au célèbre théorème de Gödel. En 1940, le célèbre mathématicien autrichien Kurt Gödel a découvert que tout système formel, y compris les mathématiques elles-mêmes, est incomplet ou contradictoire.
En d'autres termes, cela signifie que pour les systèmes d'apprentissage automatique, ainsi que pour les mathématiciens «simples», il existe des problèmes, des déclarations et des questions qui ne peuvent être ni résolus, ni prouvés, ni réfutés sans dépasser leurs limites.
Vidéo promotionelle:
Dans ce cas, par exemple, il est impossible de prédire si l'intelligence artificielle peut être «entraînée» pour correspondre idéalement aux publicités en ne connaissant les préférences que d'un petit nombre arbitraire de visiteurs. Selon les visiteurs du portail qui seront inclus dans cet exemple, ce problème est à la fois résoluble et insoluble.
Comme le soulignent les scientifiques, d'un point de vue pratique, cette découverte n'affecte en aucune manière la manière dont l'intelligence artificielle se développera à l'avenir et dans quelle mesure elle résoudra les problèmes pratiques. D'un autre côté, la présence de telles restrictions suggère que la création d'une machine "pensante" universelle capable de résoudre tous les problèmes sera beaucoup plus difficile que les scientifiques ne le pensent aujourd'hui.
