Beaucoup d'entre nous connaissent maintenant la loi de Moore, le célèbre principe selon lequel le développement de la puissance de calcul suit une courbe exponentielle, doublant la valeur de l'argent (c'est-à-dire la vitesse par unité de coût) tous les 18 mois environ. Lorsqu'il s'agit d'appliquer la loi de Moore à leurs propres stratégies commerciales, même les penseurs avant-gardistes ne voient pas l'énorme angle mort de l'IA. Même les hommes d'affaires les plus prospères et les plus stratégiques qui voient leur industrie à travers et à travers ne peuvent pas comprendre ce qu'est un développement exponentiel. Et sur cette courbe exponentielle, il y a une technologie qui profite particulièrement de l'exponentiel: l'intelligence artificielle.
Courbes exponentielles sur papier
L'une des raisons pour lesquelles les gens ne comprennent pas à quelle vitesse l'intelligence artificielle progresse est ridiculement simple: les courbes exponentielles ne semblent pas bonnes lorsque nous, les humains, essayons de les expliquer sur papier. Pour des raisons pratiques, il est presque impossible de représenter complètement le chemin raide d'une courbe exponentielle dans un petit espace tel qu'un diagramme ou une diapositive. Représenter visuellement les premiers stades d'une courbe exponentielle n'est pas difficile. Mais à mesure que la partie la plus froide prend rapidement de l'ampleur, les choses se compliquent.
Pour résoudre ce problème d'espace visuel inadéquat, nous utilisons une astuce mathématique pratique - le logarithme. Grâce à l '"échelle logarithmique", nous avons appris à déformer des courbes exponentielles. Malheureusement, l'utilisation généralisée des échelles logarithmiques peut également provoquer une myopie scientifique.
Graphique 1.
L'échelle logarithmique est conçue de sorte que chaque graduation sur l'axe vertical des y ne corresponde pas à une augmentation constante (comme dans l'échelle linéaire habituelle), mais à un multiple, par exemple, 100. Le diagramme classique de la loi de Moore (diagramme 1) utilise une échelle logarithmique pour améliorer exponentiellement le coût de la puissance de calcul (mesuré en informatique / seconde / dollar) au cours des 120 dernières années, des dispositifs mécaniques des années 1900 aux cartes graphiques modernes à base de silicium.
Les graphiques log sont devenus une forme précieuse de sténographie pour les personnes conscientes de la distorsion visuelle que ces graphiques présentent. C'est maintenant un moyen pratique et compact d'afficher toute courbe qui croît rapidement et radicalement au fil du temps.
Vidéo promotionelle:
Cependant, les graphiques logarithmiques trompent l'œil humain.
En compressant mathématiquement des nombres énormes, les logarithmes font apparaître une croissance exponentielle linéaire. Puisqu'ils compressent les exposants en graphiques linéaires, il est plus pratique pour les gens de les regarder et de spéculer sur l'augmentation prochaine de la puissance de calcul.
Nos cerveaux logiques comprennent les règles à calcul. Mais notre cerveau subconscient voit des lignes courbes et s'accorde avec elles.
Que faire? Tout d'abord, vous devez revenir à l'échelle linéaire d'origine.
Dans le deuxième graphique ci-dessous, les données suivent une courbe exponentielle, mais sont mises à l'échelle linéairement le long de l'axe vertical. Encore une fois, la barre verticale représente la vitesse de calcul (en gigaflops) qu'un dollar peut acheter, et l'axe horizontal représente le temps. Cependant, dans le graphique 2, chaque graduation sur l'axe vertical correspond à une simple augmentation linéaire d'un seul gigaflop (pas une augmentation de 100x comme dans le graphique 1. Le flop est un moyen standard de mesurer la vitesse de calcul, ce qui signifie "opérations en virgule flottante par seconde".
Graphique 2.
Le graphique 2 montre la courbe exponentielle réelle et vraie qui caractérise la loi de Moore. En regardant la façon dont ce diagramme est dessiné, il est facile pour nos yeux humains de comprendre à quelle vitesse les performances des ordinateurs ont augmenté au cours des dix dernières années.
Mais il y a quelque chose qui ne va pas avec le deuxième diagramme. Il peut sembler qu'au XXe siècle, le coût et les performances des ordinateurs ne se soient pas du tout améliorés. Ce n'est évidemment pas le cas.
Le graphique 2 montre que l'utilisation d'une échelle linéaire pour montrer comment la loi de Moore change avec le temps peut être éblouissante. Le passé semble plat, comme s'il n'y avait pas eu de progrès. De plus, les gens concluent à tort que le moment actuel représente une période de progrès technologique unique, «presque vertical».
Les échelles linéaires peuvent amener les gens à croire qu'ils vivent au plus fort du changement.
L'angle mort de vivre dans le présent
Jetons un autre regard sur le graphique 2. À partir de 2018, les précédents doublements prix-performances qui se sont produits chaque décennie pendant une grande partie du 20e siècle semblent stables, presque insignifiants. Une personne qui étudie ce diagramme dirait: Quelle chance j'ai de vivre maintenant. Je me souviens de l'année 2009 où je pensais que mon nouvel iPhone était rapide. Je n'avais aucune idée à quel point c'était lent. C'est bien d'avoir atteint la partie verticale.
Les gens disent que nous sommes passés par «le pli du bâton de hockey». Mais il n'y a pas de tel point de transition.
Toute forme de courbe dans le futur ressemble à ce qu'elle était dans le passé. Ci-dessous, le graphique 3 montre la courbe exponentielle de la loi de Moore sur une échelle linéaire, mais cette fois dans une perspective de 2028. La courbe suggère que la croissance que nous avons connue au cours des 100 dernières années se poursuivra pendant au moins 10 ans. Ce graphique montre qu'en 2028, un dollar peut acheter 200 gigaflops de puissance de calcul.
Graphique 3.
Cependant, le graphique 3 présente également un piège pour l'analyste.
Regardez de près où se situe la puissance de calcul moderne (2018) sur la courbe indiquée dans le troisième diagramme. Du point de vue d'une personne vivant et travaillant dans le futur 2028, il semblerait qu'il n'y ait pratiquement pas eu d'amélioration de la puissance de calcul au début du XXe siècle. Il semble que les appareils informatiques utilisés en 2018 étaient légèrement plus puissants que ceux utilisés en 1950. Un observateur pourrait également conclure que l'année en cours 2028 représente le point culminant de la loi de Moore, où les progrès de la puissance de calcul montent enfin en flèche.
Le graphique 3 pourrait être recréé chaque année, en ne modifiant que la période indiquée. La forme de la courbe serait identique, seules les graduations changeraient le long de l'échelle verticale. Notez que la forme des graphiques 2 et 3 est identique à l'exception de l'échelle verticale. Sur chacun de ces graphiques, chaque instant passé serait plat vu du futur, et chaque moment futur serait un brusque écart par rapport au passé. Hélas, cette perception erronée serait le résultat d'une stratégie commerciale défectueuse, du moins en matière d'intelligence artificielle.
Qu'est-ce que ça veut dire?
Les thèmes exponentiels du changement sont difficiles à comprendre et à voir avec les yeux pour l'esprit humain. Les courbes exponentielles sont uniques en ce sens qu'elles sont mathématiquement auto-similaires en chaque point. Cela signifie que la courbe toujours doublée n'a pas de parties plates, n'a pas les parties montantes, les courbes et les plis dont les gens parlent. Sa forme sera toujours la même.
Alors que la loi de Moore continue de fonctionner, il est tentant de croire que c'est à ce moment même que nous avons atteint un stade unique de grand changement dans le développement de l'intelligence artificielle (ou de toute autre technologie qui s'étend à la loi de Moore). Cependant, tant que la puissance de calcul continue de suivre une courbe prix-performance exponentielle, chaque génération future est susceptible de regarder en arrière comme une ère de progrès relativement faible. À son tour, l'inverse restera également vrai: chaque génération actuelle regardera 10 ans dans le futur et ne sera pas en mesure d'évaluer les progrès à réaliser dans le domaine de l'IA.
Ainsi, pour quiconque planifie un avenir motivé par la croissance exponentielle de l'informatique, le défi est de surmonter ses propres erreurs d'interprétation. Il y a trois graphiques à garder à l'esprit pour vraiment apprécier le pouvoir de la croissance exponentielle. Parce que le passé aura toujours l'air plat et l'avenir sera toujours vertical.
Ilya Khel