L’auto-amélioration récursive désigne un système qui améliore sa propre conception, puis se sert de la version améliorée pour s’améliorer de nouveau. Le mot qui porte le sens est « récursive » : le produit de chaque cycle devient l’outil du suivant. Un compilateur qui compile un meilleur compilateur en est la version banale — cela se fait couramment, sans que rien de spectaculaire ne s’ensuive. La version IA fait monter les enjeux en supposant que ce qui s’améliore est l’intelligence générale elle-même, de sorte que chaque cycle produit un système meilleur dans la tâche même qui consiste à améliorer des systèmes.
L’affirmation selon laquelle il en résulterait une explosion repose sur une prémisse rarement énoncée : que les rendements ne décroissent pas. Pour que la courbe s’emballe, chaque cycle d’amélioration doit s’obtenir au moins aussi facilement que le précédent. La plupart des processus d’optimisation se comportent exactement à l’inverse : les gains bon marché sont pris d’abord et les suivants coûtent davantage, parce que les améliorations faciles s’épuisent. Savoir si l’intelligence est le domaine rare où cela ne se produit pas est une question empirique. Elle n’a jamais été tranchée. On la suppose, le plus souvent.
Ce n’est pas une question que les premiers indices puissent trancher, et la raison en est contre-intuitive. Un système à rendements décroissants progresse le plus vite tout au début, tant que les gains bon marché sont encore disponibles. Un système à rendements cumulatifs démarre lentement et ne prend l’avantage que beaucoup plus tard. Pendant longtemps, la trajectoire qui finira par exploser est la moins impressionnante de toutes. Les progrès rapides d’aujourd’hui sont compatibles avec les deux récits, ce qui signifie qu’ils ne plaident pour aucun.
Reste la question de ce que s’améliorer exige concrètement. Un modèle moderne ne se réécrit pas sur place. S’améliorer, c’est concevoir de meilleures architectures, rassembler de meilleures données d’entraînement et mener des entraînements qui consomment des quantités énormes de calcul, d’électricité et de temps — et aucune de ces contraintes ne se dissout du seul fait que le concepteur est une machine. Des versions étroites de la boucle existent déjà et sont réellement utiles : des systèmes qui aident à concevoir des puces, règlent leurs propres paramètres d’entraînement ou génèrent des données pour leurs successeurs. Elles sont aussi lentes, coûteuses et soumises aux mêmes chaînes d’approvisionnement que tout le reste.
Dépouillée de son habillage IA, l’auto-amélioration récursive est une expérience humaine ordinaire : progresser dans une chose et découvrir que le progrès lui-même s’accélère. Apprendre à lire rend tout le reste plus facile à apprendre. Un bon outil aide à fabriquer un meilleur outil. C’est réel, et cela se cumule — et quiconque a appris une compétence difficile sait aussi que la courbe finit par s’aplatir, en général sans prévenir. La question honnête n’est pas de savoir si les machines peuvent s’améliorer elles-mêmes. De façon limitée, elles le font déjà. C’est de savoir combien de temps l’effet cumulatif dure avant de rencontrer quelque chose qui ne cède pas.
