L'auto-miglioramento ricorsivo descrive un sistema che migliora il proprio progetto e poi usa la versione migliorata per migliorarsi ancora. La parola decisiva è «ricorsivo»: il risultato di ogni ciclo diventa lo strumento per il successivo. Un compilatore che compila un compilatore migliore ne è la versione banale: accade di routine, e non ne segue nulla di drammatico. La versione legata all'IA alza la posta, perché sostiene che ciò che viene migliorato sia l'intelligenza generale stessa, così che ogni ciclo produca un sistema più bravo proprio nel compito di migliorare i sistemi.
L'affermazione che tutto ciò produca un'esplosione poggia su una premessa che di solito resta implicita: che i rendimenti non diminuiscano. Perché la curva prenda il volo, ogni ciclo di miglioramento deve arrivare con facilità almeno pari a quella del precedente. La maggior parte dei processi di ottimizzazione si comporta esattamente all'opposto: i guadagni a buon mercato si colgono per primi e quelli successivi costano di più, perché i miglioramenti facili si esauriscono. Se l'intelligenza sia il raro ambito in cui questo non accade è una questione empirica. Non è mai stata risolta. Di solito la si dà per scontata.
Non è una questione che le prime evidenze possano risolvere, e la ragione è controintuitiva. Un sistema a rendimenti decrescenti migliora più in fretta proprio all'inizio, finché i guadagni facili sono ancora disponibili. Un sistema a rendimenti crescenti parte lentamente e prende il largo solo molto più tardi. Per un lungo tratto, la traiettoria che alla fine esplode è la meno impressionante di tutte. I rapidi progressi di oggi sono compatibili con entrambe le storie, il che significa che non sono una prova per nessuna delle due.
C'è poi la questione di che cosa richieda, in concreto, migliorare se stessi. Un modello moderno non si riscrive sul posto. Migliorare significa progettare architetture migliori, mettere insieme dati di addestramento migliori ed eseguire addestramenti che consumano quantità enormi di calcolo, elettricità e tempo, e nessuno di questi vincoli si dissolve perché il progettista è una macchina. Versioni ristrette del ciclo esistono già e sono davvero utili: sistemi che aiutano a progettare chip, che regolano le proprie impostazioni di addestramento o che generano dati per i loro successori. Sono anche lenti, costosi e vincolati alle stesse catene di approvvigionamento di tutto il resto.
Spogliato della cornice dell'IA, l'auto-miglioramento ricorsivo è un'esperienza umana comune: diventare più bravi in qualcosa e scoprire che il diventare più bravi accelera a sua volta. Imparare a leggere rende più facile imparare tutto il resto. Un buon attrezzo aiuta a costruirne uno migliore. È reale, e si accumula; e chiunque abbia imparato un'abilità difficile sa anche che la curva prima o poi si appiattisce, di solito senza annunciarlo. La domanda onesta non è se le macchine possano migliorarsi. In modi limitati lo fanno già. È quanto duri l'accumulo prima di incontrare qualcosa che non cede.
