La catena di pensiero (chain of thought) descrive un modello che affronta un problema per passaggi intermedi visibili, esponendo il ragionamento prima di impegnarsi in una risposta, come l'insegnante di matematica che pretende che si mostri il procedimento. È nata come un espediente di prompt. I ricercatori scoprirono che aggiungere a una domanda una frase semplice come «ragioniamo passo dopo passo» migliorava in modo misurabile l'accuratezza su problemi che lo stesso modello aveva appena sbagliato. L'istruzione non aggiungeva alcuna informazione nuova. Cambiava solo la forma dell'output, e la forma si rivelò importante.
Il motivo per cui funziona è più meccanico di quanto sembri. Un modello linguistico produce un token alla volta, e ogni token generato entra a far parte dell'input che il modello legge per produrre il successivo. Un modello che risponde subito ha soltanto la domanda da cui partire. Un modello che scrive i propri passaggi si è dato un foglio di brutta: ogni riga intermedia è contesto in più su cui condizionarsi, e calcolo in più speso prima che la risposta sia dovuta. Pensare ad alta voce, qui, non è una metafora. Le parole sulla pagina sono, alla lettera, il luogo in cui avviene parte del lavoro.
È anche qui che cominciano i guai. Una catena di pensiero sembra una spiegazione, e si è tentati di leggerla come tale, come una finestra sul ragionamento effettivo del modello. Non lo è, o almeno non in modo affidabile. I passaggi sono prodotti dallo stesso processo che produce tutto il resto: testo plausibile, condizionato da ciò che precede. I ricercatori hanno mostrato che un modello spinto verso una risposta sbagliata da un prompt distorto genera spesso una catena di ragionamento fluida e sicura che non menziona mai quella spinta, e arriva alla conclusione suggerita attraverso un argomento che si legge benissimo. La motivazione scritta e il calcolo sottostante possono separarsi, e se in un dato caso si siano separati non è qualcosa che si possa capire leggendo.
Da allora la tecnica ha smesso di essere un prompt ed è diventata un'architettura. L'attuale generazione di modelli di ragionamento è addestrata a deliberare a lungo prima di rispondere, a volte per migliaia di token che chi legge non vede mai, e la durata di quella deliberazione è trattata come una manopola che si può alzare per i problemi più difficili. I guadagni in matematica, programmazione e logica a più passaggi sono sostanziali e ben documentati. Costano però denaro e tempo reali per ogni domanda, ed è un cambiamento vero: per gran parte della storia di questo campo, il costo di una risposta da parte di un modello addestrato era più o meno fisso. Oggi pensare più a lungo è qualcosa che si può comprare.
La traduzione umana risulterà familiare a chiunque abbia affrontato a voce alta un problema difficile e trovato la risposta da qualche parte nel discorso. Ragionare ad alta voce aiuta davvero, e aiuta più o meno per la stessa ragione per cui aiuta un modello: mette i passaggi intermedi da qualche parte fuori dalla testa, così che non vadano tenuti tutti a mente nello stesso momento. La metà scomoda del parallelo è altrettanto familiare. Anche le persone producono resoconti sicuri del perché hanno deciso qualcosa, e quei resoconti sono spesso ricostruzioni assemblate a posteriori più che trascrizioni della decisione. Lo sappiamo di noi stessi da decenni. Non dovrebbe sorprendere ritrovarlo in un sistema addestrato su tutto ciò che abbiamo scritto.
