Una distribuzione di probabilità è un modo di rappresentare non solo ciò che potrebbe accadere, ma quanto sia probabile ciascun esito possibile. La si immagini come un paesaggio di possibilità: alcune vette sono alte (molto probabili), altre basse (possibili ma improbabili), e tutto insieme compone un quadro completo dello spazio.

Nel caso di un modello linguistico, la distribuzione si estende sul vocabolario: ogni parola o frammento di parola che il modello conosce riceve un punteggio che rappresenta quanto sia plausibile come token successivo, dato tutto ciò che precede. Il modello non lancia una moneta tra due opzioni. A ogni passo lavora con un'intera distribuzione di probabilità su decine di migliaia di candidati, e ne estrae un campione.

Per questo i modelli linguistici non sono tabelle di consultazione. Lo stesso prompt, dato due volte, può produrre risposte diverse, perché il modello campiona da una distribuzione invece di recuperare una risposta fissa. La distribuzione in sé è deterministica a parità di input; è il campionamento a introdurre la variazione. Un parametro chiamato «temperatura» controlla quanto la distribuzione sia appuntita: una temperatura alta la appiattisce (più casualità), una temperatura bassa la rende più acuta (più prevedibilità).

Il concetto conta anche al di là dell'IA. Una distribuzione di probabilità è il modo in cui gli statistici descrivono qualunque sistema incerto: il tempo atmosferico, i mercati finanziari, l'esito delle elezioni. Il mondo offre di rado certezze; offre distribuzioni. Imparare a pensare per distribuzioni anziché per previsioni fisse è uno dei cambiamenti più utili in pratica, alla portata di chiunque ragioni su cose complesse.