Prompt
"The cat sat on the ___"
Più probabile Meno probabile
Grafico a barre delle probabilità dei token. Una temperatura alta appiattisce la distribuzione; una bassa la rende più appuntita.
Temperatura 1.0
← mirato casuale →

Il modello tiene una distribuzione come questa a ogni singolo passo di generazione — su decine di migliaia di token. La temperatura regola il compromesso tra prevedibilità e varietà. A 0.1 vince quasi sempre il token in cima. A 2.5 può succedere di tutto.