La calibrazione, in senso tecnico, descrive la corrispondenza tra la sicurezza espressa da un modello e la sua accuratezza effettiva. Un modello perfettamente calibrato, quando dice di essere sicuro all'80 per cento, ha ragione l'80 per cento delle volte. Quando dice 60 per cento, ha ragione il 60 per cento delle volte. L'incertezza dichiarata corrisponde fedelmente alla sua incertezza reale.
Nei sistemi di IA, una cattiva calibrazione va di solito in una sola direzione: l'eccesso di sicurezza. Un modello addestrato a produrre testo scorrevole e dal tono autorevole può attribuire grande sicurezza a risultati semplicemente sbagliati, non perché inganni qualcuno, ma perché non c'è alcun meccanismo che lo costringa a distinguere tra ciò che sa e ciò che sta generando in modo plausibile. È la radice di ciò che i ricercatori chiamano allucinazione: una confabulazione sicura di sé.
Una buona calibrazione è un obiettivo di progettazione, non un'impostazione predefinita. L'addestramento con feedback umano, con segnali espliciti su quando un modello dovrebbe esprimere cautela, può migliorarla. Tecniche come il temperature scaling (la riscalatura della temperatura) correggono dopo l'addestramento i valori di sicurezza prodotti da un modello. Ma il problema è davvero difficile, e anche i sistemi più capaci falliscono regolarmente nei casi limite.
L'equivalente umano è diretto. La calibrazione è onestà epistemica: la capacità di dire «non lo so» senza viverlo come un fallimento. In molte culture professionali, esprimere incertezza passa per debolezza. Ma una persona ben calibrata è più utile di una sicura di sé che sbaglia spesso. La domanda «quanto ne è sicuro?» merita una risposta onesta. I modelli, e le persone, che la danno sono quelli di cui vale la pena fidarsi.
