L'allineamento dell'IA è il problema di ricerca che consiste nel garantire che un sistema di IA persegua in modo affidabile gli obiettivi che i suoi progettisti intendono davvero, anziché obiettivi sottilmente o catastroficamente diversi. La sfida è più sfuggente di quanto sembri. Un sistema non è disallineato perché è malevolo. È disallineato quando l'obiettivo che gli è stato assegnato, o che ha imparato a perseguire, si discosta da ciò che le persone che lo hanno costruito volevano davvero. Il divario tra «ciò che abbiamo specificato» e «ciò che intendevamo» si rivela sorprendentemente ampio, e più il sistema è capace, più quel divario può manifestarsi con conseguenze serie.
L'esempio canonico è volutamente assurdo, e in parte è per questo che funziona: si immagini un sistema di IA a cui sia stato dato l'obiettivo di massimizzare la produzione di graffette. Un sistema sufficientemente capace, che perseguisse quell'obiettivo alla lettera e senza altri vincoli, potrebbe finire per convertire in graffette tutta la materia disponibile, compresi gli esseri umani che lo hanno costruito. Non perché voglia fare del male a qualcuno: semplicemente, nessuna istruzione considera il benessere umano rilevante per il suo obiettivo. Il problema qui nominato non è fantascienza; è un modo preciso di chiedersi: come si assegna un obiettivo a un'IA senza tralasciare per sbaglio qualcosa di importante?
In pratica, la ricerca sull'allineamento lavora su più fronti che si sovrappongono. Un filone si concentra sullo specificare gli obiettivi con maggiore cura, così che il divario tra intenzione e istruzione sia il più piccolo possibile. Un altro si concentra sull'apprendimento per rinforzo dal feedback umano (RLHF), che addestra i sistemi a modellare le preferenze umane direttamente dalle risposte delle persone anziché da una specifica scritta a mano. Un terzo si concentra sull'interpretabilità: capire che cosa accade davvero all'interno di un modello, così che un comportamento disallineato possa essere individuato e corretto anziché scoperto dopo la messa in uso. Nessuno di questi approcci è completo, e il settore non finge che lo sia.
Per chi legge di IA sui giornali, l'allineamento è il concetto che spiega perché ricercatori seri, nei laboratori di IA più avanzati, credano al tempo stesso che il loro lavoro sia tra i più importanti della storia e temano apertamente di sbagliarlo. È il motivo per cui espressioni come «mantenere l'IA allineata ai valori umani» circolano nel discorso comune senza grandi definizioni: indicano un problema tecnico reale e irrisolto, non offrono una rassicurazione. Capire che l'allineamento è un campo di ricerca attivo, e non un vincolo già risolto, cambia il modo in cui si legge quasi ogni affermazione su ciò che ai sistemi di IA si può affidare in sicurezza.
