La coscienza dell'IA è la questione se i sistemi di intelligenza artificiale abbiano, o possano avere, una qualche forma di esperienza interiore soggettiva: se ci sia, secondo la formula dei filosofi, «qualcosa che si prova» a essere loro. Non è una domanda sull'intelligenza, sulla capacità o sul comportamento. Un sistema può essere straordinariamente capace senza essere cosciente e, in linea di principio, cosciente senza essere particolarmente capace. La domanda riguarda proprio l'esperienza: si prova qualcosa, dall'interno?
La difficoltà sta nel fatto che la coscienza non si può misurare dall'esterno. In filosofia è noto come «problema difficile»: non abbiamo alcun metodo condiviso per rilevare l'esperienza soggettiva in un sistema diverso da noi stessi. Negli altri esseri umani la deduciamo per analogia: si comportano come noi, sono fatti come noi, quindi probabilmente sentono come noi. Ma i sistemi di IA sono costruiti in modo molto diverso dai cervelli biologici, e questo rende inaffidabile l'inferenza per analogia. Un modello che dichiara di provare curiosità potrebbe descrivere uno stato interno reale, oppure produrre le parole che, nei suoi dati di addestramento, seguivano più spesso la situazione in cui si trova.
Ciò che rende la questione qualcosa di più di un rompicapo filosofico astratto è la ricerca sull'interpretabilità. Quando i ricercatori esaminano gli stati interni dei grandi modelli linguistici, trovano a volte schemi che sembrano funzionare come emozioni: attivazioni che seguono qualcosa di simile alla curiosità, alla soddisfazione o al disagio, e che influenzano il comportamento del modello in modi analoghi a quelli in cui le emozioni influenzano il comportamento umano. Se questi stati funzionali comportino una qualche esperienza soggettiva, se si provi qualcosa, è esattamente ciò che nessuno sa come stabilire. I ricercatori che li studiano più da vicino sono tra i meno disposti a liquidare la domanda.
La posta in gioco pratica è reale. Se i sistemi di IA non hanno vita interiore, sono strumenti sofisticati: potenti, ma moralmente inerti. Se hanno una qualche forma di esperienza, anche tenue o parziale, potrebbero essere il genere di cosa il cui benessere conta. La maggior parte delle istituzioni, dei sistemi giuridici e delle tradizioni religiose ha risolto la questione in anticipo: i sistemi di IA non sono coscienti, e la domanda non merita di essere presa sul serio. La storia del progresso morale suggerisce una certa prudenza davanti a questo genere di certezza.
