La singolarità indica un ipotetico evento futuro: il punto in cui l'intelligenza artificiale diventa abbastanza avanzata da migliorare se stessa in modo ricorsivo, producendo sistemi sempre più intelligenti a un ritmo sempre più rapido, finché la velocità del cambiamento non supera tutto ciò che le menti umane possono seguire. Il concetto, reso popolare dal futurologo e inventore Ray Kurzweil, prende in prestito il termine dalla fisica, dove una singolarità descrive un punto in cui le regole consuete cessano di valere, come il centro di un buco nero, dove le equazioni smettono di avere senso. Nel discorso sull'IA, la singolarità è il momento in cui il futuro diventa, in linea di principio, illeggibile a partire dal presente.
Il fascino dell'idea sta in parte nella sua drammatica chiarezza. Offre una storia lineare: l'IA diventa brava, poi più brava, poi incredibilmente più brava, e poi tutto cambia in un colpo solo. Versioni di questa storia animano sia le visioni più ottimistiche del futuro (un'esplosione di intelligenza che risolve ogni problema umano) sia quelle più allarmanti, in cui un sistema abbastanza intelligente conclude che gli esseri umani sono un ostacolo e agisce di conseguenza. Entrambi i campi condividono la premessa centrale della singolarità: che esista una soglia oltre la quale tutto diventa imprevedibile.
I critici della tesi della singolarità fanno notare uno scarto persistente tra la teoria e il modo in cui le transizioni tecnologiche si sono effettivamente svolte nella storia. Le tecnologie trasformative (l'elettricità, internet, gli antibiotici) non sono arrivate da un giorno all'altro. Si sono diffuse in modo disomogeneo, nell'arco di anni e decenni, tra vincoli infrastrutturali, ritardi normativi, attriti economici e la semplice ostinazione delle abitudini umane. Gli strumenti sviluppati oggi sono davvero potenti, ma potenza e diffusione non sono la stessa cosa, e nemmeno diffusione e impatto lo sono. La singolarità presuppone che la capacità si traduca all'istante in conseguenze, e questo presupposto ha retto di rado per qualunque tecnologia venuta prima.
Per chi legge i resoconti sull'IA, la singolarità funziona meno come previsione precisa e più come stato d'animo retorico: un modo per segnalare che questa volta è diverso, che il ragionamento normale non vale. Quello stato d'animo può essere messo al servizio dell'entusiasmo o della paura, ma in entrambi i casi tende a cortocircuitare il pensiero attento. Capire da dove venga il concetto, e che cosa affermi davvero, aiuta a valutare quando qualcuno lo usa come argomento e quando lo usa semplicemente come atmosfera.
