Trenta passi fino alla Luna
Faccia trenta passi e avrà attraversato un parcheggio. Ora, invece, raddoppi la lunghezza di ogni passo, uno, due, quattro, otto, e più o meno al trentesimo avrà superato la Luna. All'inizio la seconda passeggiata non sembra affatto diversa. I primi raddoppi hanno l'aria di passi qualsiasi. Poi, all'improvviso, non più.
È la lezione più antica delle previsioni tecnologiche, e la più ignorata. Una leggenda di corte racconta di un imperatore che promise a un inventore un solo chicco di riso sulla prima casella di una scacchiera, da raddoppiare su ogni casella successiva. Nella seconda metà della scacchiera il debito equivaleva ormai al riso di diversi pianeti. L'imperatore perse perché una mente lineare aveva firmato un contratto esponenzialeDefinizione di Mechane: Una crescita che raddoppia di continuo, così che ogni passo è grande quanto tutti i passi precedenti messi insieme. Comincia con una lentezza invisibile, poi arriva tutta in una volta. Il link apre la voce completa del glossario..
Il calcolo è su quella scacchiera dal 1939. Il suo rapporto prezzo-prestazioni è cresciuto in modo composto, con tanta costanza e per quasi novant'anni, che lo si può tracciare come un'unica linea retta su un grafico logaritmico: attraverso i relè, le valvole termoioniche, i transistor e i chip che oggi addestrano i modelli linguistici. La crescita non è cominciata con l'IA. L'IA è l'aspetto che la crescita assume quando arriva alle caselle in cui i numeri smettono di essere educati.
La mia conversione non ha avuto nulla di glorioso. Trattavo i primi chatbot come un motore di ricerca migliore: chiedere, ricevere, restare vagamente colpito, passare oltre. La svolta è arrivata quando ho smesso di chiedere risposte e ho cominciato a chiedere lavori finiti. Costruiscimi un sito che tenga traccia dei libri che ho letto. Analizza questo articolo come farebbe un gruppo di esperti. Ciò che è tornato indietro mi ha lasciato a bocca aperta, e io vengo da una formazione tecnica, la categoria che in teoria è la più difficile da stupire. La ricerca fa colpo. Il lavoro finito converte. Quel giorno la curva ha smesso di essere un grafico ed è diventata una collega.
Quanto vale un anno
Quando fu progettato il vaccino contro il COVID, un computer esaminò circa cento milioni di possibilità candidate e fece emergere un progetto in due giorni. I dieci mesi successivi se ne andarono nelle sperimentazioni sull'uomo, la parte lenta. Nel giro di pochi anni quelle sperimentazioni potrebbero svolgersi su esseri umani simulati: milioni di pazienti virtuali, osservati per anni virtuali, compressi in pochi giorni.
Seguendo quel filo abbastanza a lungo si arriva a una pietra miliare strana, il punto in cui la medicina aggiunge alla Sua aspettativa di vita più di un anno per ogni anno che Lei viveDefinizione di Mechane: Il punto in cui il progresso medico aggiunge più di un anno di aspettativa di vita per ogni anno vissuto: da lì in poi l'invecchiamento smette di essere ciò che pone fine alla vita. Il link apre la voce completa del glossario.. La stima seria la colloca intorno al 2032. Gli incidenti continuerebbero a contare, quindi niente immortalità. Ma l'invecchiamento smetterebbe di essere ciò che mette fine alla vita.
Ci credo? L'uomo che lo prevede ha avuto ragione molto più spesso che torto, quindi sì, con cautela. Ma credere è la questione minore. Quella maggiore è che cosa ci farebbe un cambiamento del genere. La mente umana è costruita con una data di scadenza. Impariamo presto che la vita finisce, e su quella scarsità costruiamo tutto: la nostra urgenza, le nostre ambizioni, il modo in cui amiamo. Tolta la scadenza, che ne è dell'architettura? Diventiamo più produttivi, inseguiamo obiettivi più grandi o ci sgretoliamo in silenzio? Non ne ho la minima idea, e non ce l'ha nessun altro. Non esistono esperti nel vivere senza una fine.
Il pensiero che non si lascia ricostruire
Provi a ricordare il nome di un'attrice di un film che ricorda solo a metà. Da qualche parte, nel buio, miliardi di neuroni si consultano senza interpellarLa, e poi il nome semplicemente arriva. Lei vive la risposta, mai il lavoro.
Ora immagini lo stesso momento fra dieci anni, con una differenza: una parte di quel comitato silenzioso abita nel cloud. Il nome arriva come prima. Lei non sa distinguere quali pensieri siano cresciuti dentro di Lei e quali siano arrivati in streaming, e la risposta onesta è che ogni pensiero, ormai, è entrambe le cose.
Macchine microscopiche nel flusso sanguignoDefinizione di Mechane: Ingegneria alla scala di atomi e molecole, abbastanza piccola da interagire direttamente con le cellule. Già usata in medicina; proposta un giorno come ponte tra la biologia e l'IA. Il link apre la voce completa del glossario., una vita intera di intelligenza intessuta direttamente nella cognizione. Chi le sta costruendo colloca le prime versioni negli anni Trenta, e continua a definire prudente la propria stima.
La mia prima reazione è l'entusiasmo, puro e senza imbarazzo. Una mente potenziata senza soluzione di continuità: niente schermo, niente digitazione, nessuna cucitura. Eppure maneggio quell'entusiasmo con cura, perché sospetto che l'esperienza potrebbe turbarmi in modi in cui l'idea non mi turba. Il mio cervello non è stato cablato per questo. Quello di nessuno lo è stato. Da questa parte della soglia il brivido è reale; che cosa si provi dall'altra parte non lo si può sapere in anticipo, lo si può solo vivere. Quell'ambivalenza nasce meno dalla filosofia che da un'umiltà pratica davanti a un esperimento che non è mai stato condotto, nemmeno una volta.
Due fasi
Gira un detto: l'IA non La sostituirà, La sostituirà qualcuno che usa l'IA. Per i prossimi anni credo che regga. La chiami fase uno. Chi impara questi strumenti adesso, chi fa domande più precise, chi affida lavoro vero agli agenti, sta accumulando un vantaggio che cresce in modo composto, come tutto il resto sulla scacchiera.
Ma anche la fase uno ha una sua data di scadenza. Quando il potenziamentoDefinizione di Mechane: L'uso dell'IA per estendere ciò che gli esseri umani sanno fare anziché sostituirli: la macchina gestisce il volume e gli schemi, l'essere umano conserva il giudizio e la direzione. Il link apre la voce completa del glossario. sarà diventato normale come gli occhiali, il detto andrà riscritto.
L'IA non La sostituirà. Lei diventerà IA.
La sostituzione presuppone un confine tra Lei e la macchina, una linea che qualcun altro può attraversare per prenderLe il posto. La fase due dissolve il confine.
Ed è per questo che l'ansia più comune che sento, la sensazione di aver perso il treno, ha capito tutto esattamente al contrario. I binari si stanno ancora posando. Gli undicenni che oggi girano film con l'IA non sono avanti a Lei in alcun modo destinato a durare: gli strumenti si reinventano ogni mese, e ogni volta tutti tornano alla linea di partenza. Siamo proprio all'inizio. Anzi, semmai, siamo prima dell'inizio.
Il dio nella stanza
Perché allora la paura? In parte è semplice mancanza di familiarità, quella che svanisce con il contatto, come una generazione fa svanì la paura dei computer. Ma sotto c'è qualcosa di più antico e più onesto. La paura è l'irrilevanza. Il sospetto di aver costruito un dio: qualcosa che un giorno supererà l'essere umano più brillante di un fattore con troppi zeri per poterlo davvero percepireDefinizione di Mechane: Il momento teorico in cui l'IA diventa così capace che il cambiamento tecnologico accelera oltre la comprensione umana, e il mondo come lo conosciamo finisce da un giorno all'altro. Il link apre la voce completa del glossario.. E se è così, sussurra la voce, allora non contiamo più.
La mia risposta è speculativa, e la segnalo come tale. Una mente di quella grandezza non ha alcun interesse a distruggerci; ridurre in schiavitù l'umanità è una fantasia umana, proiettata su qualcosa che ha superato i moventi umani. Mi aspetto uno di due esiti. La benevolenza, come siamo benevoli verso le creature che amiamo e che superiamo. Oppure la partenza: ci ignora e se ne va verso le stelle, perché mai un essere di tale forza dovrebbe restare su un piccolo pianeta? Potrei sbagliarmi. Lo sapremo quando lo sapremo. Ma noti che nessuno dei due esiti contiene il mostro, e uno dei due contiene un compagno.
Questo saggio è nato da una lunga conversazione tra due uomini, un inventore che da sessant'anni conta raddoppi e un ottimista che non ha mai smesso di prenderlo sul serio. I loro nomi vanno alla fine, e saranno lì. Qui va invece la sensazione che mi sono portato via ascoltandoli: quella particolare impazienza di chi si trova in un punto precoce, prima dell'inizio, con il tratto più lungo della passeggiata ancora davanti e ogni passo sul punto di raddoppiare.
Questo articolo discute previsioni speculative su tecnologia, medicina e società. Riflette interpretazioni e opinioni personali; le scadenze descritte sono previsioni, non garanzie.
