Ci sono due modi di sbagliarsi sull'intelligenza artificiale, ed entrambi hanno un seguito numeroso ed entusiasta.

Sbagliare, due volte

Il primo modo è avere paura. Non una paura quieta e ponderata. Una paura spettacolare, cinematografica. Arrivano i robot. I posti di lavoro evaporeranno dall'oggi al domani. Qualche sistema abbastanza intelligente concluderà che gli esseri umani sono inefficienti, e agirà di conseguenza. In questo campo la paura viene presentata come l'unica reazione lucida a ciò che si sta costruendo.

Il secondo modo è restare abbagliati. L'IA cura il cancro entro martedì. La singolarità arriva puntuale, preme un interruttore, e prima della fine dell'anno il mondo è irriconoscibile. Nell'altro campo l'unica reazione appropriata è un ottimismo senza fiato.

I due campi hanno in comune una curiosa caratteristica: a nessuno dei due interessa granché riflettere con attenzione su ciò che sta accadendo davvero. Paura ed euforia sono, ciascuna a modo suo, forme di pigrizia intellettuale. Risparmiano la fatica di porsi domande più difficili.

Dario Amodei, fondatore e CEO di Anthropic, ha pubblicato un saggio intitolato «Machines of Loving Grace» che tenta qualcosa di davvero insolito: uno schizzo dettagliato, concreto e sobrio di come potrebbe essere, in pratica, un buon futuro con l'IA. [1] Riconosce i rischi. Ha costruito un'azienda dedicata a gestirli. Ma sostiene anche, con cura e con una certa precisione, che la maggior parte delle persone sottovaluta in modo drammatico ciò che è possibile se le cose vanno per il verso giusto.

Questo articolo è una lettura di quel saggio, attraverso una lente precisa: la convinzione che la cosa più utile da fare con un'idea grande e complicata sia spiegarla onestamente, senza secondi fini e senza fingere che il futuro sia più certo di quanto è. Mechane esiste per questo.

Mille ricercatori che non dormono mai

Per farsi un'idea di che cosa potrebbe fare davvero un'IA potente, aiuta pensare con chiarezza a che cosa sia.

Amodei descrive i sistemi di IA più capaci in arrivo nei prossimi anni come, in sostanza, un paese di geni in un data center. Milioni di istanze simultanee di un sistema più intelligente di qualunque singolo essere umano, ciascuna in grado di lavorare in autonomia su compiti diversi, o di collaborare come collaborano le squadre di persone, ma a velocità e su scale che nessuna istituzione umana può eguagliare.

L'immagine colpisce. Ma per i nostri scopi conta soprattutto qualcosa che lascia implicito. Questo paese di geni non arriva con un programma proprio. Non si sveglia con un progetto in testa. Lavora perché qualcuno gli pone una domanda, gli affida un compito o lo indirizza verso un problema. Quel qualcuno è ancora Lei.

Lo immagini non tanto come una superintelligenza che arriva a prendere il potere, quanto come l'improvvisa disponibilità di uno staff di ricerca grande quanto una città, raggiungibile a qualunque ora, capace di leggere prima di colazione tutto ciò che è mai stato scritto su un dato argomento, e disposto a percorrere con pazienza cento vicoli ciechi prima di trovare la strada che funziona. L'intelligenza è vastissima. La direzione viene ancora da un essere umano.

È proprio questa la distinzione che tanto il campo della paura quanto quello dell'entusiasmo tendono a non vedere. Gli strumenti che si stanno costruendo non sono agenti autonomi che perseguono fini propri. Sono strumenti straordinariamente capaci.

La differenza tra un bisturi e un trapano elettrico è reale e importante, ma nessuno dei due decide che cosa operare. Lo decide l'essere umano che lo impugna.

Ciò che cambia è il tetto di ciò che diventa realizzabile. E quel tetto, sostiene Amodei, è molto più alto di quanto quasi chiunque sia oggi disposto a immaginare.

Il XXI secolo compresso

La parte del saggio di Amodei che resta impressa è quella dedicata alla biologia e alla medicina. Vi avanza una tesi che al primo impatto suona stravagante e che diventa più plausibile quanto più ci si sofferma.

Il suo argomento è che la ricerca biologica resa possibile dall'IA potrebbe comprimere all'incirca da 50 a 100 anni di progresso medico in un arco da 5 a 10 anni. Le dà un nome: il XXI secolo compressoDefinizione di Mechane: L'espressione con cui Dario Amodei indica l'ipotesi che l'IA possa comprimere 50–100 anni di progresso medico in un solo decennio, accelerando il ritmo delle scoperte biologiche. Il link apre la voce completa del glossario..

Pensi a ciò che ha ottenuto il Novecento. Vaccini contro malattie che uccidevano da millenni. Antibiotici che hanno trasformato infezioni un tempo mortali in semplici fastidi. La mappatura dell'intero genoma umano. Cure per condizioni un tempo ritenute incurabili. In gran parte del mondo l'aspettativa di vita è quasi raddoppiata nel corso di un secolo.

Ora pensi a ciò che resta da fare. La maggior parte dei tumori è ancora curata in modo inadeguato. L'Alzheimer è ancora poco compreso a livello dei meccanismi. L'invecchiamento stesso resta in sostanza senza cura, considerato inevitabile anziché un processo biologico che si potrebbe rallentare o modificare. Se il Novecento è stato un secolo di progressi straordinari, il XXI secolo avrebbe dovuto proseguire quel lavoro lentamente, anno dopo anno, un ciclo di finanziamento dopo l'altro, una sperimentazione clinica dopo l'altra.

L'idea della compressione si chiede: e se non dovessimo aspettare così a lungo?

Amodei qui è prudente. Non sostiene che l'IA faccia magie. La biologia ha limiti fisici rigidi. Le cellule crescono al ritmo a cui crescono. Certi esperimenti richiedono semplicemente il tempo che richiedono, e nessuna quantità di intelligenza può scavalcarlo. Ma una quota sorprendente delle scoperte biologiche più importanti della storia, fa notare, è stata compiuta da un numero molto ristretto di ricercatori insolitamente creativi, e molte di quelle scoperte si sarebbero potute fare anni, o persino decenni, prima.

Se il ritmo di quelle scoperte fondamentali potesse essere accelerato in modo significativo, gli effetti a valle sarebbero vertiginosi. I farmaci che svilupperemmo. Le malattie che impareremmo a curare. Gli anni di vita in salute che potrebbero diventare accessibili a persone che oggi non se li aspetterebbero.

Perché domani non ci sveglieremo in un mondo diverso

La singolaritàDefinizione di Mechane: Il momento teorico in cui l'IA diventa così capace che il cambiamento tecnologico accelera oltre la comprensione umana, e il mondo come lo conosciamo finisce da un giorno all'altro. Il link apre la voce completa del glossario., come la si immagina di solito, è un orizzonte degli eventi: un momento in cui l'IA diventa così capace che il cambiamento accelera oltre la comprensione umana e il mondo diventa irriconoscibile dall'oggi al domani. È una storia avvincente. Ed è anche, a un esame ponderato, non il modo in cui le cose funzionano davvero.

Le grandi transizioni tecnologiche non avvengono dall'oggi al domani. Avvengono nell'arco di anni e decenni, in modo disomogeneo, con strozzature impreviste e resistenze sorprendenti. L'elettricità esisteva come tecnologia funzionante da decenni prima che la maggior parte delle famiglie l'avesse in casa. Internet era a disposizione dei ricercatori già negli anni Settanta. Gli antibiotici impiegarono anni a diffondersi su larga scala anche dopo la loro scoperta, e il loro effetto sulla mortalità si dispiegò nell'arco di una generazione.

Che una tecnologia sia pronta non significa che sia diffusa, e la diffusione non equivale all'impatto.

Gli esperimenti fisici richiedono il tempo che richiedono. I sistemi di regolamentazione si muovono al passo dei sistemi di regolamentazione, nel bene e nel male. Le abitudini e le istituzioni umane non si aggiornano al ritmo dei rilasci di software. Tutto questo crea attrito sulla velocità del cambiamento.

La risposta onesta a «quando l'IA cambierà tutto?» è: ha già cominciato, continuerà per decenni, e molti dei cambiamenti più importanti saranno quelli che nessuno ha previsto con chiarezza in anticipo.

Un progresso che arrivi a tutti

C'è una parte del saggio di Amodei che riceve meno attenzione di quanta ne meriti. È il suo argomento sulla povertà globale e sullo sviluppo economico, e potrebbe essere la cosa più importante che scrive.

La storia dei grandi progressi tecnologici non è, a grandi linee, una storia di benefici distribuiti equamente a tutti. I primi a trarre vantaggio da nuove cure mediche, nuove infrastrutture o nuovi strumenti produttivi sono in genere le persone che hanno già un accesso affidabile ai sistemi che li distribuiscono.

Il divario tra un paese ricco di risorse e uno povero non si chiude da solo quando compare una nuova tecnologia. Spesso, prima, si allarga.

Qui l'IA ha la possibilità di essere davvero diversa.

Tra le cose più preziose che l'IA può accelerare ci sono la diagnosi e la cura delle malattie, la scienza agraria, l'accesso all'istruzione e la possibilità di offrire consigli legali e finanziari concreti a persone che non vi hanno mai avuto accesso.

È una situazione strutturalmente diversa dal costruire ferrovie o dal formare chirurghi. Il costo marginale di estendere uno strumento di IA capace a una persona in più tende a zero. Questo non garantisce un accesso equo, perché la distribuzione ha sempre le sue sfide economiche, politiche e infrastrutturali. Ma il tetto di quanto ampiamente il progresso potrebbe diffondersi è più alto che per qualunque precedente ondata tecnologica della storia.

Se questo si avverasse anche solo in parte, il contributo più rilevante dell'IA al XXI secolo potrebbe non essere ciò che fa nei laboratori di ricerca meglio attrezzati del mondo. Potrebbe essere ciò che fa per i due miliardi di persone che oggi non hanno un accesso affidabile a ciò che quei laboratori finiscono per produrre.

La cautela onesta

Amodei chiude il saggio osservando che nulla di tutto questo è garantito. Il futuro buono che descrive dipende dal gestire bene i rischi, dal mantenere l'IA allineataDefinizione di Mechane: Il problema di garantire che un sistema di IA persegua in modo affidabile ciò che i suoi progettisti intendevano davvero, e non un obiettivo appena diverso che sembra simile finché non lo è più. Il link apre la voce completa del glossario. ai valori umani e dal compiere scelte deliberate anziché scivolare, come sonnambuli, in qualcosa che nessuno aveva voluto.

Mechane non pensa che i rischi siano immaginari. Sono reali. Ma la paura, da sola, non è un piano. Indica ciò che potrebbe andare storto senza dare alcun appiglio su ciò verso cui lavorare.

Vale la pena provare a realizzare bene il XXI secolo compresso. Vale la pena costruire con cura la democratizzazione della conoscenza e delle capacità.

Un progresso che arrivi a tutti, non solo ai fortunati, va progettato esplicitamente, anziché sperare che accada per caso.

A porre le domande sono ancora gli esseri umani. Il paese di geni nel data center aspetta di ricevere una direzione.

Questo articolo ha finalità informative ed educative. Le opinioni espresse si basano su ricerche pubblicamente disponibili e sugli argomenti del saggio citato. Le previsioni sulle tempistiche e sulle capacità dello sviluppo dell'IA comportano una notevole incertezza. Nulla di quanto scritto va letto come una previsione definitiva di come si svilupperà l'IA o di che cosa otterrà.