L'intelligenza artificiale generale, di solito abbreviata in AGI (dall'inglese Artificial General Intelligence), indica un sistema di IA in grado di svolgere, a livello umano o superiore, qualunque compito cognitivo che un essere umano sappia svolgere. L'accento cade sulla generalità: i sistemi di IA di oggi sono ristretti, cioè fanno bene un solo genere di cose, che si tratti di generare testo, riconoscere immagini o giocare a scacchi. Un'AGI non sarebbe confinata a un ambito. Se le si chiedesse di redigere una memoria legale, comporre musica, diagnosticare una malattia o dimostrare un teorema, affronterebbe ciascun compito con la competenza di uno specialista umano capace.

La definizione è apertamente contesa. Alcuni ricercatori fissano l'asticella nell'eguagliare la migliore prestazione umana in ogni campo. Altri la definiscono come la capacità di imparare compiti nuovi da pochissimi esempi, come fanno gli esseri umani. Nel 1999 Ray Kurzweil collocò l'AGI nel 2029; in seguito ha definito quella stima prudente. Diversi laboratori di IA, tra cui OpenAI e Anthropic, hanno indicato l'AGI come obiettivo primario, anche se le loro definizioni interne differiscono. La mancanza di una definizione condivisa rende il dibattito in parte circolare: il traguardo potrebbe essere rivendicato prima che ci sia consenso sul fatto che sia stato raggiunto.

Ciò che rende l'AGI qualitativamente diversa dall'IA attuale non è la capacità bruta, ma l'adattabilità. Un grande modello linguistico addestrato oggi è straordinario nei compiti che rientrano nella sua distribuzione di addestramento e inaffidabile al di fuori di essa. Un'AGI, per definizione, trasferirebbe conoscenze e ragionamento in ambiti sconosciuti, come fanno gli esseri umani quando incontrano problemi davvero nuovi. Ed è proprio questo trasferimento che, oggi, né i sistemi più capaci né i loro progettisti sanno fino in fondo come costruire in modo affidabile.

Per chi voglia seguire la discussione senza una formazione tecnica: l'AGI è la soglia oltre la quale la parola «strumento» diventa inadeguata a descriverla. L'IA attuale è uno strumento molto potente. L'AGI sarebbe qualcosa di più simile a un collega: capace di giudizio indipendente, di risolvere davvero problemi in contesti nuovi e, potenzialmente, di migliorare le proprie capacità. Se questo si rivelerà un bene, un pericolo o semplicemente qualcosa di strano è ciò di cui tratta, in fondo, la maggior parte del serio dibattito sulla sicurezza dell'IA.