Un fabbro che inventa un grimaldello migliore ha un problema scomodo. Il grimaldello non sa di chi sia la porta in cui è infilato. Gira con la stessa scorrevolezza per lo scassinatore e per il proprietario, e nessuna buona intenzione del fabbro ne cambia la meccanica.

È, più o meno, il problema che Google descriveva il 28 ottobre, quando ha annunciato Gemini 4 Carbon come «il nostro modello più potente, con capacità all'avanguardia nella sicurezza informatica e nei compiti a lungo orizzonte». La parte sulla sicurezza informatica è quella interessante. Google dice che Carbon è insolitamente bravo in tre compiti: trovare le debolezze nel software, verificare se possano essere davvero sfruttate, e scrivere la riparazione. Queste capacità arrivano tutte insieme. Un modello che sa trovare una falla e dimostrare che è reale è, con lo stesso gesto, un modello che potrebbe aiutare qualcuno a infilarcisi.

Così Google ne ha fatto un uso un po' insolito. I primi a ricevere Carbon sono stati un gruppo selezionato di difensori informatici. Sviluppatori paganti, aziende e pubblico hanno aspettato.

Perché i difensori sono passati per primi

La logica è quella di una gara, e di un vantaggio in partenza. Una falla in un software molto diffuso esiste che qualcuno l'abbia trovata o no. Quando uno strumento capace di trovare falle simili è nelle mani di tutti, la domanda diventa chi trova ciascuna per primo: chi la correggerà o chi la sfrutterà. Dare lo strumento in anticipo ai difensori fa pendere quella gara, per un po', a loro favore.

Google fa passare tutto questo attraverso il suo Fairwind Program, che a suo dire offre ai partner di fiducia «un vantaggio iniziale decisivo contro le minacce informatiche». L'elenco delle priorità dice molto su come Google valuta la posta in gioco: governi e autorità nazionali per la sicurezza informatica, operatori di reti sanitarie, di telecomunicazioni, energetiche e finanziarie, e le grandi piattaforme tecnologiche da cui dipende molto altro. I candidati vengono sottoposti a verifiche dei precedenti, l'accesso è limitato ai team di sicurezza interni, ed è vietato cederlo a chiunque altro.

Google dice anche di partecipare «attivamente» al processo volontario con cui il governo degli Stati Uniti testa i modelli prima del rilascio. Che cosa abbiano rilevato quei test, l'annuncio non lo dice.

Che cos'è un rilascio graduale

Un rilascio graduale fa uscire una cosa potente per cerchi concentrici, prima il più piccolo e il più fidato, e osserva che cosa succede in ciascun cerchio prima di aprire il successivo. Google ha parlato di «un approccio deliberato al rilascio», con il tempo di raccogliere riscontri e di regolare i propri guardrail, le regole e i filtri avvolti intorno al modello per impedirgli di fare ciò che non dovrebbe.

Il secondo cerchio si è aperto il 10 novembre. Il post sulla disponibilità di Google rende Carbon accessibile agli sviluppatori paganti tramite la Gemini API e Google AI Studio, alle aziende tramite Gemini for business e, con un'estensione ancora in corso, agli abbonati a Google AI Ultra nell'app Gemini e in AI Mode nella Ricerca. Il prezzo di lancio è lo stesso di Gemini 4 Argon: $2 per milione di token in input e $10 per milione di token in output, che saliranno a $4 e $20 alla fine del periodo introduttivo, il 30 novembre.

Un dettaglio è facile da perdere, e credo sia quello che conta di più. La gradualità non è davvero finita. La scheda del modello di Google dice che le capacità informatiche specializzate a duplice uso di Carbon restano accessibili solo ai difensori verificati tramite Fairwind, e il prezzo si applica, secondo una nota a piè di pagina di Google, al modello Carbon destinato all'accesso pubblico. La versione che Lei può usare ora e quella che usano i difensori non sono esattamente la stessa. Il cancello si è spostato: non riguarda più chi può usare il modello, ma che cosa il modello ha il permesso di fare.

Quanto ad Argon, è il modello che Google ha rilasciato due settimane prima di Carbon, e la scheda del modello dice che Carbon si basa su di esso. Ora Google li presenta fianco a fianco. Argon, dice, «resta la scelta ideale per la maggior parte dell'ingegneria del software e del lavoro intellettuale», mentre Carbon è pensato per i problemi più difficili e più lunghi, e dedica una parte maggiore del suo sforzo a esplorare e verificare prima di impegnarsi in una risposta. Un'immagine approssimativa ma onesta: Argon, con più pazienza e puntato sui casi difficili.

I limiti onesti

Quasi tutto ciò che sappiamo delle capacità di Carbon viene da Google, o da partner che Google ha scelto di citare. I risultati dei benchmark, le affermazioni su un codice più sicuro, i resoconti di aziende come Wiz: è la versione del produttore. Google stesso segnala che i suoi benchmark informatici esterni sono stati «valutati senza guardrail», il che significa che misurano il motore grezzo, non il prodotto che le persone usano davvero. Questo non rende false le affermazioni. Significa però che nessuno dall'esterno le ha ancora verificate, e la copertura di quei giorni, come quella di Techzine, ha in gran parte ripetuto le cifre di Google.

Anche il vantaggio iniziale ha una forma che conviene vedere bene. Dal 28 ottobre al 10 novembre passano meno di due settimane. Google riferisce che in quel tempo i suoi ricercatori di vulnerabilità hanno usato Carbon per costruire la prova che una falla in un popolare progetto open source poteva davvero essere sfruttata, il che ha aiutato i manutentori del progetto a classificarla come critica e a pubblicare rapidamente una patch. È reale, ed è un bene. Ma trovare una falla è la parte veloce. Scrivere la correzione, testarla, distribuirla e aspettare che migliaia di organizzazioni la installino è un lavoro lento e umano, e nessun modello può mettere fretta a un ospedale perché aggiorni i suoi sistemi. Due settimane bastano per trovare. Raramente bastano per correggere ovunque.

Poi c'è la domanda a cui nessuno può rispondere dall'esterno: se il cancello regge. Verifiche, registrazione delle attività e regole di accesso rigorose alzano il costo dell'abuso. Non possono renderlo impossibile.

Il rilascio graduale funziona, dunque? In parte, e in un modo particolare. Non può impedire a una capacità di diffondersi. Ciò che può fare è decidere chi si esercita per primo, e lasciare che le prime lezioni avvengano dove gli errori costano meno. È un'ambizione modesta, e forse l'unica onesta a disposizione.

Il grimaldello continua a non sapere di chi sia la porta in cui è infilato. Google ha semplicemente cercato di fare in modo che i proprietari lo sapessero per primi.

Fonti

Gemini 4 Carbon: our next frontier model, Google

Gemini 4 Carbon is now available, Google

Gemini 4 Carbon model card, Google DeepMind

Fairwind Program, Google DeepMind

Google Gemini 4 Carbon is fully committed to cyber defense, Techzine

Gemini 4 Carbon, 9to5Google