Un serrurier qui invente un meilleur crochet se trouve face à un problème embarrassant. Le crochet ignore à qui appartient la porte qu’il ouvre. Il tourne aussi bien pour le cambrioleur que pour le propriétaire, et aucune bonne intention du serrurier ne change rien à la mécanique.
C’est, à peu près, le problème que Google décrivait le 28 octobre, lorsqu’il a annoncé Gemini 4 Carbon comme « notre modèle le plus puissant, doté de capacités de pointe en cybersécurité et sur les tâches de long horizon ». C’est le volet cybersécurité qui est intéressant. Google affirme que Carbon excelle dans trois tâches : trouver des faiblesses dans les logiciels, vérifier si elles peuvent réellement être exploitées, et écrire la réparation. Ces compétences vont ensemble. Un modèle capable de trouver une brèche et de prouver qu’elle est réelle est, par le même geste, un modèle qui pourrait aider quelqu’un à s’y faufiler.
Google en a donc fait quelque chose d’un peu inhabituel. Les premiers à recevoir Carbon ont été une partie des défenseurs de la cybersécurité. Les développeurs payants, les entreprises et le public ont attendu.
Pourquoi les défenseurs sont passés en premier
La logique est celle d’une course, et d’une longueur d’avance. Une faille dans un logiciel largement utilisé existe, que quelqu’un l’ait trouvée ou non. Dès qu’un outil efficace pour trouver de telles failles est entre toutes les mains, la question devient : qui trouve chacune d’elles en premier, ceux qui la corrigeront ou ceux qui l’exploiteront ? Donner l’outil aux défenseurs plus tôt fait pencher cette course, pour un temps, en leur faveur.
Google fait passer cela par son Fairwind Program, qui, selon lui, donne à des partenaires de confiance « une avance décisive face aux cybermenaces ». La liste des priorités dit comment Google conçoit l’enjeu : les gouvernements et les autorités nationales de cybersécurité, les exploitants de réseaux de santé, de télécommunications, d’énergie et de finance, et les grandes plateformes technologiques dont tant d’autres choses dépendent. Les candidats font l’objet de vérifications d’antécédents, l’accès est limité aux équipes de sécurité internes, et il est interdit de le transmettre à qui que ce soit d’autre.
Google indique aussi être « activement engagé » dans le processus volontaire par lequel le gouvernement des États-Unis teste les modèles avant leur sortie. Ce que ces tests ont révélé, l’annonce ne le dit pas.
Ce qu’est un déploiement par étapes
Un déploiement par étapes laisse sortir une chose puissante par cercles successifs, le plus petit et le plus sûr d’abord, et observe ce qui se passe à chaque cercle avant d’ouvrir le suivant. Google a parlé d’« une approche délibérée du déploiement », avec le temps de recueillir des retours et d’ajuster ses garde-fous, les règles et les filtres qui entourent le modèle pour l’empêcher de faire ce qu’il ne doit pas faire.
Le deuxième cercle s’est ouvert le 10 novembre. La publication de Google sur la disponibilité rend Carbon accessible aux développeurs payants par l’API Gemini et Google AI Studio, aux entreprises par Gemini for business et, dans un déploiement encore en cours, aux abonnés de Google AI Ultra dans l’application Gemini et dans le mode IA de la recherche. Le prix de lancement est aligné sur celui de Gemini 4 Argon : 2 $ par million de tokens en entrée et 10 $ par million de tokens en sortie, qui passeront à 4 $ et 20 $ à la fin de la période de lancement, le 30 novembre.
Un détail passe facilement inaperçu, et c’est à mon sens celui qui compte le plus. Les étapes ne sont pas vraiment terminées. La fiche du modèle publiée par Google indique que les capacités cyber spécialisées de Carbon, à double usage, restent réservées aux défenseurs vérifiés, par l’intermédiaire de Fairwind, et la tarification s’applique, selon une note de bas de page de Google, au modèle Carbon destiné au public. La version que vous pouvez utiliser aujourd’hui et celle qu’utilisent les défenseurs ne sont pas tout à fait les mêmes. La barrière ne porte plus sur qui peut utiliser le modèle, mais sur ce que le modèle a le droit de faire.
Quant à Argon, c’est le modèle que Google a sorti deux semaines avant Carbon, et la fiche du modèle précise que Carbon repose sur lui. Google les présente désormais côte à côte. Argon, dit-il, « reste le choix idéal pour la majorité des travaux de génie logiciel et de connaissance », tandis que Carbon est destiné aux problèmes les plus difficiles et les plus longs, et consacre une plus grande part de son effort à explorer et à vérifier avant de s’engager sur une réponse. Une image grossière mais juste : Argon, avec davantage de patience, tourné vers les cas difficiles.
Les limites, honnêtement
Presque tout ce que nous savons des capacités de Carbon vient de Google, ou de partenaires que Google a choisi de citer. Les résultats aux benchmarks, les affirmations sur un code plus sûr, les témoignages d’entreprises comme Wiz : c’est la version du fabricant. Google note lui-même que ses benchmarks externes de cybersécurité ont été « évalués sans garde-fous », ce qui signifie qu’ils mesurent le moteur brut, et non le produit que les gens utilisent réellement. Cela ne rend pas ces affirmations fausses. Cela signifie en revanche que personne à l’extérieur ne les a encore vérifiées, et la couverture de l’époque, comme celle de Techzine, a largement repris les chiffres de Google.
La longueur d’avance a aussi une forme qu’il vaut la peine de voir clairement. Du 28 octobre au 10 novembre, il s’est écoulé moins de quinze jours. Google rapporte que, pendant ce temps, ses propres chercheurs en vulnérabilités ont utilisé Carbon pour démontrer qu’une faille dans un projet open source populaire pouvait réellement être exploitée, ce qui a aidé les mainteneurs du projet à la classer comme critique et à publier rapidement un correctif. C’est réel, et c’est bien. Mais trouver une faille est la partie rapide. Écrire le correctif, le tester, le livrer, puis attendre que des milliers d’organisations l’installent est un travail lent et humain, et aucun modèle ne peut presser un hôpital de mettre à jour ses systèmes. Deux semaines suffisent pour trouver des choses. Elles suffisent rarement pour les corriger partout.
Reste la question à laquelle personne ne peut répondre de l’extérieur : la barrière tient-elle ? La vérification des candidats, la journalisation et des règles de connexion strictes augmentent le coût d’un usage malveillant. Elles ne peuvent pas le rendre impossible.
Alors, le déploiement par étapes fonctionne-t-il ? En partie, et d’une manière bien particulière. Il ne peut pas empêcher une capacité de se répandre. Ce qu’il peut faire, c’est décider qui s’y exerce en premier, et laisser les premières leçons se produire là où les erreurs coûtent le moins. C’est une ambition modeste, et peut-être la seule qui soit honnête.
Le crochet ignore toujours à qui appartient la porte qu’il ouvre. Google a simplement tenté de faire en sorte que les propriétaires en entendent parler les premiers.
Sources
Gemini 4 Carbon: our next frontier model, Google
Gemini 4 Carbon is now available, Google
Gemini 4 Carbon model card, Google DeepMind
Fairwind Program, Google DeepMind
Google Gemini 4 Carbon is fully committed to cyber defense, Techzine
