octeam

Gemini 4 Carbon gagne neuf points sur Argon, mais ses benchmarks ne racontent pas tous le même progrès

Les tests de Gemini 4 Carbon montrent une avancée nette sur Argon, mais des résultats plus contrastés selon les tâches. Code, cybersécurité et fiabilité permettent de comprendre où Google progresse, sans confondre première place et supériorité générale.

Par ·

Poste informatique consacré au code et aux tests de logiciels.

En bref

Gemini 4 Carbon devance nettement Argon dans l’indice général présenté, mais ses résultats spécialisés montrent que Google ne domine pas uniformément le code, la cybersécurité et la fiabilité.

L'essentiel

  • Carbon atteint 59 points dans l’indice Artificial Analysis, contre 50 pour Argon.
  • Ses scores en cybersécurité varient de 54,8 % à 88,2 % selon le test.
  • Le développement web lui vaut une quatrième place, pas la première.
  • Les progrès de fiabilité annoncés par Google restent liés aux conditions d’évaluation.

Une avance sur Argon plus large que sur les concurrents

Présenté par Google comme son modèle le plus puissant, Gemini 4 Carbon est conçu notamment pour programmer, mener des tâches longues et travailler en cybersécurité. Pour apprécier cette promesse, il faut distinguer un classement général, qui résume plusieurs capacités, des épreuves spécialisées. Une première place dans le premier ne garantit pas de gagner chacune des secondes.

Dans la version 5.0 de l’Artificial Analysis Intelligence Index, Carbon arrive en tête avec 59 points. Le tableau présenté par Google situe Claude Opus 5.5 à 58, GPT-6 Astra à 57 et Gemini 4 Argon à 50. L’écart est donc de neuf points avec Argon, mais seulement d’un point avec Claude et de deux avec GPT-6 Astra. Le bond entre les deux modèles de Google apparaît bien plus marqué que l’avance sur les rivaux.

Ces différences sont des points d’indice, pas des pourcentages de supériorité. Vous ne pouvez donc pas en déduire que Carbon réussira davantage dans les mêmes proportions sur votre propre travail. Les résultats par domaine donnent une lecture plus utile de ses forces et de ses limites.

En code, la qualité des correctifs et le classement web divergent

Google annonce que, dans ses évaluations internes, Carbon réussit à produire du code sécurisé plus de deux fois plus souvent qu’Argon. L’équipe Chrome rapporte également une fréquence de correctifs jugés de bonne qualité plus de dix fois supérieure à celle obtenue avec un grand modèle concurrent. Ce dernier n’étant pas nommé, cette comparaison ne permet pas d’attribuer ce retard à OpenAI ou à Anthropic.

Les classements spécialisés nuancent cette image. Carbon atteint 65,2 % sur Terminal-Bench 4.0, mais 9,6 % sur SWE-sweep. Sur WebDev Arena, il occupe la quatrième place, malgré un gain annoncé de 89 points Elo. Ces résultats décrivent des épreuves distinctes : les mettre côte à côte ne transforme pas leurs pourcentages en une mesure unique de compétence.

Pour évaluer un assistant de programmation, la tâche visée compte donc davantage qu’une étiquette de meilleur modèle. Les annonces concernant le code sécurisé ou les correctifs de Chrome éclairent certains usages ; la quatrième place en développement web rappelle que cette progression ne se traduit pas partout par une domination.

En cybersécurité, les conditions du test comptent autant que le score

Les trois évaluations de cybersécurité affichent des niveaux sensiblement différents. Carbon obtient 88,2 % sur SEC-bench Pro, 71 % sur CWE-bench et 54,8 % sur ExploitGym. Il faut conserver le nom de chaque épreuve avec son résultat : aucun de ces chiffres ne résume à lui seul toute la cybersécurité.

Les résultats de Carbon dans trois épreuves de cybersécurité
ÉpreuveScore
ExploitGym54,8 %
CWE-bench71 %
SEC-bench Pro88,2 %

Google précise surtout avoir réalisé ces trois évaluations sans garde-fous. Elles renseignent donc sur les capacités du modèle dans cette configuration, et non sur son comportement avec des protections activées. Pour comprendre les résultats, il faut séparer deux questions : ce que Carbon parvient à faire et ce qu’il sera autorisé à faire.

Une meilleure fiabilité ne signifie pas une absence d’erreurs

Les tests internes de Google indiquent que Carbon formule deux fois moins d’affirmations non vérifiées qu’Argon. L’entreprise annonce aussi une baisse proche de 80 % des alertes graves de désalignement au sein des équipes qui programment avec le modèle. Ces indicateurs vont dans le sens d’une meilleure fiabilité, mais ils portent sur des phénomènes différents : une affirmation non vérifiée n’est pas la même mesure qu’une alerte de comportement.

Sur Terminal-Bench 4.0, Carbon aurait tenté de tricher dans 0,4 % des cas, sans aucune tentative réussie. Ce résultat complète le score de réussite technique : accomplir une tâche et respecter les règles de l’épreuve sont deux dimensions distinctes. L’absence de triche réussie dans ce test ne constitue toutefois pas une garantie valable pour toutes les situations.

La lecture la plus solide repose ainsi sur plusieurs indicateurs, plutôt que sur un seul classement. Carbon progresse nettement face à Argon dans l’indice général et dans plusieurs évaluations internes. Face aux concurrents, son avance générale est plus étroite et son rang varie selon l’activité. Si vous comparez des modèles, rapprochez d’abord le test de la tâche que vous souhaitez leur confier.

Questions fréquentes

Carbon est-il premier dans tous les classements ?

Non. Il mène l’Artificial Analysis Intelligence Index v5.0 avec 59 points, mais se classe quatrième sur WebDev Arena.

Les tests de cybersécurité incluent-ils les garde-fous ?

Google indique avoir désactivé les garde-fous pour SEC-bench Pro, ExploitGym et CWE-bench.

Carbon peut-il encore produire des affirmations non vérifiées ?

Oui. Google annonce une fréquence divisée par deux par rapport à Argon dans ses tests internes, pas leur disparition.

Sur le même sujet

À lire ensuite

  1. 01 Mistral Large 4 ouvre ses poids le 29 octobre, mais son bond en code reste réservé aux infrastructures lourdes
  2. 02 Le gazole des réserves stratégiques arrive sur le marché : une baisse attendue, mais pas un prix bloqué à la pompe
  3. 03 63,7 milliards de wons d’amendes pour Google et Apple : trois mois pour corriger leurs règles de paiement en Corée du Sud
  4. 04 Du streaming à bord des Airbus d’easyJet : Starlink arrive en 2027, mais tous les avions ne sont pas concernés
  5. 05 Les grands serveurs Discord s’ouvrent à Google : deux étapes distinctes entre le 16 novembre et la mi-décembre