Le fait
Plusieurs médias spécialisés, dont Wccftech et TechPowerUp, ont relevé que NVIDIA a modifié la fiche technique publique de Vera Rubin, sa nouvelle génération de systèmes pour centres de données. Selon des pages archivées citées par Wccftech, le changement a eu lieu entre le 1er et le 11 septembre, sans annonce. Par GPU Rubin, la bande passante de la mémoire HBM4 passe de 22 à 19,2 To/s (moins 12,7 %) et le débit NVLink 6 (le lien qui relie les GPU entre eux) de 3,6 à 3 To/s (moins 16,7 %). La capacité mémoire reste de 288 Go par GPU.
À l’échelle d’une baie Vera Rubin NVL72 (72 GPU), la bande passante HBM4 passe de 1 580 à 1 400 To/s et le NVLink de 260 à 216 To/s, tandis que le réseau monte de 28,8 à 32,4 To/s. Le serveur HGX Rubin NVL8 perd aussi en mémoire et en débit, et la puissance d’entraînement annoncée en précision NVFP4 passe de 280 à 270 pétaflops.
Contexte
Dans une déclaration transmise à Wccftech, NVIDIA explique que les premiers chiffres étaient des objectifs d’architecture préliminaires et que les nouveaux reflètent ce que le système tient en production qualifiée en volume. Le groupe ajoute que Vera Rubin NVL72 est en pleine production et en livraison, que les tests de performance publiés par des tiers ont été mesurés avec les valeurs de production, et maintient un gain de 30 fois en performance par watt et en jetons par dollar face au GB300 NVL72.
Le 27 octobre, Oracle annonçait des grappes Vera Rubin à l’échelle de plusieurs gigawatts (notre billet).
Pourquoi ça compte
Une baisse de 12 à 17 % du débit mémoire ou d’interconnexion ne se traduit pas mécaniquement en baisse équivalente sur une application réelle, mais ce sont les deux valeurs qui limitent le plus les grands modèles. Les acheteurs qui ont dimensionné des projets sur les premières fiches doivent refaire leurs calculs.
Lecture Neurone21
Une leçon simple pour tout achat de matériel d’IA : dimensionner sur les valeurs de production et sur des mesures publiées, jamais sur les objectifs de lancement. La prochaine occasion d’en savoir plus sera la présentation des résultats trimestriels de NVIDIA, le 17 novembre.