NVIDIA senkt Bandbreite von HBM4 und NVLink bei Rubin
NVIDIA hat die endgültigen technischen Daten der Rubin-Grafikprozessoren sowie der darauf basierenden Systeme festgelegt, darunter Vera Rubin NVL72 und HGX Rubin NVL8. Das berichtet das Portal ServeTheHome. Die wichtigsten Abweichungen von den vorläufigen Angaben betreffen die Geschwindigkeit einzelner Subsysteme.
Die Leistung bei KI-Aufgaben bleibt dagegen unverändert. Im NVFP4-Modus erreicht die Rechenleistung 50 PFLOPS bei der Inferenz und 35 PFLOPS beim Training von Modellen. Bei INT8-Operationen liegt der Wert bei bis zu 250 TOPS, bei TF32 bei bis zu 2 PFLOPS. Weitere Änderungen an den Parametern von Rubin hat das Unternehmen nicht vorgenommen.
Die Speicherbandbreite von HBM4 pro Prozessor wurde von 22 auf 19,2 TB/s gesenkt. Die Konfiguration sieht acht HBM4-Stacks mit je 36 GB vor, insgesamt also 288 GB. Die Geschwindigkeit jedes Stacks sank von 10,75 auf 9,375 Gbit/s pro Pin, also um etwa 13 %.
Auch die NVLink-Verbindung wurde langsamer: Ihre Bandbreite verringerte sich von 3,6 auf 3 TB/s, das entspricht 17 %. Für die horizontale Skalierung (Scale Out) stieg der Wert dagegen von 0,4 auf 0,45 TB/s.
Beim Flaggschiff-System Vera Rubin NVL72 ging die gesamte HBM4-Speicherbandbreite von 1580 auf 1400 TB/s zurück, die von NVLink von 260 auf 216 TB/s. Die Kennzahl für die Scale-Out-Verbindung stieg hingegen von 28,8 auf 32,4 TB/s.
Beim System HGX Rubin NVL8 fiel die HBM4-Bandbreite von 176 auf 130 TB/s und die von NVLink von 28,8 auf 24 TB/s. Der Netzwerkwert legte dagegen von 1,6 auf 1,8 TB/s zu. Zudem verringerte NVIDIA die HBM4-Speichermenge dieses Systems von ursprünglich geplanten 2,3 auf 2 TB.