NVIDIA、RubinのHBM4とNVLinkの帯域を引き下げ
NVIDIAは、Rubin世代のGPUおよびVera Rubin NVL72、HGX Rubin NVL8を含む関連システムの最終的な技術仕様を確定した。ServeTheHomeが報じた。暫定仕様との主な違いは、一部のサブシステムの速度に関するものである。
一方、AI分野の性能は従来のまま維持された。NVFP4モードでは、推論で50 PFLOPS、モデルの学習で35 PFLOPSに達する。INT8演算では最大250 TOPS、TF32演算では最大2 PFLOPSとなる。同社はRubinのその他の仕様を変更していない。
プロセッサー1基あたりのHBM4メモリ帯域は、22 TB/sから19.2 TB/sに引き下げられた。構成は36 GBのHBM4スタック8基、合計288 GBである。各スタックの速度はピンあたり10.75 Gbit/sから9.375 Gbit/sに低下し、約13 %の減少となった。
NVLink相互接続も低速化し、帯域は3.6 TB/sから3 TB/sへと17 %減少した。これに対し、水平方向のスケールアウト(Scale Out)では、0.4 TB/sから0.45 TB/sに増加している。
主力システムのVera Rubin NVL72では、HBM4メモリの総帯域が1580 TB/sから1400 TB/sに、NVLinkが260 TB/sから216 TB/sに減少した。一方、Scale Out相互接続の値は28.8 TB/sから32.4 TB/sに上昇した。
HGX Rubin NVL8では、HBM4の帯域が176 TB/sから130 TB/sに、NVLinkが28.8 TB/sから24 TB/sに低下した。ネットワークの値は1.6 TB/sから1.8 TB/sに増えている。さらにNVIDIAは、このシステムのHBM4容量も当初予定の2.3 TBから2 TBに減らした。