엔비디아, 루빈 HBM4·NVLink 대역폭 하향 조정
엔비디아가 루빈 GPU와 이를 기반으로 한 베라 루빈 NVL72, HGX 루빈 NVL8 등 시스템의 최종 기술 사양을 확정했다. 서브더홈(ServeTheHome)이 보도했다. 예비 사양과의 주요 차이는 일부 하위 시스템의 속도에 관한 것이다.
반면 인공지능 성능은 기존 수준을 유지했다. NVFP4 모드에서 연산 속도는 추론 시 50 PFLOPS, 모델 학습 시 35 PFLOPS에 이른다. INT8 연산에서는 최대 250 TOPS, TF32 연산에서는 최대 2 PFLOPS를 기록한다. 회사는 루빈의 다른 사양은 변경하지 않았다.
프로세서 1개당 HBM4 메모리 대역폭은 22TB/s에서 19.2TB/s로 낮아졌다. 구성은 36GB 용량의 HBM4 스택 8개, 총 288GB다. 각 스택의 속도는 핀당 10.75Gbit/s에서 9.375Gbit/s로 떨어져 약 13% 감소했다.
NVLink 인터커넥트도 느려졌다. 대역폭은 3.6TB/s에서 3TB/s로 17% 줄었다. 반면 수평 확장(Scale Out) 수치는 0.4TB/s에서 0.45TB/s로 늘었다.
주력 시스템인 베라 루빈 NVL72에서는 HBM4 메모리 총 대역폭이 1580TB/s에서 1400TB/s로, NVLink는 260TB/s에서 216TB/s로 감소했다. 스케일 아웃 인터커넥트 수치는 28.8TB/s에서 32.4TB/s로 상승했다.
HGX 루빈 NVL8의 경우 HBM4 대역폭은 176TB/s에서 130TB/s로, NVLink는 28.8TB/s에서 24TB/s로 낮아졌다. 네트워크 수치는 1.6TB/s에서 1.8TB/s로 증가했다. 아울러 엔비디아는 이 시스템의 HBM4 용량도 당초 계획한 2.3TB에서 2TB로 줄였다.