Vera Rubin NVL72, 첫 벤치마크에서 GB300보다 3.7배 빨랐다

NVIDIA가 MLPerf Inference v6.1 결과를 공개했어. 이 벤치마크에 Vera Rubin NVL72라는 새 랙이 처음 낸 성적표인데, 숫자가 세. 첫 프리뷰 제출에서 GB300 NVL72 대비 최대 3.7배 높은 처리량을 냈다는 얘기야.¹

MLPerf Inference는 NVIDIA 혼자 매기는 점수가 아니야. 이번 제출에는 ASUS, Azure, Cisco, CoreWeave, Crusoe, Dell Technologies 등 19개 파트너가 참여했고, 그중 8곳은 여러 노드를 묶은 Blackwell NVL72 시스템으로 참여했어.¹

어떤 벤치마크에서 3.7배인가

NVIDIA는 이번 v6.1에서 가장 까다롭다는 벤치마크 두 개, DeepSeek-R1과 Qwen3-VL에 Vera Rubin NVL72 프리뷰 결과를 냈어.¹

Qwen3-VL에서는 vLLM에 NVIDIA Dynamo라는 오픈소스 추론 프레임워크를 얹어 GB300 NVL72 대비 최대 3.7배 처리량을 냈고, DeepSeek-R1에서는 NVIDIA TensorRT-LLM을 써서 최대 2.5배 높은 처리량을 기록했어.¹

두 벤치마크의 숫자가 다른 건 이상한 일이 아니야. 모델 구조와 쓴 소프트웨어 스택이 다르니까. 중요한 건 두 벤치마크 모두 GB300보다 빨라졌다는 방향이야.

회사가 설명하는 이유

왜 빨라졌는지는 NVIDIA의 설명으로 들어야 해. Vera Rubin의 개선된 Tensor Core와 Transformer Engine이 추론의 prefill·decode 단계를 가속하고, NVFP4라는 저정밀도 포맷이 모델 가중치·attention·KV 캐시의 메모리 사용량을 줄인다는 게 회사 설명이야.¹

인터커넥트 쪽 숫자도 회사가 냈어. 6세대 NVLink와 NVLink Switch는 기성 이더넷 대비 10배 높은 패킷 처리율과 3배 낮은 지연시간을 낸다고 밝혔어.¹

이 둘은 이번 결과의 원인으로 회사가 제시한 설명이지, MLPerf가 따로 검증한 항목은 아니야.

GB300은 스케일링에서 점수를 냈다

이번 결과에서 새 랙만 눈에 띄는 건 아니야. 한 세대 앞선 GB300 NVL72는 스케일링 효율에서 점수를 냈어. 4랙(288개 GPU) 구성이 99%의 스케일링 효율을 달성했다는 게 NVIDIA 설명이야.¹

구체적으로는 DeepSeek-R1 제출이 GB300 NVL72 1랙(72개 GPU)에서 4랙(288개 GPU)으로 확장하며 오프라인 시나리오에서 99% 효율을 냈어. GPU 수를 4배로 늘렸는데 처리량도 거의 그만큼 늘었다는 뜻이야.¹

소프트웨어만 바꿔서 낸 점수도 있어. v6.1의 소프트웨어 최적화는 v6.0 대비 최대 1.6배 성능 향상을 냈다고 해.¹

영상 생성 쪽 벤치마크에서도 점수가 나왔어. GB300 NVL72는 WAN 2.2 텍스트-투-비디오 벤치마크에서 초당 0.65개(영상당 5.7초)의 720p 영상을 생성했는데, 이건 싱글 노드 대비 9배 높은 처리량과 7.5배 낮은 지연시간이야.¹

에이전트 벤치마크에서는 격차가 더 크다

여러 단계를 거쳐 판단하고 행동하는 에이전트 워크로드를 재는 SemiAnalysis AgentX 벤치마크에서는 격차가 더 벌어져. Vera Rubin NVL72가 GB300 NVL72 대비 30배 더 나은 성능을 보였다는 게 프리뷰 테스트 결과야.¹

30배라는 숫자는 프리뷰 테스트에서 나온 거고, 이 벤치마크에 참여한 곳도 NVIDIA 혼자는 아니야. Nebius도 Vera Rubin NVL72 프리뷰 결과를 냈고 좋은 성능을 보였다고 해.¹

이 랙의 스펙 자체는 8월 Hot Chips 2026에서 먼저 공개됐었어(NVIDIA가 랙 전체를 다시 설계한 이유는 에이전트였다). 그때 나온 숫자는 회사가 낸 스펙표였는데, 이번엔 실제 벤치마크 제출로 처음 나온 성적이야.

각주

1. NVIDIA, 「NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut」(2026-09-16) 원문 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰ ↩︎¹¹ ↩︎¹²