NVIDIA、次世代AI推論がGB300比3.7倍
詳細を読む
NVIDIAは2026年9月16日、AI推論ベンチマークMLPerf Inference v6.1で、次世代システムVera Rubin NVL72の初のプレビュー結果を公表しました。Qwen3-VLの処理量はGB300 NVL72比で最大3.7倍、DeepSeek-R1では最大2.5倍でした。4ラック構成のGB300は99%の拡張効率も示しました。
Vera Rubinは、Qwen3-VLのオフライン、サーバー、対話の各条件で最大3.7倍の処理量を記録しました。この試験はオープンソースのvLLMとNVIDIA Dynamoを使用し、DeepSeek-R1ではTensorRT-LLMを使って最大2.5倍となりました。
性能向上の背景には、Tensor CoreとTransformer Engine、メモリー使用量を減らすNVFP4精度、入力処理と出力生成を分離する分散サービングがあります。第6世代NVLinkとNVLink Switchは、市販イーサネット比でパケット処理速度を10倍、遅延を3分の1にしたとNVIDIAは説明しています。
GB300 NVL72は、DeepSeek-R1で1ラック72GPUから4ラック288GPUへ拡張した際、処理量がほぼ比例して増え、99%の拡張効率を達成しました。WAN 2.2の文章から動画を生成する試験では、単一ノード比で処理量9倍、遅延7.5分の1を記録しています。
ソフトウェア面では、GB300のQwen3-VL性能がv6.0比で最大1.6倍に向上しました。提出期限後のGPT-OSS-120BとDLRMv3でも追加の改善を示しましたが、こちらはMLCommonsによる未検証の結果です。19社のパートナーも参加し、エッジ機器から複数ラックまで幅広い構成を提出しました。