SemiAnalysis：NVIDIA 與 Inferact 首次提交的 Rubin NVL72 vLLM 結果達到最先進水準

SemiAnalysis 表示，NVIDIA 與 Inferact 在 MiniMax M3.1 Flash 發布不到三週後，便提交了 Rubin NVL72 上的初步 vLLM 結果。SemiAnalysis 稱這項提交達到最先進水準，並表示其每總持有成本的效能比 GB300 NVL72 高出 6.5 倍。

據 SemiAnalysis 稱，這項提交採用了 CUDA 13.4 中的新型感知區域性 MoE 功能；該公司表示，此功能可降低延遲，並將實際達成的 HBM 頻寬提升約 1.2 倍。該公司將這項工作描述為與 vLLM 專案合作完成。

這些數據是 SemiAnalysis 自行提出的說法。