SemiAnalysis：NVIDIA 和 Inferact 首次在 Rubin NVL72 上提交 vLLM 成绩，达到业界领先水平

SemiAnalysis 称，NVIDIA 和 Inferact 在 MiniMax M3.1 Flash 发布不到三周后，便提交了首个 Rubin NVL72 上的 vLLM 成绩。SemiAnalysis 称该成绩达到业界领先水平，且其总拥有成本性能比 GB300 NVL72 高出 6.5 倍。

据 SemiAnalysis 称，此次提交采用了 CUDA 13.4 中全新的感知局部性的 MoE 功能。该公司称，这项功能可降低延迟，并将实际 HBM 带宽提升约 1.2 倍。该公司表示，这项工作是与 vLLM 项目合作完成的。

这些数据是 SemiAnalysis 自己的说法。