Artificial Analysis：DeepSeek V4.1 Flash、GB300 NVL72で1か月間にエージェントあたり最大1.5倍高速化

Artificial Analysisによると、NVIDIA GB300 NVL72上のDeepSeek V4.1 Flashは、現実的なエージェント型コーディング負荷を実行するデータセンターシステムのベンチマーク「AA-AgentPerf」で、過去1か月にエージェントあたりのトークン毎秒が最大1.5倍向上しました。

• 速度： 単一エージェントで848 tok/s。従来の596 tok/sから1.42倍に向上。
• スループット： エージェントあたり約80 tok/sで、GPUあたりのスループットは約1.6倍。

Artificial Analysisは、この向上の要因として、vLLMの新しいバージョン、GB300上のDeepSeek V4.1向け新規vLLMカーネル、FlashInferの自動チューニング、CUDA graphの対応範囲拡大、投機的デコーディングの調整、そしてNVIDIAの更新版Dynamo + vLLM構成でプリフィルとデコードを同じGPU上で実行していることを挙げています。