vLLM、DeepSeek-V4.1-FlashでDeepSeekのDeepInferエンジンに並んだと発表

vLLMプロジェクトによると、同プロジェクトの推論エンジンは、DeepSeek-V4.1-Flash向けにDeepSeekが独自開発したエンジンDeepInferと、バッチサイズ8～256の範囲でDeepSeekのデコード設定における性能が並んだという。DeepInferのEP64DP64構成に対し、DEP32（32 GPUでのエキスパート並列処理を伴うデータ並列アテンション）でこれを達成したとしている。

vLLMによると、DeepInferはもともとvLLMをベースに構築されており、DeepSeekのオープンソースカーネルを統合し、プリフィルとデコードを大幅に最適化することで今回の結果に到達したという。投稿には性能グラフが含まれているが、数値はvLLM独自のもので、独立した検証は行われていない。10月24日時点で、Xでの投稿には約307件の「いいね」が付いていた。