AI Tracker下載 App
← 所有新聞

SGLang 表示,其引擎如今在 DeepSeek-V4.1-Flash 上的表現已追平 DeepSeek 自家的 DeepInfer 引擎

SGLang 專案表示,其推論引擎在 DeepSeek-V4.1-Flash 的 prefill 和 decode 方面,如今都已追平 DeepSeek 自家的 DeepInfer。在 vLLM 做出類似宣稱的幾小時後,SGLang 回報,在 4× GB300 和 4× B300 上,prefill 吞吐量最高可達 DeepInfer 的 1.04×;在 64× GB300 上,decode 吞吐量最高可達 7.4%。

SGLang 也表示,提供端到端的重現指南,以及可在正式環境中執行此配置的完整服務堆疊。這些數據來自 SGLang,尚未經過獨立驗證。截至 10 月 24 日,該貼文在 X 上約有 149 個讚。

這樣的新聞,第一時間推播給你。

你使用的 AI 工具一有變化,AI Tracker 就會通知你。

下載 App