SGLang zegt nu op DeepSeek-V4.1-Flash op één lijn te liggen met DeepSeeks DeepInfer-engine

Het SGLang-project zegt dat zijn inferentie-engine nu op DeepSeek-V4.1-Flash op één lijn ligt met DeepInfer, DeepSeeks eigen engine, voor zowel prefill als decode. Een paar uur nadat vLLM een soortgelijke claim deed, meldde SGLang een prefill-doorvoer tot 1.04× die van DeepInfer op 4× GB300 en 4× B300, en een decode-doorvoer tot 7.4% op 64× GB300.

SGLang zegt ook een handleiding te bieden om de resultaten end-to-end te reproduceren, plus een volledige serving-stack om de setup in productie te draaien. De cijfers zijn afkomstig van SGLang zelf en zijn niet onafhankelijk gecontroleerd. Het bericht had op 24 oktober ongeveer 149 likes op X.