SGLang zufolge erreicht die Engine nun DeepSeeks DeepInfer-Engine bei DeepSeek-V4.1-Flash

Das SGLang-Projekt sagt, seine Inferenz-Engine erreiche bei DeepSeek-V4.1-Flash sowohl beim Prefill als auch beim Decode nun DeepInfer, DeepSeeks eigene Engine. Wenige Stunden nachdem vLLM eine ähnliche Behauptung aufgestellt hatte, meldete SGLang auf 4× GB300 und 4× B300 einen Prefill-Durchsatz von bis zu 1,04× dem von DeepInfer sowie auf 64× GB300 einen Decode-Durchsatz von bis zu 7,4 %.

SGLang sagt außerdem, dass es eine durchgängige Reproduktionsanleitung und einen vollständigen Serving-Stack für den produktiven Betrieb des Setups bereitstellt. Die Zahlen stammen von SGLang selbst und wurden nicht unabhängig überprüft. Der Beitrag hatte bis zum 24. Oktober etwa 149 Likes auf X.