SGLang заявляет, что теперь не уступает движку DeepSeek DeepInfer на DeepSeek-V4.1-Flash

Проект SGLang утверждает, что его движок инференса теперь не уступает DeepInfer, собственному движку DeepSeek, как на этапе prefill, так и на этапе decode для DeepSeek-V4.1-Flash. Через несколько часов после аналогичного заявления vLLM SGLang сообщила, что пропускная способность prefill составляет до 1.04× от показателя DeepInfer на 4× GB300 и 4× B300, а пропускная способность decode — до 7.4% на 64× GB300.

SGLang также утверждает, что предоставляет подробное руководство по воспроизведению результатов от начала до конца и полный стек для запуска этой конфигурации в продакшене. Эти данные приводит сама SGLang, и они не прошли независимую проверку. К 24 октября у публикации было около 149 лайков в X.