SGLang afferma di aver raggiunto le prestazioni del motore DeepInfer di DeepSeek su DeepSeek-V4.1-Flash

Il progetto SGLang afferma che il suo motore di inferenza ora eguaglia DeepInfer, il motore proprietario di DeepSeek, sia nel prefill sia nella generazione per DeepSeek-V4.1-Flash. Poche ore dopo che vLLM aveva fatto un’affermazione simile, SGLang ha riportato un throughput di prefill fino a 1,04× quello di DeepInfer su 4× GB300 e 4× B300, e un throughput di generazione fino al 7,4% su 64× GB300.

SGLang afferma inoltre di fornire una guida completa per riprodurre i risultati e uno stack di serving completo per usare la configurazione in produzione. I dati sono stati forniti da SGLang e non sono stati verificati in modo indipendente. Al 24 ottobre, il post aveva circa 149 Mi piace su X.