SGLang, DeepSeek-V4.1-Flash’te artık DeepSeek’in DeepInfer motoruyla eşleştiğini söylüyor

SGLang projesi, çıkarım motorunun DeepSeek-V4.1-Flash’te hem prefill hem de decode işlemlerinde DeepSeek’in kendi motoru DeepInfer ile artık eşleştiğini söylüyor. vLLM’in benzer bir iddiada bulunmasından birkaç saat sonra SGLang, 4× GB300 ve 4× B300 üzerinde DeepInfer’ın prefill verimini 1,04×’e kadar, 64× GB300 üzerinde ise decode verimini %7,4’e kadar çıkardığını bildirdi.

SGLang ayrıca kurulumu üretimde çalıştırmak için uçtan uca bir yeniden oluşturma kılavuzu ve eksiksiz bir sunum yığını sunduğunu belirtiyor. Rakamlar SGLang’ın kendi verileri ve bağımsız olarak doğrulanmadı. Gönderi, 24 Ekim itibarıyla X’te yaklaşık 149 beğeni almıştı.