AI TrackerUnduh
← Semua berita

SGLang menyatakan kini menyamai mesin DeepInfer milik DeepSeek untuk DeepSeek-V4.1-Flash

Proyek SGLang menyatakan mesin inferensinya kini menyamai DeepInfer, mesin milik DeepSeek, baik untuk prefill maupun decode pada DeepSeek-V4.1-Flash. Beberapa jam setelah vLLM membuat klaim serupa, SGLang melaporkan throughput prefill hingga 1.04× DeepInfer pada 4× GB300 dan 4× B300, serta throughput decode hingga 7.4% pada 64× GB300.

SGLang juga menyatakan menyediakan panduan replikasi menyeluruh dan stack serving lengkap untuk menjalankan konfigurasi ini di lingkungan produksi. Angka-angka tersebut berasal dari SGLang dan belum diverifikasi secara independen. Hingga 24 Oktober, unggahan itu mendapat sekitar 149 suka di X.

Dapatkan berita seperti ini lewat push.

AI Tracker memberi tahu Anda saat ada perubahan pada alat yang Anda pakai.

Unduh aplikasinya