AI TrackerDescargar
← Todas las noticias

SGLang afirma que ya iguala al motor DeepInfer de DeepSeek en DeepSeek-V4.1-Flash

El proyecto SGLang afirma que su motor de inferencia ya iguala a DeepInfer, el motor de DeepSeek, tanto en prefill como en decode para DeepSeek-V4.1-Flash. Unas horas después de que vLLM hiciera una afirmación similar, SGLang informó de un rendimiento de prefill de hasta 1,04× el de DeepInfer con 4× GB300 y 4× B300, y de un rendimiento de decode de hasta un 7,4 % con 64× GB300.

SGLang también afirma que ofrece una guía para reproducir todo el proceso de principio a fin y una pila completa para ejecutar la configuración en producción. Las cifras son propias de SGLang y no se han verificado de forma independiente. La publicación tenía unos 149 «me gusta» en X al 24 de octubre.

Recibe noticias como esta por push.

AI Tracker te avisa cuando algo cambia en las herramientas que usas.

Descargar la app