SGLang affirme désormais égaler le moteur DeepInfer de DeepSeek sur DeepSeek-V4.1-Flash

Le projet SGLang affirme que son moteur d’inférence égale désormais DeepInfer, le moteur maison de DeepSeek, aussi bien en préremplissage qu’en décodage sur DeepSeek-V4.1-Flash. Quelques heures après une annonce similaire de vLLM, SGLang a indiqué atteindre jusqu’à 1,04× le débit de préremplissage de DeepInfer sur 4× GB300 et 4× B300, et jusqu’à 7,4 % de son débit de décodage sur 64× GB300.

SGLang indique également fournir un guide de reproduction de bout en bout et une pile complète pour déployer cette configuration en production. Ces chiffres viennent de SGLang et n’ont pas fait l’objet d’une vérification indépendante. Au 24 octobre, la publication avait reçu environ 149 mentions J’aime sur X.