vLLM, DeepSeek-V4.1-Flash에서 DeepSeek의 DeepInfer 엔진과 성능이 같다고 밝혀

vLLM 프로젝트는 자사의 추론 엔진이 배치 크기 8~256에서 DeepSeek의 디코드 설정 기준으로 DeepSeek-V4.1-Flash용 자체 엔진인 DeepInfer와 성능이 같아졌다고 밝혔습니다. DeepInfer의 EP64DP64 설정에 맞서, vLLM은 32개 GPU에서 전문가 병렬화를 적용한 데이터 병렬 어텐션인 DEP32로 이 성능을 달성했다고 합니다.

vLLM에 따르면 DeepInfer는 원래 vLLM을 기반으로 개발됐으며, DeepSeek의 오픈소스 커널을 통합하고 프리필과 디코드를 대대적으로 최적화해 이 결과를 냈습니다. 게시물에는 성능 차트가 포함되어 있지만, 수치는 vLLM 자체가 제시한 것으로 독립적으로 검증되지는 않았습니다. 10월 24일 기준 X에서 이 게시물은 약 307개의 좋아요를 받았습니다.