Artificial Analysis: за месяц скорость DeepSeek V4.1 Flash на GB300 NVL72 выросла до 1,5 раза на агента
По данным Artificial Analysis, за последний месяц скорость DeepSeek V4.1 Flash на NVIDIA GB300 NVL72 выросла до 1,5 раза по числу токенов в секунду на агента в AA-AgentPerf — бенчмарке дата-центровых систем, выполняющих реалистичные агентные задачи по программированию.
- Скорость: 848 токенов/с для одного агента против 596 ранее (рост в 1,42 раза).
- Пропускная способность: примерно в 1,6 раза выше на GPU — около 80 токенов/с на агента.
Artificial Analysis связывает рост показателей с более новой версией vLLM, новыми ядрами vLLM для DeepSeek V4.1 на GB300, автоматической настройкой FlashInfer, более полным охватом графов CUDA, настроенной спекулятивной декодировкой, а также запуском prefill и decode на одних и тех же GPU в обновлённой конфигурации NVIDIA Dynamo + vLLM.
Источники
Получайте такие новости в push.
AI Tracker сообщит, когда что-то меняется в ваших инструментах.