Artificial Analysis: DeepSeek V4.1 Flash no GB300 NVL72 está até 1,5x mais rápido por agente em um mês

Segundo a Artificial Analysis, a velocidade do DeepSeek V4.1 Flash no NVIDIA GB300 NVL72 aumentou em até 1,5x em tokens por segundo por agente ao longo do último mês no AA-AgentPerf, seu benchmark de sistemas de datacenter executando cargas de trabalho realistas de programação agêntica.

• Velocidade: 848 tok/s para um único agente, ante 596 (1,42x).
• Vazão: cerca de 1,6x mais vazão por GPU, com aproximadamente 80 tok/s por agente.

A Artificial Analysis atribui o ganho a uma versão mais recente do vLLM, novos kernels do vLLM para DeepSeek V4.1 no GB300, ajuste automático do FlashInfer, cobertura mais ampla de CUDA graphs, decodificação especulativa ajustada e execução de prefill e decode nas mesmas GPUs na configuração atualizada do Dynamo + vLLM da NVIDIA.