Artificial Analysis: DeepSeek V4.1 Flash su GB300 NVL72 è fino a 1,5 volte più veloce per agente in un mese

Secondo Artificial Analysis, nell’ultimo mese la velocità di DeepSeek V4.1 Flash su NVIDIA GB300 NVL72 è aumentata fino a 1,5 volte in token al secondo per agente su AA-AgentPerf, il suo benchmark di sistemi per data center che eseguono carichi di lavoro realistici di programmazione agentica.

• Velocità: 848 tok/s per un singolo agente, rispetto ai 596 precedenti (1,42 volte).
• Throughput: circa 1,6 volte il throughput per GPU, a circa 80 tok/s per agente.

Artificial Analysis attribuisce il miglioramento a una versione più recente di vLLM, a nuovi kernel vLLM per DeepSeek V4.1 su GB300, all’autotuning di FlashInfer, a una copertura più completa dei grafi CUDA, alla decodifica speculativa ottimizzata e all’esecuzione di prefill e decode sulle stesse GPU nella configurazione aggiornata Dynamo + vLLM di NVIDIA.