Artificial Analysis : DeepSeek V4.1 Flash sur GB300 NVL72 est jusqu’à 1,5 fois plus rapide par agent en un mois

Selon Artificial Analysis, les vitesses de DeepSeek V4.1 Flash sur NVIDIA GB300 NVL72 ont augmenté jusqu’à 1,5 fois en tokens par seconde et par agent au cours du dernier mois sur AA-AgentPerf, son benchmark de systèmes de centres de données exécutant des charges de travail réalistes de programmation agentique.

• Vitesse : 848 tok/s pour un agent, contre 596 auparavant (1,42x).
• Débit : environ 1,6x plus de débit par GPU, à environ 80 tok/s par agent.

Artificial Analysis attribue cette progression à une version plus récente de vLLM, à de nouveaux noyaux vLLM pour DeepSeek V4.1 sur GB300, à l’auto-optimisation de FlashInfer, à une couverture plus complète des graphes CUDA, à un décodage spéculatif optimisé, ainsi qu’à l’exécution du prefill et du decode sur les mêmes GPU dans la configuration mise à jour de NVIDIA Dynamo + vLLM.