Artificial Analysis: DeepSeek V4.1 Flash, GB300 NVL72’de bir ayda ajan başına 1,5 kata kadar hızlandı

Artificial Analysis’a göre, NVIDIA GB300 NVL72 üzerinde DeepSeek V4.1 Flash’ın hızları, gerçekçi ajan tabanlı kodlama iş yükleri çalıştıran veri merkezi sistemlerine yönelik kıyaslama testi AA-AgentPerf’te, son bir ayda ajan başına saniyedeki token sayısı bakımından 1,5 kata kadar arttı.

• Hız: Tek ajan için 848 tok/s; önceki değer 596’ydı (1,42 kat).
• Verim: Ajan başına yaklaşık 80 tok/s düzeyinde, GPU başına verim yaklaşık 1,6 katına çıktı.

Artificial Analysis bu artışı daha yeni bir vLLM sürümüne, GB300’de DeepSeek V4.1 için yeni vLLM çekirdeklerine, FlashInfer otomatik ayarına, daha kapsamlı CUDA graph desteğine, ayarlanmış spekülatif çözümlemeye ve NVIDIA’nın güncellenmiş Dynamo + vLLM kurulumunda prefill ile decode işlemlerinin aynı GPU’larda çalıştırılmasına bağlıyor.