AI TrackerDescargar
← Todas las noticias
DeepSeekInfraestructura

Artificial Analysis: DeepSeek V4.1 Flash en GB300 NVL72 es hasta 1,5 veces más rápido por agente en un mes

Artificial Analysis afirma que las velocidades de DeepSeek V4.1 Flash en NVIDIA GB300 NVL72 han aumentado hasta 1,5 veces los tokens por segundo por agente durante el último mes en AA-AgentPerf, su benchmark de sistemas de centros de datos que ejecutan cargas de trabajo realistas de programación agéntica.

  • Velocidad: 848 tok/s para un solo agente, frente a 596 (1,42 veces).
  • Rendimiento: aproximadamente 1,6 veces más rendimiento por GPU, con unos 80 tok/s por agente.

Artificial Analysis atribuye la mejora a una versión más reciente de vLLM, nuevos kernels de vLLM para DeepSeek V4.1 en GB300, el ajuste automático de FlashInfer, una cobertura más amplia de CUDA Graph, la decodificación especulativa optimizada y la ejecución del prellenado y la decodificación en las mismas GPU con la configuración actualizada de Dynamo + vLLM de NVIDIA.

Recibe noticias como esta por push.

AI Tracker te avisa cuando algo cambia en las herramientas que usas.

Descargar la app