SemiAnalysis: vLLM auf AMDs MI355X schlägt Blackwell bei MiniMax M3.1

Laut SemiAnalysis übertraf vLLM auf AMDs MI355X-GPU NVIDIA Blackwell bei MiniMax M3.1 und lag bei einigen Interaktivitätsstufen sogar vor Grace Blackwell. Das Unternehmen schreibt dies dem Inferact-Team zu, das seinen Angaben zufolge mit FlyDSL-Kernels das volle Potenzial der MI355X ausschöpfte.

Der Beitrag ist der erste Teil eines dreiteiligen Threads; bei den Ergebnissen handelt es sich um eigene Angaben von SemiAnalysis.