SemiAnalysis：AMDのMI355X上のvLLM、MiniMax M3.1でBlackwellを上回る

SemiAnalysisによると、AMDのMI355X GPU上のvLLMはMiniMax M3.1でNVIDIAのBlackwellを上回り、インタラクティビティの一部の水準ではGrace Blackwellさえ上回ったとのことです。MI355Xの性能を最大限に引き出すため、FlyDSLカーネルを活用したというInferactチームの功績を称えています。

この投稿は3部構成のスレッドの第1弾で、結果はSemiAnalysisによる独自の主張です。