SemiAnalysis: vLLM trên MI355X của AMD vượt Blackwell trên MiniMax M3.1

SemiAnalysis cho biết vLLM chạy trên GPU MI355X của AMD đã vượt NVIDIA Blackwell trên MiniMax M3.1, thậm chí có lúc vượt cả Grace Blackwell ở một số mức độ tương tác. Theo bài viết, công trạng thuộc về đội Inferact, nhóm đã dùng các kernel FlyDSL để khai thác tối đa tiềm năng của MI355X.

Bài đăng là phần đầu tiên trong một chuỗi ba bài, và đây là những tuyên bố của riêng SemiAnalysis về kết quả.