MiniMax 列出可在本機執行 M3.1 Flash 的社群量化版本

MiniMax 發布社群製作的量化版本整理，適合想在自有硬體上執行其 428B 參數開放權重模型 M3.1 Flash 的使用者。MiniMax 表示，較低位元的權重可減少載入模型所需的記憶體，以及解碼時搬移的權重資料；要讓這項技術實用，還需要謹慎校準、高效率的低位元核心，並將專家分配至 GPU 和系統 RAM。

該公司列出的開發者：

• Unsloth： 143.9 GB 的 2-bit Dynamic GGUF 權重，並針對程式編寫、工具使用及其他工作負載進行校準與保真度測試。
• ViC305： SAGE-EXL3 量化版本、token 層級的保真度測量，以及單台 DGX-Spark 的執行配方。
• PeasantSmith： Project Maya 量化版本，以及用於本機程式編寫與工具使用的專家卸載方案。
• MiaAI_lab： EXL3-EAQ 量化工作。
• jundotkim 和 mlx-community： oQ 量化版本，並透過 Apple Silicon 上的 oMLX，使用 DSpark 加速解碼。
• AMD (AIatAMD)： 將 Quark MXFP4 調整為適用於 AMD Instinct。
• atomic_chat_hq： 用於本機桌面工作流程的 GGUF。
• superalesha： 在四張 RTX 3090 上結合量化權重、專家快取與系統 RAM 的自訂推論方案。

保真度方面的說法來自量化版本的製作者，而非 MiniMax 或獨立測試。截至 11 月 1 日，該貼文在 X 上約有 400 個讚。