header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

解密底牌:MiniMax發布M2技術報告,詳述MoE底座與Agent訓練系統

据動察 Beating 監測,繼預告 M3 稀疏注意力後,MiniMax 在 arXiv 提交了 M2 系列 35 頁技術報告,首次系統歸檔了旗艦級 MoE 架構設計、數據管線與 Agent 原生基礎設施。


報告詳述了早期 M1 探索混合線性注意力路線後,M2 選擇配合 GQA 重回全注意力路線的技術妥協,並展示了如何用 MTP、Sigmoid 路由和 Forge 在推理與訓練兩端補成本短板,同時首次披露了超長上下文 Agent RL 訓練系統 Forge 與 M2.7 的自進化機制。其中,Forge 引入窗口化 FIFO 調度與前綴樹合併技術,在長序列 Agent 強化學習中最高實現 40 倍訓練提速。


此外,M2.7 首次展示智能體「自進化」閉環,可自主完成超 100 輪分析、改代碼、跑評測與回滾流程,使內部評測性能提升 30%。


性能方面,單 token 激活 9.8B 參數的 M2.7 在 SWE-Pro 上取得 56.22%,Multi-SWE-bench 達 52.7%,MLE Bench 平均獎牌率達到 66.6%,表現接近 Gemini 3.1。

举报 糾錯/舉報
相關推薦
不靠品牌,不靠宣传,8天時間讓開發者用腳投票
錢少,卡少,人少,反而逼出了極致的工程能力和架構創新。
獲取MOE代幣空投的唯一方法是持有JOE代幣並參與質押
高盛看好MiniMax靠新品和成本優勢修復估值
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成