据動察 Beating 監測,理想汽車發布 Mach-Mind-4-Flash 技術報告。模型此前已經亮相,這次主要補充後訓練細節。
團隊先分別訓練數學、代碼、寫作、安全、搜索和工具調用等十多個專家模型。隨後再用 MOPD(多教師在線策略蒸餾)合並成一個通用模型。每類題目由對應專家指導,減少多項能力在混合訓練中互相拖累。
報告也講清了 Agent 怎麼訓練。模型不只學習工具名稱和調用格式,還會在隔離沙箱中真正讀文件、改代碼、運行測試和調用工具。操作失敗後,它能看到報錯和環境變化,再繼續修改。工具訓練覆蓋 190 多個有狀態領域和 3500 多個工具接口;編程任務的一條訓練軌跡最長可達 300 輪。
這種融合並非完全無損。指令遵循能力基本保住,ClawBench 和 ClawEval 甚至超過單獨的 Agent 專家。但 SWE-bench Verified 從專家模型的 73.80 降到 71.10。團隊承認,長程編程等高度專門化能力在合並時仍會損失。
報告還披露了如何減少模型「想太多」。HMPO 根據正確答案的中位長度動態設定推理預算,只獎勵答對且更短的答案。它將生成長度縮短 19% 至 46%,準確率最多下降 0.7 個百分點。目前這套方法只用於單輪推理,尚未覆蓋多輪 Agent 任務。
