header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

ARC競賽第一團隊現身:Mostik給小型模型搭橋,省掉大型模型生成成本

動察 Beating AI 快訊,ARC-AGI-3 Kaggle 競賽暫列第一的 CSTL,就是剛剛公開的 AI 創業公司 Mostik,目前成績 7.51%。團隊共 15 人,包括 12 名博士和一位菲爾茲獎得主。不過比賽還沒結束,第二次 Milestone 要到 9 月 30 日截榜,最終提交 11 月 2 日截止。


Mostik 做的是讓不同 AI 模型直接交換內部狀態。普通多 Agent 主要靠文字傳話,它則在兩個模型之間訓練一個 bridge,把一個模型的 hidden states 轉成另一個模型能理解的表示,兩邊模型本身都不用微調。


他們公開的實驗用了 753B 的 GLM-5.2 和 4B 的 Qwen3.5,可以近似理解為大模型負責 prefill,小模型負責 decode。GLM-5.2 僅讀題,不生成 Token;內部狀態直接交給 4B 小模型生成答案。Mostik 稱,這樣能把兩者的性能差距縮小約一半;與達到相同準確率的中型單模型相比,計算量只有約 40%。不過最終效果仍然低於 753B 大模型本身。


Mostik 尚未公布 7.51% 的成績到底用了什麼模型和 Harness,上面的 753B+4B 僅是另一組技術演示,不能當成奪榜配置。ARC-AGI-3 競賽本身比的也是整套 Agent 系統,之前的階段冠軍只用了 Qwen 3.6 27B,卻靠 Harness、工具和上下文管理拿到第一。


另一方面,這套技術要求讀取模型 hidden states,Claude、GPT 這類雲端模型目前用不了;Google DeepMind 工程師 Susan Zhang 也質疑,既然已經能控制模型內部狀態,凍結兩個模型再單獨訓練一座「橋」,是否真是最划算的工程方案。

举报 糾錯/舉報
相關推薦
繞過環境部署,選擇最簡單的ARC夸克挖取鑄造方式
Arc有哪些技術特點。
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成