header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

GLM-5.3開始優化自己的系統,智譜唐杰:RSI最小閉環已經出現

動察 Beating AI 快訊,智譜披露,GLM-5.3 驅動的 Infra Agent 已經參與優化 GLM-5.3-Flash 的推理系統。從首次跑通到承接全部生產流量不到兩週,端到端吞吐提升到最初的 3.2 倍。


聯合創始人兼首席科學家唐杰在復盤中提到,Agent 現在最容易卡住的地方,往往不是不會寫程式碼,而是不知道問題出在哪。比如一次修改讓吞吐下降 20%,它知道自己改壞了,卻不知道是哪一層出了問題,下一步該查什麼。


於是智譜把資深工程師平時的排查方法做成一套 Agent 可以直接使用的工具。Agent 改完程式碼後,可以自己檢查結果對不對、時間耗在哪裡、哪種方案更快,再根據結果繼續修改。


靠這套方法,Agent 找出了長上下文計算誤差、KV 傳輸阻塞和解碼 kernel 重複計算等問題。其中一個 kernel 重寫後提速 1.71 倍。


唐杰判斷,工程師的角色會越來越像「設計反饋的人」。人負責定目標、設邊界和審核高風險修改,Agent 自己提假設、改程式碼、跑實驗。離完整的 RSI 還很遠,但「模型優化系統,系統再服務模型」這個最小閉環已經出現。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成