動察 Beating AI 快訊,神經網絡裡動輒數百萬、數億個參數,過去主要靠訓練算法反覆調整。MIT 研究團隊卻發現,GPT-6 Astra 已經能直接分析、修改這些數字,甚至不用訓練,就能從零寫出一套神經網絡。
研究人員把簡化版打磚塊遊戲的規則、源代碼和一套權重全為零的神經網絡交給 GPT-6,讓它自己填寫參數。不提供訓練數據,也不允許試玩。GPT-6 自己推算球的落點,把預測和移動擋板的邏輯寫進網絡權重。最終遊戲得分達到 517.4,是同等結構、經過 5 億步強化學習訓練的模型的約 20 倍。不過,在另外兩款遊戲中,它沒有超過訓練 5 億步的模型。
研究人員隨後讓 GPT-6 直接修改阿里 Qwen3.5-0.8B 的權重。它沒有重新訓練模型,只改動了 0.016% 的參數,就讓 MATH-500 數學正確率從 7.9% 升至 48.1%,指令遵循成績也提高了近 3 倍。
原來,Qwen 經常陷入思考死循環,反覆推理卻不給出答案。修改前,93% 的數學測試回答會耗盡 32768 個 Token;修改後降至 33.1%。GPT-6 相當於修好了妨礙模型正常答題的毛病。
但換成參數量僅 2.7 億的 Gemma 3 270M,GPT-6 就沒能明顯提高數學成績。這款更小的模型很少陷入死循環,主要問題是算術和推理本身就容易出錯,沒法靠修改少量權重輕易解決。
研究人員將這種直接讀寫參數的方法稱為「權重空間編程」(Weight-Space Programming)。
