header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

無需重新微調即可切換大型模型底座,Ramp Labs 推出跨模型適配框架 PorTAL

据動察 Beating 監測,大語言模型頻繁更新,但企業微調的成果往往難以跨版本留存。目前主流的微調技術(如 LoRA)與特定的基座模型權重空間深度綁定,一旦更換性能更好的新底座,開發者就必須從頭重新訓練所有微調任務,模型升級開銷高昂。

金融科技獨角獸 Ramp 旗下的 AI 實驗室推出了便攜式任務適配器(PorTAL)框架,試圖打破這一限制。該框架改變了傳統的微調流程,允許開發者在初始訓練時,聯合訓練並沉澱出獨立於底座的「任務潛在表征」。當更換新底座時,開發者無需從頭訓練,只需在極少量的校準數據上重新校準一個極薄的模型專屬轉換器,即可快速在不同模型(甚至跨模型家族如 Qwen-3 到 Gemma-3)之間遷移微調能力。

PorTAL 在遷移時由於保持任務潛在表征和核心解碼器凍結,數據量和適配算力成本均可折半。官方測試表明,該方案能恢復標準 LoRA 94% 至 98% 的準確率提升效果,在不同數據量級下均有更好的泛化表現。

不過,該框架目前仍處於早期階段,Ramp 尚未開源其代碼或模型權重,也缺乏第三方獨立評測。目前的測試數據主要集中在 8B 參數以下的小模型上,在更大規模參數或複雜指令任務中的遷移表現仍有待驗證。

举报 糾錯/舉報
相關推薦
根據Portal的願景,$PORTAL將會成為Portal所連結的所有鏈上遊戲的通用代幣。
上週的融資總數為24筆,總金額約1.0445億美元,平均融資金額為435.21萬美元。
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成