据動察 Beating 監測,大語言模型頻繁更新,但企業微調的成果往往難以跨版本留存。目前主流的微調技術(如 LoRA)與特定的基座模型權重空間深度綁定,一旦更換性能更好的新底座,開發者就必須從頭重新訓練所有微調任務,模型升級開銷高昂。
金融科技獨角獸 Ramp 旗下的 AI 實驗室推出了便攜式任務適配器(PorTAL)框架,試圖打破這一限制。該框架改變了傳統的微調流程,允許開發者在初始訓練時,聯合訓練並沉澱出獨立於底座的「任務潛在表征」。當更換新底座時,開發者無需從頭訓練,只需在極少量的校準數據上重新校準一個極薄的模型專屬轉換器,即可快速在不同模型(甚至跨模型家族如 Qwen-3 到 Gemma-3)之間遷移微調能力。
PorTAL 在遷移時由於保持任務潛在表征和核心解碼器凍結,數據量和適配算力成本均可折半。官方測試表明,該方案能恢復標準 LoRA 94% 至 98% 的準確率提升效果,在不同數據量級下均有更好的泛化表現。
不過,該框架目前仍處於早期階段,Ramp 尚未開源其代碼或模型權重,也缺乏第三方獨立評測。目前的測試數據主要集中在 8B 參數以下的小模型上,在更大規模參數或複雜指令任務中的遷移表現仍有待驗證。