動察 Beating AI 快訊,Anthropic 發布一篇關於 Agent 長期記憶的研究,詳細介紹了 Claude 的「做夢」(Dreaming)機制。Agent 持續執行任務後,會累積大量對話、操作記錄和筆記。但這些信息可能過時、相互矛盾,真正需要時也未必找得到。
Anthropic 將記憶分成四層:原始記錄、精選筆記、互相關聯的 Wiki 知識庫,以及每次啟動時自動加載的簡短索引。Claude 可以在執行任務時隨手記下重要信息。「做夢」則會在任務間隙回顧歷史記錄,糾正錯誤、刪除過時內容,並從多次任務中提煉出新的經驗。下次啟動時,Claude 只需加載簡短索引,再按需查找相關記憶,不必重新閱讀全部歷史。
Anthropic 使用約 35 萬份 Stainless 公司內部文件進行實驗,總計 4.2 億 Token。研究人員讓 Opus 5 經過 128 輪會話,不斷閱讀文件、建立 Wiki、合併重複內容並核實事實。
在針對這些文件的 25 道問題中,單獨使用搜索工具的得分為 53%,加入逐步完善的 Wiki 後達到 61%。回答每道題還平均節省約 2 萬 Token。遇到需要綜合多份合同才能回答的問題,Wiki 的優勢尤其明顯;但如果答案就在單份文件裡,普通搜索已經足夠。
Anthropic 還讓 Claude 玩《寶可夢 紅》。舊版 Sonnet 3.7 記錄了 413 份記憶文件,最終只拿到一枚徽章。新版 Fable 5 只保留 10 份文件,卻拿到了四枚徽章。新版模型更善於區分值得保存的策略和隨時能重新查看的遊戲狀態。