動察 Beating AI 快訊,谷歌的 Gemini 4 Neon 編程能力獲得不少開發者好評,配套編程工具 Antigravity 卻因 Token 消耗異常遭到集中投訴。
11 月 21 日凌晨,Antigravity 負責人 Varun Mohan 承認,Neon 的緩存命中率偏低,尤其是模型兩次調用間隔較長時,緩存容易被清除。谷歌正在大幅擴大緩存池,預計將命中率提高約 4%,讓用戶在相同配額內至少多完成 20% 的工作。完成後還將重置用戶額度。
編程智能體每次調用模型時,都需要讓模型獲得此前的對話、代碼和工具執行結果。緩存能讓模型直接復用已經處理過的內容,不必重複計算。一旦緩存失效,幾十萬 Token 的歷史內容就可能被重新處理,導致額度消耗大幅增加。