動察 Beating AI 快訊,OpenAI 終於查到 Codex 額度掉得快的具體原因了。負責人 Tibo Sottiaux 稱,團隊已經發現 3 處額外消耗:帶圖片的超長會話反覆壓縮上下文時效率偏低;Computer History 在部分高消耗場景裡用量過高;甚至自動生成會話標題的功能,也比預期多吃了一些額度。
Tibo 此前先稱沒有發現整體異常,又把部分受影響用戶指向 sub2api 和訂閱共享。昨天他才進一步承認,部分用戶的快取命中率確實變差,可能導致額度消耗加快。現在調查終於定位到了 Codex 自身的幾個具體問題。
其中「上下文壓縮」是為了讓 Codex 在超長任務裡不斷壓縮舊內容,騰出上下文繼續工作。OpenAI 官方資料也確認,Codex 會自動使用 compaction 維持長時間任務。圖片很多、連續壓縮多次時,現在這套流程存在額外浪費。Computer History 則是最近上線的功能,可以把 Mac 上選定 App 和網頁裡的操作記錄帶進 ChatGPT 和 Codex。
OpenAI 會在美國時間週日推送修復,同時給所有付費訂閱的 Codex 用量做一次完整 Reset。Tibo 稱 Reset 預計美國西海岸時間下午 2 點左右上線,對應北京時間 8 月 24 日凌晨 5 點左右。
團隊還找到了一種無關的新優化方案,稱能顯著提高效率,下周會繼續推進。