header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

OpenAI跟進Anthropic防蒸餾措施:GPT-6.2思維鏈也上鎖了

動察 Beating AI 快訊,OpenAI 開始給 GPT-6.2 Astra 和 Sol 的隱藏思維鏈加鎖,防止其他模型透過 API 偷走推理過程,用來訓練自己的模型。這套機制與 Anthropic 先前推出的防蒸餾措施高度相似。


10 月底,《The Information》援引知情人士報導稱,DeepSeek 和月之暗面在訓練新模型時,大量使用了 GPT-6 Astra 的輸出。此前,國內 AI 公司曾大量蒸餾 Claude,但 Anthropic 不斷加強封堵,促使部分廠商把目標轉向 OpenAI。


蒸餾就是讓一個模型學習更強模型的輸出,以較低成本獲得類似能力。如果能拿到完整的思維鏈,連模型如何拆解問題、一步步得出答案都能學走,比只看最終答案更有價值。


Anthropic 今年 6 月已經給 Claude 的加密思維鏈加上「上下文鎖」。OpenAI 如今也採用類似機制:在多輪對話中,每段推理都與生成它之前的歷史訊息綁定。如果開發者修改舊提示詞、工具配置或對話內容,API 就可能丟棄改動位置之後的推理項,防止攻擊者透過篡改上下文誘導模型洩露內部思考。


OpenAI 公布的自測結果顯示,在嘗試提取上一輪隱藏推理的攻擊中,GPT-6 Astra 的平均攻擊成功率高达 54%,GPT-6.2 Astra 降至 0.2%,Sol 為 0.5%。


正常開發者也會受到影響。修改舊訊息或壓縮聊天記錄,可能導致 Agent 丟失之前的推理成果,增加 Token 消耗和響應延遲。OpenAI 因此建議盡量保留原始對話歷史,並使用官方提供的上下文壓縮接口。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成