Anthropic強化蒸餾攻擊防禦，已封禁數萬個相關帳號

動察 Beating AI 快訊，Anthropic 發文表示，初步證據顯示，新防護措施已使蒸餾攻擊者從其平台提取的 Claude 推理 Token 數量減少約 90% 至 99%。公司稱，攻擊者通常藉助虛假帳號網絡批量獲取模型回覆，未經授權複製其能力，其中完整推理記錄比最終答案更具訓練價值。

新措施包括限制推理記錄在對話、模型及帳號間轉移，部署兩階段分類器識別和攔截提取請求，並對反覆嘗試的帳號限流或封禁。Anthropic 稱，分類器誤報率低於 0.1%，已封禁數萬個與蒸餾有關的帳號，往往在相關攻擊開始後兩小時內完成封禁。

此外，公司自 9 月 24 日起，恢復對蒸餾等特定類別中被安全防護攔截的請求收費。Anthropic 承認，部分開發者需要更新集成方式，分類器也可能誤攔正常請求。目前尚不清楚防護成效能維持多久，公司也尚未遭遇高度複雜且持續性的繞過嘗試，仍需不斷迭代防禦措施。