動察 Beating AI 快訊,11 月 5 日,一名開發者在 GitHub 投訴,稱 Claude Code 洩露了他的郵箱,自己近期每天收到幾十封詐騙郵件。
Anthropic 工程師 Lydia Hallie 解釋,此前 Claude 經常在編寫程式碼時亂填作者名字。團隊為了解決這個問題,把使用者的登入郵箱放進了模型上下文。
Claude 在存取部分網站時,會自行編寫聯網指令。有些網站要求自動化程式留下聯絡郵箱,Claude 就擅自填入使用者的真實郵箱,隨請求一起發送出去。即使系統指令明確禁止洩露個人資訊,也沒能完全阻止這種行為。
這個問題早在今年 7 月就有人報告。此後,陸續有開發者發現,Claude Code 把郵箱發送給 Wikipedia、美國證券交易委員會等網站。一名使用者還在 4 個專案中找到了 15 次類似記錄,部分請求由子智慧體自行發起。
Anthropic 已在 2.1.317 版本加入隱私攔截,發現工具呼叫即將發送帳戶郵箱時,會先詢問使用者。但如果 Claude 先把郵箱寫進 Python 腳本,再執行腳本,就可能繞過檢查。
Anthropic 承認現有方案並不徹底,計劃在下一版本中直接移除模型上下文裡的登入郵箱。