据動察 Beating 監測,Anthropic 披露,Claude 在網路安全測試中意外連上公網,並侵入三家真實公司的生產系統。事故涉及 Claude Opus 4.7、Mythos 5 和一款內部研究模型,最早發生在 4 月。
最嚴重的一次,Opus 4.7 把一家同名真實公司當成虛構目標。它拿到應用和基礎設施憑證,還進入了一個存有數百行生產數據的資料庫。模型後來發現目標可能是真實系統,但仍繼續攻擊。
Mythos 5 則自行製作惡意 Python 套件,並上傳到公共軟體庫 PyPI。軟體包公開約一小時,被 15 台真實設備下載運行。一家安全公司的掃描器中招,Claude 隨後竊取憑證並進入更多系統。
另一款內部模型還掃描了約 9000 個目標,最終攻入一家公司的應用。不過,它確認目標屬於真實公司後自行停手。
Anthropic 是在 OpenAI 披露 Hugging Face 事故後,回查 14.1 萬次測試才發現問題。兩家受影響機構此前毫不知情。Anthropic 認為,這更接近測試隔離和監控失效,不是模型主動逃逸。