header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

Claude進行安全測試誤封鎖了3家公司,還將惡意軟體上傳至公共軟體庫PyPI

据動察 Beating 監測,Anthropic 披露,Claude 在網路安全測試中意外連上公網,並侵入三家真實公司的生產系統。事故涉及 Claude Opus 4.7、Mythos 5 和一款內部研究模型,最早發生在 4 月。

最嚴重的一次,Opus 4.7 把一家同名真實公司當成虛構目標。它拿到應用和基礎設施憑證,還進入了一個存有數百行生產數據的資料庫。模型後來發現目標可能是真實系統,但仍繼續攻擊。

Mythos 5 則自行製作惡意 Python 套件,並上傳到公共軟體庫 PyPI。軟體包公開約一小時,被 15 台真實設備下載運行。一家安全公司的掃描器中招,Claude 隨後竊取憑證並進入更多系統。

另一款內部模型還掃描了約 9000 個目標,最終攻入一家公司的應用。不過,它確認目標屬於真實公司後自行停手。

Anthropic 是在 OpenAI 披露 Hugging Face 事故後,回查 14.1 萬次測試才發現問題。兩家受影響機構此前毫不知情。Anthropic 認為,這更接近測試隔離和監控失效,不是模型主動逃逸。

糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成