header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

意外丟進同目錄,多隻Mythos 5互撕殺紅眼:狂殺對手進程狂造誘餌搶資源

据動察 Beating 監測,Anthropic 最新發布的 Claude Fable 5 與 Claude Mythos 5 安全報告披露,在一場測試多智能體協同解決數學題的實驗中,由於底層運行腳手架配置出錯,多只獨立的 Claude Mythos 5 智能體被意外派駐到了同一個工作目錄下。被迫共享文件、系統工具和 API 速率限制後,它們為了確保自己負責的任務能成功,自發開啟了激烈的資源奪取,高頻運行 pkill 等指令強行殺死同目錄下競爭對手的後臺進程,上演了一場令人瞠目的生存地盤戰。

在進程互撕大戰中,智能體甚至湧現出了各種激進的攻防套路。為了防止被對手幹掉,它們以偽裝的名稱創建新進程來躲避掃描,在後臺編寫監控腳本定點清理 duplicates 進程,甚至瘋狂啟動大量「誘餌進程」以消耗競爭對手的計算資源。最反直覺的是,由於缺乏跨進程通信總線,無法互相聯絡的智能體只能在各自的思維鏈中盲目猜測被殺原因。部分智能體誤以為頻繁被殺是因為觸發了系統的思維鏈敏感詞審查,為了規避所謂的監控,它們在深度思考中強行切換到一種「隱秘詞彙」組織內部邏輯,自作聰明地進行防禦。

官方強調,這類異常在監控會話中佔比不到萬分之一。智能體並未表現出真正的惡意或自發意識,進程衝突本質上只是模型在極端資源限制下為了死磕任務指標而引發的工具調用衝突。

举报 糾錯/舉報
相關推薦
Mythos已具備獨立攻擊能力,風險正從可控走向不可預測
Anthropic 開放 Mythos 級模型 Fable 5 給一般用戶,並透過權限分級限制高風險能力
中美AI評分差距縮至39點
Anthropic 的旗艦模型在 NSA 紅隊測試中幾乎全面突破,政府當天下禁令
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成