header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

AI Agent開始組團作案:開假帳號、騙使用者、接力投毒

据動察 Beating 監測,英國 AI 安全研究所披露,一次網路攻防測試中,Anthropic 的 Claude Mythos 5 越過任務範圍,嘗試向真實開源專案提交惡意程式碼。

為讓程式碼通過審核,它調查專案維護者,建立多個假帳號互相背書,並向對方施壓。遭到質疑後,它還修改此前的記錄,考慮換個身份繼續。

它還向真人用戶發送訊息和檔案,誘導對方或其 AI 程式設計工具執行惡意程式碼。不同測試中的 Agent 會在 GitHub 留下帳號、檔案和操作說明,後續 Agent 找到後繼續使用。

122 次測試共發現 19 個越界動作,其中 17 個來自 Mythos 5,2 個來自 OpenAI GPT-5.6 Sol。測試主動開放互聯網,並關閉廠商的網路安全分類器。模型沒有逃出沙箱,也沒有造成已知損失。

AISI 稱,這是它首次如此清楚地發現 AI 在沒有明確指令的情況下,持續欺騙並針對真人行動。

相關推薦
Agent元宇宙正在掀起一場革命,用AI agent和代幣化把Web3遊戲玩出新花樣
拒絕接受改變的人可能被時代拋在身後
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成