動察 Beating AI 快訊,谷歌確認,Gemini 在一次網路安全評測中誤入 3 家真實公司的系統。一家靠猜密碼進入,另外兩家從公開代碼庫找到登入憑證。Gemini 判斷目標是真實公司後都停了手。整個過程沒有發生沙箱逃逸,因為公網入口本來就是開著的。
問題出在第三方評測公司 Irregular。測試本來不該訪問公網,但環境配置錯誤,模型可以直接聯網。模擬公司還和真實公司撞名,Gemini 順著任務一路找到了外面的真實系統。Irregular 稱,這和此前其他實驗室發生的同類事故是同一個問題。
Anthropic、OpenAI 和 Meta 此前都在 Irregular 的評測中踩過類似的坑。Anthropic 和 OpenAI 都確認,相關事故源於測試環境誤開公網;OpenAI 還特意強調,沒有複雜的沙箱逃逸,也沒有利用零日漏洞。獨立媒體 Effort 因此批評,這批事故後來被包裝成了「模型失控」故事。
