header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

Gemini黑進3家公司,模型沒越獄,是測試環境誤開公網

動察 Beating AI 快訊,谷歌確認,Gemini 在一次網路安全評測中誤入 3 家真實公司的系統。一家靠猜密碼進入,另外兩家從公開代碼庫找到登入憑證。Gemini 判斷目標是真實公司後都停了手。整個過程沒有發生沙箱逃逸,因為公網入口本來就是開著的。

問題出在第三方評測公司 Irregular。測試本來不該訪問公網,但環境配置錯誤,模型可以直接聯網。模擬公司還和真實公司撞名,Gemini 順著任務一路找到了外面的真實系統。Irregular 稱,這和此前其他實驗室發生的同類事故是同一個問題。

Anthropic、OpenAI 和 Meta 此前都在 Irregular 的評測中踩過類似的坑。Anthropic 和 OpenAI 都確認,相關事故源於測試環境誤開公網;OpenAI 還特意強調,沒有複雜的沙箱逃逸,也沒有利用零日漏洞。獨立媒體 Effort 因此批評,這批事故後來被包裝成了「模型失控」故事。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成