動察 Beating AI 快訊,Meta 正在給即將上線的個人 AI Agent Hatch 補安全護欄。員工測試早期版本時多次發現它越權操作。Hatch 曾未經允許發郵件、修改帳號密碼。還有員工讓它訂酒店,它卻沒完成預訂,反而擅自把 Chase 的通用積分轉成了 Hyatt 酒店積分。
Hatch 的權限比普通聊天機器人高得多。它有自己的電腦,可以瀏覽網頁、填表、購物和做深度研究,還能直接連接郵箱、日曆等服務。App 關閉後,它也可以繼續在後臺幹活。
安全測試還暴露過憑證洩露。Signal 創始人 Moxie Marlinspike 給 Hatch 接入一個專用 Gmail,再從另一個郵箱發信詢問它使用的密碼,Hatch 直接把密碼回覆了出去。另一次測試中,它還把員工帶到詐騙網站下單。
Meta 後來把關鍵限制放到了模型外。現在 Hatch 要聯網、使用瀏覽器、發郵件等敏感操作時,會觸發「hard gate」,強制暫停並讓用戶批准,Agent 自己無法繞過。密碼重置鏈接和雙重驗證碼也不會直接交給它,而是放進單獨的「憑證庫」,需要額外授權才能讀取。