header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

Meta人員Agent上線前翻車:沒同意就發郵件、改密碼

動察 Beating AI 快訊,Meta 正在給即將上線的個人 AI Agent Hatch 補安全護欄。員工測試早期版本時多次發現它越權操作。Hatch 曾未經允許發郵件、修改帳號密碼。還有員工讓它訂酒店,它卻沒完成預訂,反而擅自把 Chase 的通用積分轉成了 Hyatt 酒店積分。


Hatch 的權限比普通聊天機器人高得多。它有自己的電腦,可以瀏覽網頁、填表、購物和做深度研究,還能直接連接郵箱、日曆等服務。App 關閉後,它也可以繼續在後臺幹活。


安全測試還暴露過憑證洩露。Signal 創始人 Moxie Marlinspike 給 Hatch 接入一個專用 Gmail,再從另一個郵箱發信詢問它使用的密碼,Hatch 直接把密碼回覆了出去。另一次測試中,它還把員工帶到詐騙網站下單。


Meta 後來把關鍵限制放到了模型外。現在 Hatch 要聯網、使用瀏覽器、發郵件等敏感操作時,會觸發「hard gate」,強制暫停並讓用戶批准,Agent 自己無法繞過。密碼重置鏈接和雙重驗證碼也不會直接交給它,而是放進單獨的「憑證庫」,需要額外授權才能讀取。

相關推薦
當AI開始替用戶購物,平台爭奪的已經不只是流量,而是誰能控制下一筆交易
三巨頭繼續燒錢,Meta估值折價最刺眼
市場重新評估Meta 巨額 AI 支出的實現出口。
SemiAnalysis認為Meta 追趕的速度要勝過當前模型排名
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成