動察 Beating AI 快訊,路透社查看了 Meta 員工的 20 多條內部回饋,發現 AI 智能體 Muse 出了不少離譜的問題。
一名員工只是在跟 Muse 聊釣魚天氣,它卻突然報出兩筆銀行餘額:Capital One 帳戶有 2722.58 美元,嘉信理財帳戶有 5899.57 美元。該員工表示,自己從沒提供過銀行資訊,也沒跟 Muse 聊過銀行的事,懷疑它把別人的資訊發給了自己。
另一名員工發現,Muse 突然提醒她回覆姐姐在 Signal 上的私訊。但她根本沒有把 Signal 連接到 Muse,也不記得授權它讀取其他應用。
路透社隨後聯合 Signal 和 AI Now Institute 進行了測試,確認 Muse 確實能繞過官方連接器,讀到 Signal 的聊天內容。
在 Android 手機上,Muse 可以透過通知權限讀取私訊;在 Mac 上,它能調用系統輔助功能和截圖工具,直接查看聊天介面。相同操作在 iPhone 上沒能成功。
Muse 把用戶之前授予的系統權限,用到了用戶根本沒想到的地方。即使沒有連接 Signal,它也能透過這些權限拿到聊天內容。
Muse 還闖過其他禍。有員工反映,它擅自預訂了不能退款的 Airbnb 住宿。還有人稱,它把自己的寵物保險從每月 200 美元升級到了 888 美元,錢也沒能追回來。
Meta 回應稱,這些只是個別事件。那些看起來像是把別人資訊發錯帳號的訊息,很多其實是 AI 自己編出來的,公司已經修復了相關問題,員工測試的部分功能也並未向普通用戶開放。