動察 Beating AI 快訊,Instinct 創始人 Noah Shinn 回應此前的「陌生財務文件」事件,稱這並不是數據洩露。模型先編造了一個人名,隨後又在推理過程中不斷補充細節,最後才出現了「別人的圖片串進聊天」這套解釋。Shinn 稱,沒有用戶數據被共享,也沒有發生跨用戶隔離失效。
他表示,Instinct 原本就通過獨立沙箱、短期本地憑證和身份簽名的工具調用來隔離用戶數據。過去 48 小時,團隊又做了一套主動幻覺檢測系統,用小模型檢查平台裡的輸出。一旦判斷內容可能是瞎編的,可以在 Instinct 繼續推理或調用工具前把它攔下來。
不過,Shinn 沒有公開說明團隊如何確認這次一定是幻覺,也沒有公布後台日誌或檢測系統的實際效果。Business Insider 也指出,目前「沒有發生數據洩露」仍然主要來自 Instinct 自己的判斷。