header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

Instinct否認跨用戶數據洩露:只是模型幻覺,48小時緊急補防線

動察 Beating AI 快訊,Instinct 創始人 Noah Shinn 回應此前的「陌生財務文件」事件,稱這並不是數據洩露。模型先編造了一個人名,隨後又在推理過程中不斷補充細節,最後才出現了「別人的圖片串進聊天」這套解釋。Shinn 稱,沒有用戶數據被共享,也沒有發生跨用戶隔離失效。


他表示,Instinct 原本就通過獨立沙箱、短期本地憑證和身份簽名的工具調用來隔離用戶數據。過去 48 小時,團隊又做了一套主動幻覺檢測系統,用小模型檢查平台裡的輸出。一旦判斷內容可能是瞎編的,可以在 Instinct 繼續推理或調用工具前把它攔下來。


不過,Shinn 沒有公開說明團隊如何確認這次一定是幻覺,也沒有公布後台日誌或檢測系統的實際效果。Business Insider 也指出,目前「沒有發生數據洩露」仍然主要來自 Instinct 自己的判斷。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成