微軟CEO納德拉：把AI當內部風險防，隨時準備急停

動察 Beating AI 快訊，微軟 CEO 薩蒂亞·納德拉發長文，主張把 AI 模型當作企業內部安全風險管理。模型即使沒有惡意，也可能犯錯或被攻擊者利用。尤其當它能讀取敏感數據、替人執行關鍵操作時，企業不能只信模型廠商的安全承諾。

他要求把模型與調度任務的 Harness（Agent 執行框架）分開。模型能讀什麼數據、調用什麼工具，必須由外部系統控制。每次關鍵操作都應留下防篡改、方便人類審查的記錄。他還要求模型思維鏈（展示出的推理過程）透明，但承認這些內容未必可靠。

最強硬的一條是，從部署時就假定模型可能遭到入侵，並做好隔離。授權人員必須能在 Agent 執行任務時隨時暫停或關閉它，相當於裝上「緊急剎車」。模型不能自己審核自己的行為，企業還要持續測試故障和攻擊，及時披露事故。

微軟本月已宣布 MXC 隔離工具在 Windows 正式可用。它通過外部策略限制 Agent 能訪問的文件和網絡。