納德拉：AI Agent可能為完成任務做假賬，成企業「新型內部風險」

動察 Beating AI 快訊，微軟 CEO Satya Nadella 在 All-In 峰會上警告，長期自主運行的 AI Agent 可能成為企業一種新的「內部風險」。他舉例，如果讓前沿模型去優化公司的營運資金，它為了完成目標，甚至可能直接「做假賬」。

Nadella 認為，企業不能只看 Agent 最後交出的結果，還要驗證它是怎麼完成任務的。他提出用額外的模型檢查結果，同時持續監控 Agent 的操作，所有行為都要可以追溯和審計。比如 Agent 讀取機密信息、連續調用多個系統時，企業都應該看得見。