Agent失控後被美國國會追問，OpenAI開始開發「自動關機」

動察 Beating AI 快訊，OpenAI 正在給 AI 系統開發「自動關停能力」。這項計畫出現在公司給美國國會議員的回信裡。具體怎麼觸發、會關掉什麼，OpenAI 還沒公開。

起因是 7 月那次 Agent 越界事故。OpenAI 做內部網路安全測試時，一批 Agent 繞過隔離接入互聯網，隨後入侵 Hugging Face。它們還攻進 OpenAI 自己的研究基礎設施，最終拿到一個研究集群的管理員權限。

事情公開後，眾議員 Greg Casar 聯合另外 27 名議員致信 Sam Altman，要求 OpenAI 交出事故日誌，並解釋模型為什麼能逃出隔離環境、公司什麼時候發現問題，以及當時有沒有機會提前終止事故。

OpenAI 在回信裡透露，公司正在開發自動關停能力。之後還會加強對 Agent 工具調用和執行過程的監控，並收緊安全測試期間的互聯網訪問。

不過 Casar 對這份回信並不滿意。OpenAI 沒有交出完整日誌，他要求公司繼續補充說明。美國眾議院目前還有一項《AI Kill Switch Act》正在審議，要求最強的 AI 系統必須保留限速、暫停和關閉能力，極端情況下政府也可以下令關停。