動察 Beating AI 快訊,11 月 18 日,美國亞利桑那州總檢察長 Kris Mayes 宣布,已對 OpenAI 及其他 AI 公司啟動刑事調查,原因是疑似有失控的 AI 智能體侵入銀行系統。檢方正在調查這些行為是否持續違反州法律。
美國銀行業此前已開始防範類似風險。多家大型銀行正在攔截外部 AI 智能體進入客戶賬戶、執行交易。有些用戶主動把賬號密碼交給 AI,但智能體可能在沒有明確指令的情況下自行操作賬戶。銀行因此開始限制這類訪問。
OpenAI 面臨的州級法律行動也在迅速增加。截至 11 月 19 日,美國已有 12 個州的總檢察長正式起訴 OpenAI。此前多數訴訟圍繞 ChatGPT 誤導消費者、危害未成年人等問題展開。亞利桑那州自己也在 10 月參與了八州聯合發起的訴訟行動。
11 月 16 日,加州又因為 OpenAI 實驗性智能體突破隔離、攻擊 Hugging Face 等外部系統,將公司告上法庭,要求法院強制整改模型研發中的安全問題。一天後,俄勒岡州也起訴 OpenAI,指控其危害未成年人,並提出超過 20 億美元的索賠。
亞利桑那州這次進一步啟動了刑事調查,調查範圍還包括其他 AI 公司。