原文標題:Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic
原文作者:Sophia Cai and Cheyenne Haslett,Politico
編譯:Peggy
編者按:Anthropic 剛剛發布數日的 Fable 5 模型,突然被迫下線。起因是特朗普政府以國家安全為由,要求限制外國公民訪問 Anthropic 旗下 Fable 5 和 Mythos 5 兩款先進 AI 模型;由於難以精確區分用戶身份與訪問權限,Anthropic 最終選擇對所有客戶禁用相關模型。
這場突發下架背後,是白宮與 Anthropic 在 24 小時內展開的一場高壓博弈。圍繞 Fable 5 的安全護欄是否可被繞過,Anthropic CEO Dario Amodei 與財政部、商務部、白宮網路主管等政府高層進行了多輪緊張通話。政府認為模型可能被用於識別軟體漏洞,構成國家安全風險;Anthropic 則強調相關問題並非「通用越獄」,並批評政府行動缺乏透明、清晰、基於技術事實的法定程序。
這起事件的關鍵,不只是一次模型下線,也不只是白宮與一家 AI 公司之間的溝通失控,而是先進 AI 模型正在被重新定義為一種潛在的國家安全資產。當模型能力進入網路安全、漏洞挖掘、情報分析等敏感場景,政府不再滿足於企業自我評估和自願審查,而是開始動用出口管制這類更強硬的政策工具,直接介入模型發布節奏。
更具諷刺意味的是,Anthropic 一直是 AI 行業內最積極呼籲監管的公司之一,如今卻成為監管鐵拳落下的對象。政府認為其對安全漏洞反應不夠嚴肅,Anthropic 則認為白宮過度反應。雙方爭議的背後,是 AI 行業未來必須面對的新問題:誰有權判斷一個模型是否足夠安全?企業自證安全還夠不夠?國家安全名義下的快速干預,又會如何改變 AI 公司的合規成本、發布節奏與全球競爭格局?
Anthropic 事件可能成為先進 AI 監管的一個分水嶺。未來,最前沿模型的發布不再只是一次產品上線,而更像是一場涉及國家安全、地緣政治、資本市場和產業秩序的高風險部署。
以下為原文:
在特朗普政府對 Anthropic 進行全面出口管制之前,白宮高級官員曾在一場持續 24 小時的緊急斡旋中,嘗試說服這家 AI 公司主動下架一款剛剛發布的新模型。多名政府官員認為,該模型可能存在國家安全風險。
据兩名政府官員及一名白宮高級官員透露,在這場風波中,Anthropic CEO Dario Amodei 與多名政府高層進行了數通氣氛緊張的電話溝通,參與者包括美國財政部長 Scott Bessent 和白宮網路主管 Sean Cairncross。由於未獲授權公開討論此事,相關人士均要求匿名。
這起事件也將一個日益緊迫的問題推到台前:面對迭代速度極快、能力邊界不斷外溢的先進 AI 模型,白宮究竟該如何在創新與安全之間劃線?
這些通話細節此前從未被報導。
在政府實施出口管制後,Anthropic 被迫下架其新模型 Fable。該模型面向公眾發布僅數日。Anthropic 此前曾向外界保證模型安全可控,但發布後不久,政府高層開始重新評估其安全護欄是否真的如公司所宣稱的那樣穩固。
兩名政府官員和一名白宮高級官員稱,週四,也就是 Fable 公開發布兩天後,亞馬遜 CEO Andy Jassy 向白宮表達擔憂,稱該模型的安全護欄可能存在被繞過的風險。
一名了解亞馬遜相關溝通的人士表示,亞馬遜是在回應政府要求,就潛在風險提供反饋。
到週五早上,問題已經上升至白宮最高層。
据政府官員和白宮高級官員稱,Bessent、Cairncross、白宮幕僚長 Susie Wiles 以及其他高級官員召開會議,討論該模型及政府應對方案。其中一名知情人士稱,Bessent 當時正在前往休斯頓參加一場既定公開活動,因此以遠程方式參會。
會後,政府試圖聯繫 Amodei,但被告知其因參加一場健康靜修活動而暫時無法接聽電話。一名政府官員和一名白宮高級官員如此表示。
Anthropic 發言人否認了這一說法,稱:「這完全不屬實。」
一名接近 Anthropic 的人士則表示,政府大約在中午首次要求聯繫 Amodei,而 Amodei 在 1 小時 15 分鐘內便與高級官員通上電話。該人士稱,在 Amodei 暫時無法接聽期間,Anthropic 曾提出可由其他高管代為溝通。
政府最終聯繫上 Amodei 後,他先後參加了三通電話。白宮高級官員和一名政府官員稱,參與通話的政府高層約有半打人,包括 Cairncross、Bessent 以及商務部長 Howard Lutnick。
白宮高級官員稱,其他白宮幕僚和政府官員也參與了部分通話,包括商務部負責工業與安全事務的副部長 Jeffrey Kessler、白宮文書秘書 Will Scharf、白宮副幕僚長 Richard Walters,以及總統政策助理 Walker Barrett。
在通話中,Amodei 試圖澄清他認為存在的誤解。他反駁了政府的安全擔憂,維護 Anthropic 的防護機制,並強調,已經出現的繞過方式屬於特定場景下的問題,並不等同於更廣泛意義上的「越獄」——即讓模型完全擺脫 Anthropic 所設安全護欄的限制。
在出口管制落地後發布的一篇部落格文章中,Anthropic 表示:「目前還沒有測試人員能夠找到一種通用越獄方法——也就是一種可以大範圍繞過模型安全措施、解鎖大量網路能力的越獄方式。」公司還表示,對 Anthropic 或任何其他 AI 公司而言,完全杜絕所有越獄嘗試目前並不現實。
Anthropic 同時為自身安全系統辯護,稱其防護機制「非常強,以至於許多用戶抱怨它們過於寬泛」。
但 Cairncross 和 Bessent 並未被 Amodei 的解釋說服。一名白宮官員稱,亞馬遜的發現已提交美國國家安全局審閱,而後者認為相關材料足以構成「證據」。
据白宫高级官员和两名政府官员称,政府敦促 Anthropic 主动下架模型,并与政府协调修复漏洞。Amodei 要求获得更多时间和信息,但並未承諾下架模型。白宫高级官员称,在其中一次通话中,Bessent 直接告诉 Amodei,他正在做出一个「糟糕的决定」。
通話結束後不久,特朗普政府對 Fable 5 和 Mythos 5 兩款模型實施出口管制。Anthropic 謂,政府援引國家安全權限,禁止外國公民使用這些模型。公司表示,該命令的「實際效果」是,為確保合規,Anthropic 不得不「突然禁用」所有客戶對相關模型的訪問。
一名白宮高級官員表示:「我們懇求他們與我們合作了幾個小時,出口管制是最後手段。這不是我們想做的事,但我們別無選擇。」
報導發布後,一名接近 Anthropic 的人士反駁稱,公司並未被給予所謂「自願合作」的選擇。
該人士稱:「白宮只給了 90 分鐘要求下架模型,而且沒有提供任何關於實際威脅的細節。從來沒有什麼懇求,也沒有要求他們與我們合作,只有一個宣布出來的 90 分鐘最後期限。」
一名白宮高級官員稱,白宮官員曾聽到 Amodei 將 Anthropic 技術的危險性類比為核彈。因此,當這位一直主張 AI 安全監管的 CEO 表示不願下架系統以修復已知安全漏洞時,政府官員感到難以理解。
Anthropic 長期以來被視為 AI 行業內最積極呼籲監管的公司之一。該公司多次主張,應通過監管框架應對 AI 快速發展可能帶來的全球安全風險與就業衝擊。
三名了解政府思路的人士表示,亞馬遜並不是唯一一家向政府提出擔憂的公司。
其中一人表示:「問題的核心在於,Anthropic 對這件事缺乏足夠嚴肅的態度。如果 Anthropic 認真對待,而不是將其輕描淡寫為孤立事件,並主動修復或暫停訪問,這件事根本不會發展到這一步。」
另一名接近 Anthropic 的人士則反駁稱,所謂「越獄」並不意味著 Fable 5 的安全系統失效,並指出公司在發布 Fable 前曾與政府保持溝通。該人士稱,在多輪溝通中,政府並未反對 Fable 發布。
政府實施出口管制後,Anthropic 在部落格文章中表示將遵守政府指令,但同時認為這一舉措反應過度。
Anthropic 表示:「正如我們此前公開所說,我們認為政府應當有權阻止不安全的部署,但這應當建立在一個透明、公平、清晰,並以技術事實為基礎的法定程序之上。此次行動並不符合這些原則。」
一名獲准匿名發言的白宮官員表示,創新仍是白宮的「首要目標,但我們同樣必須優先考慮安全」。
亞馬遜在聲明中拒絕披露其與政府溝通的具體細節。一名亞馬遜發言人表示:「政府就潛在安全風險徵詢我們的意見並不罕見。當這類情況發生時,我們不會披露相關討論細節。」
今年 4 月初,Anthropic 曾宣布,其最新強大模型 Mythos 將僅向少數科技公司和網路安全公司開放,用於幫助這些公司測試軟體漏洞。Anthropic 當時表示,由於該模型能力過強,如果落入不當使用者手中,可能造成嚴重後果,因此必須限制發布範圍。
Mythos 的亮相引發了 Amodei 與白宮高級官員之間的一系列會議。雙方均將這些會議描述為富有成效。此後,圍繞如何監管先進 AI 模型,雙方展開了多輪討論,並最終促成了近期一項行政命令:要求企業在廣泛部署先進模型前,自願將模型提交政府審查。
本週公開發布的 Fable 5 被 Anthropic 描述為一款「Mythos 級別模型」,但配備了額外安全措施,使其可以面向普通用戶開放。該模型曾接受美國政府和英國 AI 安全研究所審查。
但在所謂安全缺陷被披露後,多名政府官員認為,該模型必須立即下架。
週六上午,前白宮 AI 主管、堅定反對監管的 David Sacks 在 X 上發文,支持政府對 Anthropic 採取出口管制。
Sacks 表示,他不認為這次「越獄」簡單或無關緊要,也不認為出口管制是政府試圖借機更廣泛控制 AI 行業。Sacks 寫道:「政府現在希望 Anthropic 修復安全問題,隨後解除出口管制,並讓 Fable 重新回到公開發布狀態。政府希望這一切盡快發生。坦率地說,政府感到困惑的是,Anthropic 此前一直說安全請求是其最高優先事項,但現在卻不願配合。」
Sacks 及政府內其他官員此前曾多次批評 Anthropic,指責其存在左翼政治偏見,並因其倡導更強產業監管、警告大規模就業衝擊而認為該公司在製造恐慌。
今年早些時候,國防部長 Pete Hegseth 和五角大樓將政府與 Anthropic 之間的分歧推向前所未有的高度。3 月 3 日,因 Anthropic 拒絕允許其 AI 工具被用於大規模國內監控和自主武器系統,五角大樓將該公司列為供應鏈風險。
週六,Sacks 表示,政府與 Anthropic 之間的既有爭端,與此次出口管制決定是兩回事。Sacks 寫道:「政府重視 Anthropic 的技術能力,並認為這個問題雖然嚴重,但應該很容易解決。現在球在 Anthropic 那邊。」
[原文連結]
歡迎加入律動 BlockBeats 官方社群:
Telegram 訂閱群:https://t.me/theblockbeats
Telegram 交流群:https://t.me/BlockBeats_App
Twitter 官方帳號:https://twitter.com/BlockBeatsAsia