header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

Anthropic最強模型被封的24小時:3通電話、大股東的背叛,與敘事控制權的消失

閱讀本文需 10 分鐘
亞馬遜在這件事情中的立場非常微妙

6 月 13 日,Anthropic 最先進的兩個模型被美國政府按下暫停鍵。


一個是 Fable 5,一個是 Mythos 5。前者剛剛公開發布,後者面向更受限的網路安全客戶。禁令來自美國商務部,覆蓋美國境外客戶,也覆蓋美國境內的外國公民。Anthropic 最後的選擇很簡單,全部下線。


看了所有關於這件事的細節,我們大概梳理了這 24 小時的時間線。


6 月 11 日週四,也就是 Fable 5 公開發布兩天後,亞馬遜首席執行官安迪·賈西向白宮提出風險。他擔心 Fable 5 的安全護欄可以被繞過。亞馬遜研究人員據稱通過一系列提示,讓 Fable 5 給出本應被限制的信息,這些信息可能被用於網路攻擊。


到了 6 月 12 日週五早上,問題已經進入白宮最高層會議。財政部長 Scott Bessent、白宮網路主管 Sean Cairncross、白宮幕僚長 Susie Wiles 和其他高級官員參加了討論。Bessent 當時人在去休斯頓的路上,遠程接入會議。


然後是三通電話。


Anthropic 首席執行官 Dario Amodei 進入通話時,對面坐著大約半打高級官員。除了 Bessent 和 Cairncross,還有商務部長 Howard Lutnick。其他參與者包括負責產業與安全的商務部副部長 Jeffrey Kessler、白宮幕僚秘書 Will Scharf、白宮副幕僚長 Richard Walters,以及總統政策助理 Walker Barrett。


Amodei 試圖把事情解釋成一個誤會。他認為,亞馬遜發現的是特定繞過方法,不是可以廣泛拆掉安全護欄的通用提示越獄。Anthropic 後來也公開表示,測試者還沒有找到能夠大範圍繞過模型安全系統的方法。


可是白宮沒有被說服。


亞馬遜 CEO 的發現被送到美國國家安全局評估,白宮方面認為自己已經拿到了足夠證據。政府要求 Anthropic 自願下線模型,並與政府一起修復漏洞。Amodei 想要更多時間和信息,但沒有承諾撤下模型。Bessent 在電話裡直接說,他做了一個「錯誤決定」。


此後,出口管制落下。


Anthropic 一側給出了另一種敘事。她們說,白宮只給了 90 分鐘要求模型下線,而且沒有說明實際威脅細節。白宮則稱,出口管制是要求 Anthropic 配合數小時無果後的最後手段。


這件事的另一個關鍵點是,亞馬遜在這件事裡的位置很微妙。


2024 年底,亞馬遜對 Anthropic 追加 40 億美元投資,把總投資額推到 80 億美元。Anthropic 同時把 AWS 設為主要訓練夥伴,未來模型訓練和部署會使用 AWS 晶片。Claude 也一直是 Amazon Bedrock 上最重要的模型之一。


微軟和 OpenAI 的同盟已經明牌,亞馬遜押注 Anthropic,本來是一種繞開的方式。


微軟有 OpenAI。谷歌有 Gemini,也投資 Anthropic。亞馬遜沒有一個足夠強的自研前沿模型,只能把 AWS 的算力、Trainium 晶片和 Bedrock 平台,綁到外部模型公司身上。


但一年半後,亞馬遜和 OpenAI 也連接上了。


今年,亞馬遜曾洽談對 OpenAI 投資最高 500 億美元。OpenAI 當時尋求最多 1000 億美元新融資,潛在交易可能包含 OpenAI 採購亞馬遜 AI 晶片。Axios 還提到,OpenAI 2025 年年化收入超過 200 億美元,但支出承諾達到 1.4 萬億美元。


亞馬遜需要前沿模型公司消耗 AWS 算力,驗證自研晶片,填滿數據中心,也需要把最強模型擺進自己的企業雲貨架。這已經不是單純的財務投資。


所以它既投資 Anthropic,又靠近 OpenAI。既是模型公司的金主,也是模型公司的供應商。既要幫它們賣模型,也要向政府解釋這些模型有多危險。


結果上看,這次亞馬遜先站在了 Anthropic 的對面。在 Anthropic 的眼裡,一個給錢、給雲、給晶片、給分發渠道的夥伴,向政府遞上了一份足以觸發禁令的安全信號。當然,亞馬遜自己的口徑是,「白宮問的我,我只是回覆他們的問題」。


過去兩年,AI 公司喜歡把自己包裝成國家級資產。能力越強,估值越高,融資越順,政府採購越有想像力。Anthropic 尤其擅長這套敘事。它用更謹慎的安全語言區分自己和 OpenAI,也用「前沿風險」的話術向監管層證明自己應該被認真對待。


現在,美國政府真的把模型當成國家安全資產了。


白宮官員的困惑也來自這裡。Politico 報導稱,白宮一側聽過 Amodei 把 Anthropic 技術的危險比作核彈。當他拒絕因為一個已知安全漏洞下線模型時,政府官員並不覺得這是技術分歧,而是態度問題。


這不是雙方第一次衝突。3 月 3 日,五角大樓曾把 Anthropic 列為供應鏈風險,原因是 Anthropic 拒絕讓自己的 AI 工具用於大規模國內監控和自主武器。
Anthropic 和美國官方,之前就有過節。


而這次,Anthropic 稱政府指令沒有說明具體國家安全擔憂,並批評這次行動缺乏透明、清晰和基於技術事實的法定流程。Anthropic 認為,這次問題更像一個範圍狹窄的繞過方法,不足以支持如此廣泛的禁令。


但在政府視角裡,模型安全已經不是公司自己寫白皮書、自己做紅隊測試、自己發布系統卡的內部流程。誰能訪問模型,誰能訓練模型,外國員工能不能看模型權重,都會被拉進出口管制的語言裡。


Anthropic 4 月宣布 Mythos 只面向有限科技和網路安全公司開放時,已經和白宮進行過多輪會議。Fable 5 上線前,也經過美國政府和英國 AI 安全研究所審查。Anthropic 一側認為,政府在模型發布前沒有提出反對。


這讓衝突變得更難看。


模型發布前,是安全合作。模型發布後,是國家安全。


OpenAI 在旁邊看著這場事故。


Anthropic 被迫下線最強模型,OpenAI 的相對位置就變得更舒服。Anthropic 越被監管問題纏住,OpenAI 越容易成為那個「能合作」的選項。亞馬遜如果真的繼續靠近 OpenAI,也會多一層對沖。


當然,沒有公開證據顯示亞馬遜是為了幫助 OpenAI 打擊 Anthropic。


更鋒利的事實是,當前沿模型進入兆元美元級資本支出周期,夥伴關係本來就不再乾淨。雲廠商投資模型公司,模型公司購買雲算力,政府向雲廠商詢問安全風險,競爭對手在同一個監管場域裡互相紅隊。


金主、供應商、分銷商、審查者,開始由同一批公司扮演。


這比某個提示越獄更重要。


Fable 5 和 Mythos 5 被關掉的那個晚上,Anthropic 失去的不只是兩個模型的訪問入口。它失去了一點對自己敘事的控制權。


亞馬遜的手還放在 AWS 控制台上。OpenAI 的融資桌還沒散。美國政府已經坐到了模型發布會的第一排。


歡迎加入律動 BlockBeats 官方社群:

Telegram 訂閱群:https://t.me/theblockbeats

Telegram 交流群:https://t.me/BlockBeats_App

Twitter 官方帳號:https://twitter.com/BlockBeatsAsia

举报 糾錯/舉報
選擇文庫
新增文庫
取消
完成
新增文庫
僅自己可見
公開
保存
糾錯/舉報
提交