原視頻標題：深入 Anthropic CEO Dario Amodei 的思維 | 電路 | 延伸訪談

原視頻來源：Bloomberg Original
原文編譯：Web3 天空之城

編者按：Anthropic CEO Dario 目前處於非常尷尬的境地。一方面擁有世界頂尖的 AI 模型，另一方面不慎因美國的一項禁令全球下線，甚至連團隊內的非美國人都無法使用。

這件事情的結果尚不明朗，據說 Dario 正在努力應對，大家可以繼續關注。但我們可以從這次最新的 Emily 採訪中一窺這位充滿爭議的 AI Coding 領頭人的思維。

在當今硅谷權力版圖中，Anthropic 处于一個極度特殊且充滿張力的中心位置。作為 OpenAI 最強有力的挑戰者，它由一群因價值觀分歧而選擇「出走」的頂尖研究者創立。

當 CEO Dario 坐在聚光燈下談論 AI 的指數級增長時，他展現出一種罕見的、外科醫生般的冷靜。這不僅僅是關於技術的競爭，更是關於信任、安全以及人類文明面對智慧爆發時如何應對的深度博弈。

全文摘要

本次最新採訪深入探討了 Anthropic CEO Dario 在面臨 AI 指數級增長時的心路歷程，涵蓋了從離開 OpenAI 的內幕、公司的商業模式選擇，到 AI 對就業市場、網絡安全以及地緣政治的深遠影響。

CEO 詳細闡述了 Anthropic 如何通過建立「長期利益信託」等機制來制衡權力，並在追求技術領先的同時，通過設立「紅線」和推遲發布高風險模型（如 Mythos）來践行其安全價值觀。

備註：Dario 的言論一直不太友好於東方大國，請自行判斷。

核心觀點

· AI 行業正處於一種「平穩的指數級增長」中，這種增長在量變積累到一定程度後會產生質的爆發感。

· 信任是 AI 行業合作的基石，Anthropic 主張值得信賴的參與者應聯合起來建立行業標準。

· 企業級商業模式與 AI 安全價值觀更具協同性，能避免消費級市場中常見的成癮性和低質量內容競爭。

· 對於 AI 引發的失業風險，社會需要預見並制定宏觀經濟政策，同時尋求「用相同資源做更多事」的正和博弈。

· 軍事應用必須堅持「人類在回路中」的原則，嚴守大規模監視和全自主武器的紅線。

以下為完整訪談：

指數級增長的壓力與體驗

Emily Chang：你睡眠時間有多少？

Dario Amodei：我一直都不是那種睡眠質量很好的人。只能說，我正在學習如何在非同尋常的壓力時刻放鬆並入睡的藝術。

Emily Chang：一切發展得實在太快了。身處其中是什麼感覺？

Dario Amodei：那是一種指數級的感覺。就像是，假設你乘坐宇宙飛船以相對論速度遠離地球加速。狹義相對論的運作方式是，當你睡一覺醒來，地球上已經過去了兩天。因此你必須在一天之內處理兩天的事情。

然後你再去睡覺，因為你持續加速，地球上已經過去了三天。隨後第二天，四天過去了。那種感覺差不多就是這樣。

Emily Chang：你是否經常因為擔心醒來後會面對什麼而感到焦慮不安？

Dario Amodei：我們需要處理的、清晰且緊迫的問題已經足夠多了，我在處理這些問題的同時，也在思考我們該如何做好準備。但我認為偏執或擔心自己醒來後會面對什麼並無益處。我研究過歷史上那些處理過此類高壓局面的人。你需要學會理性應對，不要將各種危險的程度相提並論。

這種在「我不擔心」和「天哪，我們今天必須恐慌」之間反覆橫跳的狀態，我認為是決策不成熟的標誌。而真正成熟的決策是，你不能無視這一點，我們也不能掉以輕心。

事實上，這正變得風險越來越大，但我們必須理性應對，就像外科醫生處理手術那樣。或者，就像軍官處理軍事行動一樣，又或者，任何做出影響眾多人決策的人，都必須理性地做出這些決定。而且他們必須理解其中的風險，但他們也必須保持基本的冷靜。

所以我兒子昨天問他能不能用我的 Claude 帳號，我說絕對不行，我需要我的 tokens。我們在消費級市場也越來越多地看到這些應用，我們原本希望更多地成為一家企業級公司，但即使我們沒投入那麼多精力，消費級業務也開始快速增長。

Emily Chang：你現在正處於 AI 宇宙的中心，這種感覺如何？

Dario Amodei：有趣的是，在我整個職業生涯中，尤其是加入 Anthropic 以來的這段時間，我所經歷的是一種平穩的指數級增長。

這種平穩指數增長的體驗就是：什麼都沒發生，什麼都沒發生，什麼都沒發生，發生了一些小事，然後突然之間，它就瘋狂地爆發了。這就是這個世界的體驗。這也是公司規模相較於其他公司以及相較於這個世界的體驗。

所以我盯著這個圖表看了很久，然後我說，我們很可能會在大約這個時候，成為營收最高且估值最高的 AI 公司。確實如此，確實發生了。發生了。所以從某種意義上講，我並不感到驚訝，因為圖表上的曲線非常平滑。

但當然，從另一個角度來看，當事情真正發生時，你會看到更多、更豐富的細節和色彩。而且，這絕對是令人驚訝的。

我們始終銘記著我們通常關注的那些問題，即我們該如何訓練出優秀的模型？我們該如何將它們應用到優秀的產品中？我們該如何確保一切都是安全的？我們該如何在幫助人們的同時，管控圍繞這項技術產生的社會風險？這一切都是同樣的問題，只是在更大的顯微鏡下進行審視而已。

成長背景與矽谷精神

Emily Chang：你在 San Francisco 長大時是個什麼樣的孩子？我知道你父親曾是一名皮革工匠，你母親在圖書館工作，這對你產生了怎樣的影響？

Dario Amodei：那時候整個互聯網革命正發生在我身邊，但我對此毫無興趣。我只對研究數學和像寫寫畫畫這類事情感興趣。我對探索宇宙很感興趣。我對科幻小說很感興趣。總的來說，那是我當時所處的環境。我想我只是對這個世界懷有強烈的好奇心。

Emily Chang：你在一個被稱為科技中心的地方長大。而現在它又是 AI 的中心。這個地方，這座城市，有什麼因素塑造了你的世界觀嗎？

Dario Amodei：有的。我認為那種不隨大流、崇尚個人主義，以及認為「有點瘋狂也沒關係」的普遍精神，是存在的。我想其中很大一部分可能確實對我產生了潛移默化的影響。

你會聽到一些故事，比如當你去歐洲某些國家，甚至這個國家的其他地區時，那種以不同方式思考問題的做法往往被抑制或被視為怪異，或者擁有一些瘋狂的想法。

實際上我對 Silicon Valley 有很多批評，但我認為它有一點是好的，那就是它鼓勵一種理念：即便所有專家都反對你，那也無所謂。如果你有一個連貫的願景和連貫的世界觀，你就應該去追求它，這才是最重要的。也許它根本行不通。

但如果行得通，它就具有某種長尾效應，在某些領域你或許可以深挖，並最終可能在那裡發現一座巨大的金礦。我認為這種精神非常重要。

Emily Chang：你、Daniela、你的妹妹，以及她的丈夫 Holden Karnovsky，在 2016 年時曾一起住在同一個合租房裡。那時候你們在爭論什麼？

Dario Amodei：我想那時候正是 Open Philanthropy 項目剛剛啟動的時候，Holden 是該項目的負責人。當時我是一名生物科學家。所以我當時在幫他們處理一些關於發展中國家健康或生物學研究方面的事情。所以我，算是為那些課題提供了一些建議。比如，哪些領域是有前景的？哪些領域的前景沒那麼好？

離開 OpenAI 的核心分歧

Emily Chang：你離開 OpenAI 的決定已經成為了 Silicon Valley 的傳說。到底發生了什麼？抛開那些敘事，本質的問題是什麼？你們在哪些方面存在分歧？

Dario Amodei：聽著，我要說出來，我要說得非常簡單明了。當你構建強大的技術時，會面臨許多難題，Anthropic 每天也在經歷這些。我們不知道自己做出的決定究竟是對還是錯。

所以，在安全性問題上存在許多合理的爭議。我們當然與他們有過一些分歧，但要知道，僅憑這一點並不足以成為離開的理由。這裡的人曾與我有過分歧。這裡的人彼此之間也有分歧。

但當你感到無法信任某人時，當你感到他們的價值觀並非如其所言時，當你感到他們不夠誠實時，當你感到他們並非出於宣稱的原因而行事時，當你看到令人不安的行為模式或不誠實時，這會讓你很難繼續在公司工作，也很難繼續信任這家公司。說到底，當你與某人沒有共同願景且不再信任對方時，何必再去爭論呢？

解決的辦法就是各奔前程，你去做你的事，他們去做他們的事。我完全坦然接受這一點：我們按自己的方式行事，他們則按他們的方式行事。我們將拭目以待誰能在市場上勝出，誰能在輿論法庭上勝出。我認為這些事實勝於雄辯，比任何關於誰離開、為什麼離開的戲劇性揣測更有說服力。

我們要知道，我們正在為如何部署這項技術提供一個範例，我們認為這是一種負責任的方式。如果他們有異議，他們應該提出論據。我認為關於這件事無需多言。

行業合作與信任重建

Emily Chang：在印度的 AI 峰會上，有一個瞬間，你和 Sam Altman 似乎拒絕在台上握手。當時發生了什麼？

Dario Amodei：當時的情況是，那場峰會組織得極其混亂。我們都在最後一刻才上台，他們臨時改變了我們的站位順序。然後他們給我們拍了張照片，接著命令我們所有人手拉手。如果你參加過這類峰會——我並不是針對印度說什麼壞話——但這類所有有國家元首出席的國際峰會，組織起來都非常混亂。

Emily Chang：但其他人都手拉手了。拜託。

Dario Amodei：聽著，我不知道該怎麼跟你說，好嗎？當時 Narendra Modi 就在上面，突然叫所有人手拉手。

Emily Chang：行吧，行吧。

旁白你看，Sam 和 Elon 正在互相起訴。看來你不喜歡 Sam。

Emily Chang：如果世界上最重要技術的開發者們都無法在舞台上手拉手，我們又怎能相信你們會在生存風險問題上展開合作呢？

Dario Amodei：那麼，這就是我想告訴你們的。在構建這項技術的人員中，其素質和可信度存在巨大的差異。我認為這意味著，不同的人，認為沒有人信任彼此，我不認為這是正確的。

我認識構建 Gemini 模型的 Demis Hassabis，這些模型是 Claude 模型的競爭對手。我已經認識他們 15 年了。我們曾一起合作處理過許多問題。我們向 Google 購買計算資源。我們經常交流安全方面的想法。

所以，我的觀點是，首先，有些參與者比其他人更值得信賴。而且，我認為在 Anthropic 之外也有我所信任的參與者，我認為他們是值得信賴的。我認為需要發生的是，值得信賴的參與者需要聯合起來，去應對那些不值得信賴的參與者。使得參與者不得不採取相同的標準。

通過豐富的經驗，我了解到有些人並不會自覺地做正確的事。但如果行業內的大多數人都在做正確的事，那麼我認為行業中的其他人就別無選擇，只能跟隨潮流。這就像是一種積極的版本，你去激勵其他人。

這就像 Demis 和我互相激勵一樣。他在做 AlphaFold。我們也在生物學領域嘗試做一些事情，我們在做可解釋性。他們開始了可解釋性研究。這甚至算不上競爭。

這只是因為每家公司都在做一些很酷的事情。而其他公司會覺得，那很酷。我們也想嘗試一下，看看能不能在其中做出一些新的東西。這就是頂級競爭中「胡蘿卜」的一面。然後是「大棒」的一面，或者是隱性的「大棒」，即你意識到，這些人正在做正確的事。如果其他人不做正確的事，看起來就會很糟糕。

我們經常看到這樣的行為：他們雖然勉強做了正確的事，卻試圖假裝自己正在做不同的事情，並且暗示我們存在某種糟糕或邪惡的意圖，這是可以預見的。但我認為，這就是我們整合行業並促進行業合作的方式。

商業模式：企業級與價值觀的契合

Emily Chang：早些時候，其他人專注於有趣、炫目的消費者應用程序。而你押注於編碼和企業領域，Claude Code 大獲成功，Claude Co-work 也大獲成功。你當初為什麼會下那個賭注？這是一個基於價值觀的決定，還是基於商業的決定？

Dario Amodei：當我們創立 Anthropic 時，最根本的事情，也就是始終重要的事情，是我們內心的願望。我們希望以正確的方式去完成這件事。但你必須扪心自問，為了資助這些模型極其昂貴的創建過程，公司必須具備相應的商業模式。那麼，商業模式會阻礙價值觀的實現嗎？

這個問題始終存在。但我從在其他公司任職以及觀察其他公司的過程中學到的一點是：如果你選擇的商業模式與你的價值觀從根本上產生衝突，那你將會處境艱難。你要麼會背棄自己的價值觀，要麼會被時代所淘汰。

你最終會陷入一種進退兩難的困境；雖然有辦法可以規避，但那依然是一個非常棘手局面。選擇一種與你的價值觀相兼容的商業模式要好得多。

所以當我們思考這個問題時，我們認為，你看，我們已經見識過社交媒體 and 消費領域的世界，它似乎確實在鼓勵互動，甚至是成癮。我們從 AI 視訊模型中看到的那種粗製濫造的內容，其背後的邏輯是最大化你投入的注意力時長，因為這背後是由廣告收入驅動的刺激機制。

然而如果我們審視企業領域，你看，我們的初衷是希望這些模型能對人們有所助益。如果我想到所有可以用 AI 完成的積極事物，我經常提醒人們注意負面影響，但從根本上說，我們認為積極的一面終將勝過消極的一面。其中許多積極應用基本都歸於企業應用這一範疇。

我們希望利用 AI 去治癒那些過去無法治癒的疾病，這需要與生物技術公司、製藥公司以及學術研究機構展開合作。所有這些都是企業，我們希望利用 AI 讓能源變得更便宜、更高效。這些全屬於企業應用。

我們希望利用 AI 來助力教育事業。其中大部分屬於企業級應用。我們希望利用 AI 來解決健康和發展中國家面臨的問題。雖然它們是非營利組織，但本質上都屬於企業範疇。我們希望促進經濟增長。這基本上也屬於企業層面的範疇。

此外我認為還有另一個因素，那就是企業非常看重信任和長期關係，消費級應用有時會帶有一種噱手感，而在企業層面，重要的是建立一種合作關係，即你與一家公司合作多年，你說到做到，他們也說到做到，並且他們從根本上信任你。

因此，這與我們以積極且安全的方式部署這些模型的目標是非常協同的。因此，我認為擁有這種與我們價值觀高度契合的商業模式對我們很有利。

並非說有時不存在衝突，也並非說我們不需要做出艱難的選擇，但我認為這類選擇的數量要比其他情況下少得多。

競爭護城溝與「SaaS 黯日」

Emily Chang：開發者可以在一個下午內就從 Claude 切換到 GPT 或 Gemini。在這個行業中，真的有可能保持長期的領先地位嗎？而且，你認為一個認真的競爭對手需要多久才能複製出你們所構建的東西？

Dario Amodei：模型品質才是最重要的事情。比如我們目前在模型品質上遙遙領先。雖然存在一定的慣性，但我從不依賴這一點，我從未依賴過，或者說 Anthropic 從未依賴過那種「產品黏性高、用戶不會切換」的想法。

我認為你還是想要擁有一個更好的模型。你希望擁有更好的產品。而且，我們看到增長率根本沒有出現轉折，如果說有什麼變化的話，它們反而上升了，至少在我們錄製這次訪談時是這樣。所以，我認為這是最重要的事情。

Emily Chang：在 Claude Co-Work 發布後不久，2,850 億美元的市場價值一夜之間蒸發，交易員們將其稱為 SaaS 黯日（SaaSpocalypse）。如果 AI 繼續以這種速度改進，傳統軟體會有多少被取代，速度會有多快？

Dario Amodei：所以，這屬於那種很難提前預測的問題，如果你能完美地提前預測，那麼人們早就做了，他們會在市場上賺取巨額財富，而且永遠正確。

所以，沒有人確切知道會發生什麼，但我會指出幾點，所有這些傳統軟體公司都有一些護城溝。我認為將會發生的是，其中一些護城溝會消失，但另一些會保留下來，快速編寫軟體的能力，我絕對認為這將會消失，如果你的護城溝是「我們編寫了這種沒人能寫出來的複雜軟體」，那麼，祝你好運。你將無法捍衛這一點。

但我認為人們擁有客戶關係。人們擁有關於該領域如何運作的專業知識。人們擁有獨特的領域知識。所以我給所有這些人的建議顯然是，不要自滿。不要忽視它。列出你所有的護城溝，並非常清楚其中一些將會消失，而另一些則會變得相對更加重要，因為它們是限制性因素。並且也可能會有新的護城溝出現。

我認為那些能夠靈巧應對的人，能夠依賴依然存在的護城河以及利用新的護城河的人，將會做得很好。我認為那些心滿意足的人，他們只是在自欺欺人，認為過去有效的方法將來也會一直有效。他們將不會有好日子過。所以，這就是我會給出的建議。

而且，我認為歸根結底，我猜——當然這取決於你如何定義 SaaS，以及你認為哪些不算 SaaS——但我猜測軟體行業會變得更大，而不是更小，儘管其中會出現一些巨大的輸家。

Emily Chang：請解釋一下。

Dario Amodei：我只是認為蛋糕正在變得越來越大，比如，我認為有了 AI，這塊蛋糕正在變得更大。現有的老牌企業在相對意義上可能會變小。其中一些企業的價值可能會下降。如果它們不能以正確的方式進行調整，其中一些甚至可能會倒閉。

但我認為當增長速度非常快時，你經常會看到這種情況，如果 AI 的可能性增長了 10 倍，那麼現有的既有行業增長 1.5 倍是非常容易的，只是增長幅度沒有整個大蛋糕增長得那麼多而已。所以我認為這種情況可能會發生。

這並不是說我們不會看到一些巨大的輸家。我認為那些不適應、掩耳盜鈴、看不清未來趨勢，以及無法識別自身護城河的人，將會面臨非常艱難的處境。

算力、融資與合作夥伴

Emily Chang：你最大的支持者是 Amazon、Google、Microsoft 和 NVIDIA 這樣的公司。這些公司都有各自的議程。他們既是合作夥伴也是競爭對手。你們擁有與資金掛鉤的巨大商業里程碑。到底是誰在真正做主？

Dario Amodei：我們確實有過多次直言不讳地表達真實想法的情況。我一直非常明確地主張對向中國出口晶片實施管制，我之所以這麼說，是因為我認為如果中國在 AI 能力上領先，這對美國以及全球進程來說將是非常糟糕的。而且，一些晶片製造商顯然並不認同這種觀點。但這並沒有阻止我表達我的看法。

即便是在我們簽署了更多合作協議之後，我現在依然在重申這一點。他們所了解的是，我們始終與他們保持合作。我們一直是良好的合作夥伴。我們是可以共事的。我確定他們希望我們不要說這些話，但這些確實是我堅信的內容。

你打算怎麼做？他們最終還是會達成一致的。他們從這些交易中獲得的收益與我們相當。你看，我們都是成年人了。我們可以在某件事上展開合作，同時在另一件事上保留分歧。

Emily Chang：Bloomberg 報導稱，你們的估值甚至高於 OpenAI。我們談論的是一家成立五年的初創公司，估值接近一萬億美元。你如何理解這一點？關於那個數字，以及既然你在計算資源方面更具紀律性且擁有更快的盈利路徑，為什麼還需要這麼多錢？

Dario Amodei：計算資源的擴充速度非常快，所以業務基本面看起來不錯是事實，但一年後你的計算資源規模可能會達到現在的 3 倍或 4 倍——我不會給出確切數字，但這類計算資源的增長非常迅速。

我們完全有理由相信，收入的增長會達到並超過這些規模。而籌集資金正是應對這種不確定性範圍的緩衝手段。

所以，這完全是一個理性的做法。這對業務造成的股權稀釋非常小，從邏輯上講，這兩者完全不是一回事。事實上，它與對立面是兼容的，這並不意味著業務的基本面有什麼問題。

Emily Chang：有報導稱伺服器負載過重、存在可靠性問題，還有人抱怨 token 用完了。你說過其他公司在基礎設施建設上正在孤注一擲。你真的擁有你所需要的東西嗎，還是你在追趕進度？

Dario Amodei：關於算力，其中一點是存在所謂的行銷算力，所以，我的觀點是，經過一段時間，甚至比幾個月更長的時間，我們是可以獲得大量算力的。這裡值得一提的是，我不認為以任何合理的標準來看，我們購買的算力太少了。

所以，我們原計劃算力每年增長 10 倍。

每年 10 倍是我們所預期的。但這並不是我們目前所見到的情況。在 2026 年第一季度，我們的季度營收增長超過了 3 倍，這僅僅是一個季度的數據，而非年化增長；季度內增長 3 倍，當然，3 的 4 次方意味著全年增長將達到 80 倍。

我們並未預料到會有 80 倍的年化增長。若以 80 倍年化增長為目標進行規劃是不理性的，因為這意味著如果最終只實現 10 倍增長，你就相當於少了 8 倍。所以我們正處於一個局部極端的、算力爆炸的階段。這種情況不會持續下去。

如果這種情況持續下去，到年底時你會獲得一個地球上沒有任何公司能夠企及的營收數字。我不認為這種情況會發生。它只是，它確實不可能持續。

但你可能會經歷這樣短暫的時期，你會驚嘆，天哪，這比我們以往任何時候預想的增長速度都要快得多。但我不知道，你已經看到了與 Google 達成的算力協議，也看到了與 Amazon 達成的算力協議。我們能夠且將會做的還有更多。

比如，市場是流動的。如果你能非常有效地利用算力，且存在需求，你就能獲得所需的算力。可能只是需要一兩個月的時間。

引領頂峰競逐與公司文化

Emily Chang：超越你的死對頭感覺如何？

Dario Amodei：聽著，我們面前還有許多艱鉅的挑戰。我們有一種「向頂峰競逐」的理念，即試圖帶動其他公司與我們同行。我認為我們已經看到，我們確實帶動了他們。有時他們並不承認自己在這樣做。

有時他們在攻擊我們的同時又在模仿我們，但這種帶動作用非常有價值。

因此我認為，無論是從商業角度還是從模型層面來看，成為行業領先企業的價值，並不在於為了競爭而打敗對手。其意義在於有能力引領整個生態系統共同發展，我們希望未來能在這方面做得更多。

Emily Chang：但不得不说，取得勝利確實讓人感覺不錯。

Dario Amodei：你看，我們總是力求成功，不是嗎？就像我們一直在努力，我們並不是想在這裡失敗，我並不是那種認為我們應該停止這項技術發展、不該去構建它的人。我們存在於自由企業制度之中，而且，這沒有任何問題。我們只是必須減輕模型帶來的風險，所以，這始終是在兩者之間尋找平衡。

Emily Chang：那麼，在 Anthropic 的大部分歷史中，你們一直處於劣勢。我想，當你一無所有時，佔據道德制高點會更容易些。在這樣的規模下，要保持初心有多難？

Dario Amodei：我想說的是，我花了很多時間思考這個問題為何如此。

隨著公司的不斷擴張，我在每一個規模階段都保持著警惕。在公司發展的每一個階段，都會出現新的挑戰。公司可能會以某種新的方式失去其特質。無論是商業上的進取心，還是其核心價值觀。

我對此兩者都感到擔憂，因為我認為它們是協同作用的。

事實上，我認為我們能夠構建出如此出色的模型，正是使我們能夠以有效方式践行價值觀的關鍵。隨著公司不斷成長壯大，這裡存在著許多陷阱。有很多種可能出錯的方式，這並不是因為我、聯合創始人或公司領導者的價值觀發生了改變，而是因為公司的構成變化得非常快。

所以我可能有一半的時間都在和公司談論 Anthropic 的文化以及這種文化是如何運作的，當你增長得如此迅速時，你會雇用大量來自大型科技公司的人。

如果你不告訴他們 Anthropic 是如何運作的，他們只會簡單地重複他們唯一熟悉的那一套，也就是他們原先所在公司的運作方式。

因此，這是一個持續的奮鬥，也是一個持續的挑戰。

這就像是，我和 Daniela 或許最重要的首要任務就是弄清楚如何保持這一點。因為我們意識到，從長遠來看，這才是我們的核心所在。

研發效率與科學進步

Emily Chang：你們的產品迭代速度快得驚人。你們發布產品的數量之多、速度之快令人難以置信。你們是如何做到的？

Dario Amodei：我想說兩點。第一點是，我們是一家統一的公司。我們有著統一的企業文化。我認為我們在規模擴大的同時，依然保持了極高的效率。每個人依然目標一致，這體現了文化和組織上的統一性。我認為這是最重要的因素。

至於第二大因素，我想說是 Claude 本身，我們現在正在利用 Claude 來提供幫助。利用它來幫助我們開發模型，提高模型效率，並快速開發產品。為此你需要開發各種各樣的新實踐方法。雖然我們在這方面尚屬新人，但它已經帶來了顯著的加速效果，並且這種加速正變得越來越可靠。這就是我會指出的兩個因素。

Emily Chang：你能告訴我你所見過的AI 做出的最瘋狂的事情嗎？

Dario Amodei：我認為我所見過的最瘋狂的事情主要發生在生物學和醫學領域。我見過不少案例，實際上也包括 Daniela 的情況，Claude 診斷出了一些被許多頂尖醫生漏診的醫療問題。在生物學方面，這些模型在藥物設計、計算化學等任務上開始表現得令人驚嘆。作為一個曾經的生物學家，我看著這些成果時不禁感嘆，這真的太難了。

要知道，完成 these 任務需要經過大量的專業訓練。而 Claude 在這方面正變得越來越出色。這是我認為我們將從中獲得巨大收益的一個領域。這就是積極的一面，我們將獲得這些極其巨大的福祉。生活將會變得更好。人類體驗的質量將會變得更好。

Emily Chang：一個世紀的科學進步。

Dario Amodei：一個世紀的科學進步，以及人類體驗層面一個世紀的進步。比如，回溯到 1900 年。想想我們在 1900 年所面臨的所有問題、導致人們過早死亡的所有原因、他們必須承受的所有苦難，以及我們今天不必再面對的所有物質匱乏。

然後再設想接下來的又一個百年。我真心相信這一個世紀的科學和醫學進步，如果我們能克服當下的難關——我相信我們能夠做到。我越來越感到樂觀。我們將擁有一個遠比現在更好的世界。

寫作、思考與 AI 輔助

Emily Chang：我知道你有多熱愛寫作。你以撰寫文章而聞名。你會使用 Claude 來輔助寫作嗎？

Dario Amodei：我會用。我還沒有到直接採用 Claude 所寫文本的地步，因為我有自己獨特的風格，對此比較挑剔。但我基本上會用 Claude 來協助頭腦風暴，幫我梳理主題，或者提供一些我可以參考的內容。

所以它起的是一種輔助作用。我不知道距離 Claude 能夠寫出比我更好的作品還有多遠。我們還沒達到那個階段，但是，我認為那一天肯定會到來。

Emily Chang：我也熱愛寫作，我覺得寫作能幫助你理清思路。這其中涉及大量的批判性思維。如果我們讓 Claude 代勞，我們是否會失去這種能力？

Dario Amodei：我對此感到有些擔憂，事實上，這也是我堅持自己寫作的一半原因。這對外部受眾而言確實如此。儘管有許多人閱讀我的文章，但寫作同樣是為了理清我自己的思路，讓我知道下一步該做什麼，並為我與他人之間建立一個共同的參照點。

我認為我們仍在探討如何以一種既能保留這些益處的方式來使用 AI。我想我目前所做的就是這樣，比如我使用 Claude 進行研究。以及我使用 Claude 來協助梳理我自己的想法。

我認為如果我們只是全程使用它，比如讓它寫一篇關於 AI 風險的文章，首先，它寫不出我的個人見解，其次，我也確實會失去寫作帶來的那些益處。隨著模型性能的提升，我想未來大概會有某種方式能更直接地在寫作中使用它們，同時又能保留這些益處，但這將是一個微妙的過程。情況不會單一呈現，我們必須在未來一段時間內逐步摸索。

我認為我們可能會迎來一種非常反常的組合，即 GDP 高速增長伴隨著高失業率，或者至少是就業不足，又或是大量低薪崗位的存在，以及嚴重的不平等。

失業風險、生產力與宏觀政策

Emily Chang：你在失業問題上一直非常直言不諱。AI 可能會在未來 1 到 5 年內淘汰掉一半的入門級白領工作崗位。那是去年的說法。AI 的發展速度快得驚人。現在還是 50% 嗎？還是比例更高了？

Dario Amodei：我一直都說過，如果你回看那些原始視頻片段，它們總是會被斷章取義地截取那三秒鐘，但實際上，我真實的表述一直是：我不知道未來會發生什麼，但這預示著局勢可能產生的劇烈震盪將達到一個數量級。

而且，我也一直在談論我們可以採取哪些應對措施，我曾談到過代幣稅，以及與企業合作來調整人員配置。我對再培訓計畫持有一點懷疑態度，但我們確實應該將其納入宏觀經濟政策的考量中。

從一開始，我談論的總是解決方案，但人類心理中似乎有一種傾向，總是剪輯出那三秒鐘關於末日將臨的內容。因此，我想傳達的信息絕對不是末日將臨。我想說的是，這是我們應該預見並感到擔憂的事情，而且我們確實需要以積極的態度去應對。我並不完全確定，但我依然相當擔憂。我的擔憂程度依然處於同一水平。

我們現在看到 AI 正在提高人們的生產力，但這屬於通常的初期增長階段。如果你回顧一下工業革命時期，我在《Adolescence of Technology》中寫過這一點。你自動化了 90% 的工作，這很好。

人們在剩下 10% 的工作上的生產力提高了 10 倍，因為他們獲得了 10 倍的槓桿效應。但最終它會接近 100%。那麼，隨之而連帶的問題是，你必須為他們找到其他可以做的事情。

關於長期發展，我尚不確定。對此我確實感到不確定。但我確實認為存在不同類型的適應。例如，我談論的一點是 Anthropic 內部的軟體工程師。我們目前正在經歷這種轉變，雖然 AI 編寫了所有或幾乎所有的程式碼，但 AI 確實讓軟體工程師變得更有效率。

但即便如此，它依然提升了人們的效率。然而我們已經開始看到一種苗頭，即對於某些人而言，它可能並沒有提升其效率，在這種情況下，直接讓 AI 完成工作可能效果更好。

所以這是問題的一個方面。而另一方面則是，我們需要在哪些領域增加需求？我們稱之為前沿部署工程師，或者類似於應用 AI 解決方案架構師，他們的工作兼具技術開發與客戶溝通。目前對此類人才的需求非常巨大，因為客戶群體龐大且我們正處於快速擴張期。

那麼，這是否適合每一位從事純軟體工程工作的人？這並非完美匹配。這並非一一對應的關係。這讓你意識到未來將會有巨大的顛覆，但事物也會隨之調整。哪一方會勝出？我不知道。

但之所以必須發出預警，是因為這正是我們做出應對的方式。這也是我們制定政策的依據，無論是在人類自身層面，還是在全球宏觀經濟層面。我們希望提出經過深思熟悉的觀點。我們不想做出人們認為無法真正實現或兌現的承諾。我們不想發表未經充分論證的言論。我們希望針對這些問題進行審慎思考，探尋切實可行的應對之策。

Emily Chang：你展示了這張圖表，其中顯示了潛在的工作岗位流失情況，例如銷售、金融等領域；哪些工作會消失，誰會被取代，以及會創造出哪些新工作？

Dario Amodei：实际上没有人能確定，因為經濟是不可預測的，這和股票市場是一樣的，它們屬於那種去中心化的過程，你無法提前真正預知人們未來依然能夠勝任的工作部分究竟是什麼。

但我想說的是，從廣義上講，任何存在入門級白領工作的領域，無論是銀行業、金融業還是其他行業，AI 首先都有巨大的潛力去提升人們的工作效率，但之後，AI 將會具備全面替代人工完成整項工作的能力。

接著我們需要思考，人們究竟能做些什麼？我認為我們需要提前對此進行規劃。當我們與企業客戶交流時，已經在做這件事了。我們看到了他們面臨的選擇。他們面臨的選擇是，我該節省成本嗎？

這通常意味著減少雇員，基本就是用更少的資源做同樣的事情，還是說我們應該在資源總量不變的情況下做更多的事情？只要有機會，我們總是嘗試推動他們用同樣的資源做更多的事，因為這基本上意味著雇傭相同數量甚至更多的人，只是去從事一些新的工作，從而推動他們實現正和博弈。

我們目前所處的有利條件是，蛋糕將會大幅擴張。正因為蛋糕會大幅擴張，所以很可能會出現人們能夠進入的新領域，問題僅僅在於能否足夠快地找到這些機會。這次顛覆的規模將會非常巨大，這正是我在提醒人們注意的地方，但我們必須解決這種匹配問題。

Emily Chang：請為我推演一下，比如五年後你醒來時，這個國家是什麼樣子？這些人都在做什麼？因為如果失業率達到那種程度，難道不就是革命開始的前兆嗎？

Dario Amodei：這正是我們想要防止的結果，我們絕對要避免這種情況發生。

我認為有幾個切入點。這些都沒有保證，我們無法確定，但畢竟還有物理世界，比如存在於物理世界中的事物，機器人革命也在發生，但它比 AI 領域正在發生的事情要慢得多。人們總是談論建設數據中心，但當處理任何類型的信息變得容易得多時，限制因素可能就會變成物理世界中的事物。

因此，我們需要更多的人在物理世界中進行製造、建構和生產。

任何以人為中心的事物，我認為那都將是一件大事，我聽過很多關於 AI 發現了醫生未能發現的問題的故事，我感到高興，但人們確實還是想和其他人類交流，特別是在處理一些重要事項時，也許 AI 可以提供更好的客戶服務，但即便如此，人們，或者至少一部分人，還是希望與人類交流。

所以這類以人際關係為導向的工作，我認為它們將變得很重要，而且我認為人類會做出一些努力來引導 AI，在某種程度上，它必須符合某人的價值觀和意圖。所以我認為這方面會存在某種角色，儘管我不知道這種角色是薄弱還是深厚。我認為這很難說。

反擊「末日營銷」指控

Emily Chang：目前已經出現了很多反對的聲音。我知道你說過你是在嘗試提醒人們，但 Jensen Huang 說你在混淆任務與工作之間的概念。其他人也說過，這更像是一種對 Anthropic 有利的「末日營銷」。所以我希望明確表達並堅決反駁這一點。

Dario Amodei：關於失業風險的整體情況，我有一些想法。我是說，我們還沒有完全充實這些想法，因為我想確保它們是準確的。但Anthropic 已經提出了許多方案。我們曾設立過經濟補助金。我們有經濟指數。我談論的是通過稅收和宏觀經濟政策來應對這些風險的可能途徑。關於新工作是什麼。

在 Technology 的萌芽期，我闡述過，我有大約 5 頁的篇幅專門討論任務與工作的區別，為什麼這一次與以往不同，並列出了 6 件我們能做的事情，從私人慈善到政府行動。我談論了問題，也談論了解決方案。

但是社交媒體，我深惡痛絕，作為一種類別我深惡痛絕，人們只會截取一年前的三秒鐘短片，他們並沒有真正閱讀過文章，或者他們利用了社交媒體的特性——而我在文章中已經非常嚴謹地探討過這些風險。

認為這只是廉價行銷的想法本身就是一種廉價行銷。這是懶惰。這是未能與嚴肅的知識工作進行交流。我認為這也是問題的一部分。再說一次，我認為這是 Silicon Valley 頑疾的一部分。它已經被困在了這種三秒鐘的社交媒體世界裡。

因此人們只對這些內容做出反應，或者他們認為自己只需要對這些內容做出反應。再說一次，我認為這非常危險，而我們未能進行一場成熟的對話。

相反，人們只是懶惰地看待這三秒鐘的片段。然後他們會說，噢，這就是 Dario 當時說的。這太愚蠢了。這太不嚴肅了。每當有人這麼說時，我對他人的看法就會打折扣。

國家安全與軍事 AI 的紅線

旁白全球領先的 AI 公司之一正深度嵌入美國國家安全的多個方面，包括軍事行動。Anthropic 與 Pentagon 就 AI 軍事安全防護措施之間的對峙正在加劇。

Emily Chang：你長期以來一直持反戰立場，可以追溯到你在 Caltech 的時期。然而，你是首批與 Department of Defense 簽署合同，在 U.S. 機密網路上進行操作的 AI 公司之一。用於發動戰爭。解釋一下。

Dario Amodei：好的。我想說的是，你看，世界是在不斷變化的。正如我對這項技術的看法，我感到擔憂，因為我們面對的是一個復甦的威權集團，他們極具侵略性，而我們需要捍衛自己。

這是我一直以來堅信的，並且現在依然堅持的觀點，正因如此，在兩屆政府期間，雖然我可能並不認同每一項政策，但這正是我們普遍支持這一點的原因。

所以這就是我們與他們合作的原因。我們當然不是為了錢才這麼做的。這非常麻煩，即便抛開法律戰不談，要在政府網路上進行部署，所獲報酬並不多，卻耗費巨大精力。所以我們這樣做是因為我們對此懷有使命感。但同樣地，既然我們是因為關切而從事這項工作，那麼對該技術的使用就必須有所限制。

[我在談論技術發展階段時曾提出過這樣的觀點：我們應該在一切方面利用這項技術，但那些破壞我們自身價值觀的方式除外，而我們所劃定的大規模監視和全自主武器這些紅線，正是我認為會破壞我們價值觀的事物。

如果採取了這些手段，那麼即便獲勝也毫無意義。這就是我所看到的平衡點，也是我們所持有的立場。這也解釋了為什麼我們既是第一批與 Department of War 合作的公司，同時在其他人願意從事某些行為時，我們卻有所為有所不為。

我認為你需要選擇一個立場並堅持到底。那種公司立場搖擺不定的做法——從最初宣稱不與政府合作，到突然又全盤承接政府的所有需求——我實在無法理解。你應該選擇你的原則並堅守它們。

Emily Chang：你從 2024 年開始就一直與 Palantir 合作。

Dario Amodei：沒錯。

Emily Chang：他們的技術被 ICE 和加沙的警察部門所使用。Claude 是否以其他方式被用於監控？

Dario Amodei：我們既沒有通過 Palantir，也沒有通過其他任何渠道與 ICE 合作。我們不與 CBP 合作。我不認為我們在加沙有業務。我們非常謹慎地將我們的合作範圍限制在我們所認同的事物上。

Emily Chang：所以，你劃定了你的紅線，總統禁止你與聯邦政府合作，五角大樓將你標記為供應鏈風險，OpenAI 則趁機簽署了你所拒絕的合同。贏得這場鬥爭實際上是什麼樣子的？

Dario Amodei：我不認為一家私營公司能在這場鬥爭中獲勝。這根本不是一場鬥爭。Anthropic 並非在嘗試獲勝，也不是在思考輸贏。這更多是一場關於政府如何正確使用 AI 的辯論。AI 是一項新興技術。我們還不了解它在哪些方面可靠，在哪些方面不可靠。我們還不了解它在哪些方面能促進我們的價值觀，或是在哪些方面會削弱我們的價值觀。

因此，我認為重要的事情之一，就是針對我們認為好的用例——坦率地說，大多數用例都是好的——以及我們所擔憂的用例，確立先例。正如我所言，我們已經看到，合同能發揮的作用終究有限，正如我們所見，其他人可能會簽署一份不尊重你同樣底線的合同。

但它所起到的作用是提高了人們對這一議題的認知。目前，國會正進行著嚴肅的兩黨合作，試圖禁止我們所擔憂的一些事項，並嘗試設置防護措施。重申一次，我不想將此視為一場爭鬥，但某種程度上，這在促使我們國家更審慎地思考如何恰當使用這項技術方面取得了成效。

價值觀與軍事倫理

Emily Chang：Anthropic 的經營者是一個意識形態瘋子，他不應擁有唯一的決策權。我所關心的是更大範圍的 AI 問題。你介意被稱為意識形態瘋子或一群左翼瘋子嗎？

Dario Amodei：我一直都被人罵得比這難聽多了。人們可以隨心所欲地稱呼我或 Anthropic。真正重要的是兩件事：作為一家公司我們取得了成功，並且，我們堅守了我們的價值觀。實際上，在某些方面，我的生活非常輕鬆，因為當你只追求那兩件事時，這真的很簡單，不是嗎？就像那樣，你總是清楚自己的立場。

Emily Chang：一位美國官員曾表示，在 LLM 的幫助下，美國軍方已將每日打擊目標的數量從 1,000 個提升至 5,000 個。這意味著 Claude 可以幫助更快地殺傷更多人。你對此感到安心嗎？

Dario Amodei：我認為這裡有兩件事，首先是美國在軍事上提高效率的能力。我支持這種能力。我認為擁有更強的這種能力並不會引發戰爭，反而能起到威懾戰爭的作用。基本上你是在問，你是否相信這個國家，你是否希望這個國家成為一個更強大的行動者，而不是影響力較弱的世界舞台上的行動者？我希望。我是一個愛國者。

還有一個單獨的問題，那就是，美國政府參與的某些政策是我可能支持或不支持的嗎？

政府所參與的，顯然，我支持其中一些，而不支持另一些。這不由我決定。如果我們提供了一項技術，DOD 也提出了這一點，而我們實際上同意他們的看法。如果我們提供了一項技術，我們無權決定你可以進行哪項軍事行動，或者不可以進行哪項軍事行動。

現在，我個人可能認為某項軍事行動是有道理的，而另一項軍事行動是個糟糕的主意，但我們不會否認這項技術的作用。

你必須將政策制定權留給軍事決策者。你能做的是劃定一些高層面的界限，對我們來說，就是防止出現那些與我們的價值觀、與我們國家的價值觀不符的使用場景，並推動那些我們認為有助於弘揚我們價值觀的使用場景。這就是我們的思考方式。

Emily Chang：Bloomberg 曾報導稱，美國軍方在伊朗戰爭中使用 Claude，通過 Palantir 製造的平台 Maven Smart System 進行人工智能輔助目標定位。据報導，2 月份美國一枚導彈擊中了伊朗的一所女子學校，造成超過 150 人死亡，其中大多數是兒童。Claude 在那次襲擊中發揮了作用嗎？

Dario Amodei：我們，看，我們無法獲取，我們並不確切知道這些模型是如何被使用的。顯然，戰爭中發生的這些錯誤真的、非常可怕，這確實是一件非常可怕的事情。

如果這還不能說明為什麼要堅持反對那些我們不支持的使用場景，我們甚至願意冒著公司前途受損的風險，去限制這些模型的使用方式。而且，你所談論的那個使用場景甚至沒有觸犯我們的紅線。

我們擔心未來會出現多出 100 倍的用例，其中一些確實違反了我們的紅線。現在，還是那句話，我認為總體而言，這些模型的使用是恰當的。我認為從淨效應來看是好的。

但軍事決策者即使在最好的時期也會犯下極其嚴重的錯誤，而我不知道我們現在是否處於最好的時期。

比如，我們可以討論幾件事。我們可以討論如何制定紅線，以防止那些更有可能導致這些問題的模型使用方式，如果我們當初允許，完全放任，如果我們像現在幾乎所有其他公司那樣，屈服於全自動武器，就像這裡所看到的那樣，是 Claude 進行輔助，但由人類做出最終決定。

所以是人類做出了最終決定，而不是 Claude。想像一下，如果在一個世界裡——不是 Claude，因為我們沒有允許它這樣做，而是其他人的 AI 模型——由 AI 模型直接做出決策而人類從未過問。這就是我們所堅持捍衛的。

那正是我們所抵抗的。我想說的是，這裡還有另外一回事。再說一次，我認為採購並不是實現這一目標的正確方式。但我們確實需要確保——這不僅是作為技術供應商的我所關心的，更是美國民眾所關心的——即美國的軍事決策者不會犯下這些錯誤。

確保他們運行可靠，並且在採取行動時做出明智的選擇。

同樣，作為一名公民和技術的供應商，這也是我所關心的。比如，政府在使用技術時，我們大量使用 Microsoft Excel。如果你說，你可以將 Excel 用於某項軍事行動，但不能用於另一項，這在現實中是無法做到的。希望這能讓你了解我們是如何思考這個問題的。

Emily Chang：這所學校有一個網站，你本可以在 Google 搜索中找到它，難道 Claude 不應該發現這一點嗎？或者說，AI 或他們使用的任何技術難道不應該發現這一點嗎？這是否引出了一個更令人擔憂的問題，即在戰爭中利用技術作為捷徑？

Dario Amodei：聽著，聽著，我想說的是，我不確定，我真的不確定。這依賴於，可能是我所掌握之外的機密知識。但是，我們已經確立的原則，我認為在這裡被遵守的原則是，由人類做出最終決定。我不知道 Claude 或任何其他 AI 發揮了什麼作用，但如果這都不能說明為什麼該原則如此重要，我不知道還有什麼能說明了。

Emily Chang：AI 戰爭是更有可能阻止第三次世界大戰，還是更有可能引發戰爭？

Dario Amodei：總的來說，我認為它更有可能阻止戰爭。但如果我們對其使用方式沒有任何限制，那麼我認為，它更有可能導致戰爭爆發。你看過 Dr. Strangelove，這部電影的前提是，你擁有某種末日裝置，一旦它認為自己正受到核武器攻擊，就會自動發射核武器進行回擊。

這能出什麼岔子，話說回來，我又想到了致命性、完全自主武器這類話題。我認為衝突的發生方式在於，雙方相互掣肘、伺機而動。他們會產生誤解。如果我們對這項技術缺乏適當的監督，我認為此類事故發生的可能性就會增加。

現在，我認為如果 AI 能夠被適當地利用，甚至不必局限於戰爭，僅考慮情報收集領域。試想一下，當我們掌握對手的一舉一動時，他們想要進行某種入侵或軍事行動就會三思而後行。因此，我認為卓越的情報能力確實可以阻止衝突。卓越的響應能力可以遏制衝突。我始終堅信這些事物。

Mythos：前沿模型的安全博弈

Emily Chang：Anthropics 幾乎每周都會登上新聞頭條。當然，現在最受關注的是 Mythos。

旁白這是目前最新、最強大的 Anthropic 模型，它能夠自主貫穿網路殺傷鏈的所有環節。

Emily Chang：你曾說過 Mythos 的能力過於強大，不適合向公眾發布。關於它，什麼最讓你感到驚訝？

Dario Amodei：我認為最讓我驚訝的是，模型在發現漏洞方面的能力一直在不斷攀升，更重要的是，它們還能將這些漏洞轉化為利用程式——而人們通常只討論漏洞本身。人們往往不談論將漏洞轉化為利用程式的過程，而它在這方面表現得相當出色。

所以，讓我感到驚訝的是，我們見證了這一巨大的飛躍。這是一個跨度特別大的飛躍。而且在沒有任何引導的情況下，一些我們最初提供該技術給它們的公司表示，這簡直是一種超級武器。應該必須持有槍支許可證才能使用它。

請不要發布這個。這種限制使用的訴求正是來自我們提供該技術的那些公司，它們發現了大量關鍵漏洞以及圍繞這些關鍵漏洞的可利用性，以至於它們基本上是在請求我們不要發布它。

需要明確的是，由於社交媒體領域的信息總是會被扭曲，我們的目標並不是永遠將其束之高閣。我們正在嘗試逐步開放這項技術。面向越來越廣泛的群體。最終，我們認為應該向大眾發布 mythos，但必須配備強有力的網路安全保障措施。

目前的一個顧慮是，我們隨 Opus 4.7 發布了當下的網路安全保障措施，雖然這是一個優秀的網路安全模型，但其能力要弱得多，而且這些措施是可以被越獄的。我們對其他一些認為這是一種充分防禦手段的公司感到有些擔憂，因為雖然這有時確實有效，但我們都知道這些分類器是可以被越獄或繞過的。

根據我們自己的測試，坦率地說，根據我們對其他公司所採取防禦措施的評估，這些防禦措施目前還不夠強大。這正是我們目前正在等待的，即讓防禦能力達到我們真正對其有信心的程度。

Emily Chang：當時對此有很多抵制聲音。有研究人員稱他們能夠使用更便宜的開源模型來複現這一過程。有些人說 OpenAI 已經具備了這些能力。那麼，你如何回應那些認為這是一場大型公關作秀的人呢？

Dario Amodei：關於可以通過開源模型進行複現的說法，這是完全錯誤的。該系統的核心理念是 Mythos 能夠查看整個代碼庫並發現問題。有人在 Twitter 上說，如果你讓一個開源模型專門指向 Mythos 發現的那一行代碼，那麼它也能發現同樣的問題。那不是，那不是提示詞，那不是那個問題，比如說，那不是，那根本不是同一回事。

對此的終極測試是，我們去接觸公司，我們去查看開源程式庫，我們在 Firefox 中發現了 271 個新的漏洞。我們在那些尚未修復漏洞或尚未能披露漏洞的私營公司中，已經發現了數以千計的漏洞。

就像是，在此之前的模型中沒有人發現那 271 個漏洞，所以與那種「我找到了 Mythos 發現的確切程式碼行，我知道我在大海撈針中找到了針，而其他東西現在可以撿起這根針」的情況相比，實踐中真正有效的工作流是另一回事。

但對於那些說這只是行銷手段的人，我想說，我們因為沒有發布這個模型在商業上遭受了巨大的損失。這個模型極大地加速了 Anthropic 內部的研究以及後續模型的生產，如果我們發布它，它也會給外部世界帶來同樣的加速效果。這在商業上對我們造成了極大的傷害。

Emily Chang：如果這能幫助防禦者，那麼它也會幫助攻擊者。我們還能防禦任何東西嗎？

Dario Amodei：我想說的是，我們之所以在將 Mythos 提供給攻擊者之前先提供給防禦者，是為了修補所有的漏洞。我不知道，隨著模型變得越來越好，可能會有越來越多的漏洞被發現，但漏洞的數量終究是有限的。它們是有限的，就像你擁有這個表面，上面只有這麼多孔洞一樣。

你修補了所有漏洞，表面就會變得極難被攻擊；同時，程式碼本身也是由強大的模型編寫的，因此也就很難發現其中的缺陷或對其中進行入侵。所以我認為從另一方面來看，希望在 6 個月或 1 年後，我們能擁有一個比過去更加安全的互聯網生態系統。我們正努力實現那個目標，並盡最大努力向新的網路防禦者開放 mythos。

我們一直在與政府進行溝通。我們非常尊重他們的建議。由於擔心反間諜風險，他們正在放慢我們開放的速度。風險。我認為這是明智的。我認為這裡所有嚴肅的人都明白，這其中存在真正的權衡。

我們看到 Twitter 上的人和其他 AI 公司對此有很多尖酸的批評。你看看他們的言論，再看看他們言行不一的做法。他們不是認真的人。他們並沒有認真對待我們在這裡所面臨的嚴峻權衡。

你看，每天都有客戶打電話給我說，我想要使用 mythos。也有國家打電話給我說，我想要使用 mythos。而美國政府 and 我的安全團隊則對我說，不，等一下，這其中存在風險。我並不是說哪一方是正確的。

我認為真相介於兩者之間。雙方都有合理的觀點。雙方都有合理的觀點。但這其中存在真正的挑戰，我們需要作為一個社會共同去面對，而不是將事物簡單地斥為廉價行銷，也不要像其他一些公司那樣，利用首席行銷官來嘗試進行反向定位。

這一切都顯示出一種令人難以置信的缺乏莊重感與成熟度。我們需要共同面對這一時刻。

權力制衡與政府監管

Emily Chang：你是否已經不得不做出一些讓你感到不那麼自在的權衡了？

Dario Amodei：Anthropic 的整個歷史一直都是權衡的過程，Anthropic 的整個歷史，在某個理想世界裡，你會在發布第一個聊天機器人之前，更傾向於花費數年時間去研究每一個可能出錯的地方。現在，我們確實推遲了。

我們確實推遲了 Claude 的首次發布，但我們只推遲了幾個月。所以我說一切都是一種權衡，處於光譜的極端兩端是完全瘋狂的，因此，一切都是權衡。

我想說的是，既然我們現在處於我所描述的商業領先地位，實際上，我和 Daniela 正在盡我們所能，進一步推動在審慎行事方面取得進展。這就是 mythos 發布的目的，如果你不是行業領先者，就很難做到這一點。所以我認為你會看到更多類似的事情發生。

Emily Chang：有一種觀點認為，政府為什麼不接管你們呢？他們為什麼要讓一家私營公司掌控如此強大的技術？

Dario Amodei：所以我確實認為這是一個非常嚴肅的問題，我也認同這些擔憂。我不認為政府應該直接接管我們，但我可以這樣表述。我想說的是，回顧並描述一下現狀，歷史上我們所見過的每一項前代強大技術，要麼是由政府建造的，要麼是起源於政府。

比如核武器，很顯然，最初是由政府建造的，此後也基本上是由政府主導建造的。但即使像互聯網、GPS、手機這些技術，所有的研發工作都是在實驗室、聯邦實驗室以及大學裡完成的。

AI 是第一項在私營部門構建的技術，政府在其中並未發揮實質性的作用，且進場相對滯後。我認為這實際上是一種危險且不穩定的局面。這並不是我會選擇的局面。這並沒有什麼替代方案，這項技術本身就是可以被構建出來的。我們的競爭對手正在進行建設，這具有經濟價值，反正它終究會被建造出來，問題在於政府並未參與其中，而不是私營部門在做。

我認為我們需要考慮權力的制衡，所以我認為需要對 AI 公司的權力進行制衡。我們有這樣一個機制，即 Long-term Benefit Trust，它本質上是一個可以任命及罷免多數董事會成員的機構。如果將其邏輯貫穿始終，它實際上擁有解雇我的權力。

我們現在正在引入一些元素——雖然遠非全部元素——我們正在引入一些類似公共治理的要素，即你必須對某人負責，而不僅僅是對公司的股東負責。這一點非常重要，無論公司未來發生什麼，這種結構都將持續存在。在 AI 領域，我們鼓勵其他公司也採用類似的結構。

在政府方面，我認為我們需要制衡。國會已經宣布了一些旨在制定紅線的努力，所以我真的認為立法部門 and 司法部門需要發揮作用，因為對於這項技術，我既擔心公司掌握它，也擔心政府掌握它。

隨後，企業需要對政府進行制衡，而政府也需要對企業進行監管。我們需要對這項技術進行基礎性的監管。我認為我們需要開始實施發佈前測試，即強制性的發佈前測試，以及對模型進行測試和審計。

對我來說非常諷刺的是，矽谷科技界有一群人，他們起初的立場是，即使是圍繞這項技術進行透明化，甚至是實施出口管制，都會徹底摧毀我們創造這項技術的潛力，扼殺創新。然而一旦他們看到了我一直以來所預料到的第一個真正危險，情況就變了。他們開始大談特談所謂的國有化，認為政府應該直接將其接管。

得了吧，各位。你們的態度反反覆覆，從最極端的反監管——比如『你們要是敢多看我們一眼，就是在摧毀這個行業』——轉向了『政府應該把一切都搶過去』這種完全共產主義的做法。我們需要一種更理性、更溫和的方法。

這正是我們一直以來所主張的，因為我們深刻理解這項技術所蘊含的力量。我們並不恐慌。我們也沒有否認這一點。我們看到了平滑的指數級增長，並正在對此做出相應的應對。

那麼，你回到白宮的訪問怎麼樣？我們總是嘗試與任何能夠合作的人共事。在政府層面，我說過我們有一套簡單的方法。我們有一套原則。我們遵循這些原則，並希望對方陣營的人能夠通情達理。老實說，政府確實非常認真地對待 mythos。

比如，我們與 Secretary Bessent 以及 Chief of Sotomay 進行了良好的對話。還有幕僚長 Susie Wiles，我認為他們確實理解此處風險的本質。我認為 Mythos 確實在幫助他們更具體地感知 these 風險所在。

所以，正如任何一屆政府一樣，有些部門我們相處得非常好，他們也能理解這一點。當然，也有些部門比較難打交道。我認為這是正常的。這種情況在任何政府中都會發生，我們只是盡力去妥善應對。

智力溢價、地緣政治與未來圖景

Emily Chang：你職業生涯早期曾 Baidu 工作過，那是一家大型中國科技公司，你在其硅谷分部任職，而且你一直對中國持明確看法。中國正在推出強大的開源模型，而美國有公司正在免費基於這些模型進行開發。這是一種威脅嗎？

Dario Amodei：所以，我們在這種技術上看到的一點是，模型智能程度的溢價確實很高。我們極少看到人們會更傾向於使用智能程度較低的模型。明確地說，現在已經存在一個繁榮的生態系統。有很多挑戰和問題比我們需要前沿模型才能解決的問題簡單得多。

但還是要強調，這是一種指數級增長，也就是說，這些非前沿模型可能具有與我們在 2023 年和 2024 年所見相當的經濟價值，但別忘了，我們正以每年 10 倍的速度增長。

因此我們發現，處於前沿水平的東西總是比遠離前沿的東西要強大得多。我認為這一點對於那些習慣於在舊時代構建產品的人來說，還不是特別能夠理解，作為一名之前從未經營過公司、從未思考過上一個產品時代，並且特別厭惡社交媒體時代的人。

我感覺自己像是那個世界之外的局外人。而且我覺得人們的直覺是錯誤的。他們持有各種關於產品的經驗法則。我認為每年 10 倍的指數級增長模型確實打破了這一點。就像智力是一個極其關鍵的因素，其權重超過了一切。所以我們一次又一次地看到，價值往往存在於前沿領域。

現在，對於某些滯後模型，我所擔心的是它們帶來的風險，即我們面臨的 Mythos 級網絡攻擊能力。12 個月後，我們將擁有更強大的網絡能力，但 Mythos 級網絡攻擊能力可能屆時會供任何人下載。希望在那之前我們已經修補好了一切。我不認為我們有什麼辦法能阻止它，但我認為這是一個嚴重的問題。

Emily Chang：你在 baidu 的所見所聞是否塑造了你對中國的看法？

Dario Amodei：並沒有，真的沒有。

我在那裡工作了一年。我想我可能更多地是在語音識別以及诸如此类的事情上學到了東西。或許唯一讓我擔憂的是，我們獲取語音識別數據的方式中，有一部分是——在中國不在乎隱私，所以我們擁有所有這些語音識別數據。

但除了這一點，我在這裡的憂慮是地緣政治層面的。我認為在中國發生的事情中最令我擔憂的，是我們在美國所見到的情況，即我們所看到的對批評聲音的壓制，甚至在美國也是如此，比如在中國香港問題上發生的事情，比如能夠幹預美國的現實。

商業網絡並壓制批評，那是一個威權國家。而且是一個高科技威權國家。當我看到這種情況與 AI 相結合時，你確實會在這裡得到一個反烏托邦，就像 1984 或更糟。

我的重點在於嘗試阻止這種情況。我認為我們擁有機會阻止它。

我認為我們有機會讓 AI 成為一種支持自由的技術，那種讓人類更自由、能夠實現人人享有平等正義承諾的技術，否則它也可能走向反面。至於未來走向何方，這取決於 AI 公司的行動，取決於政府的行動，也取決於我們所有人的行動。因此，我認為我們對此負有責任。

自我迭代與文明存續

Emily Chang：你們領域的人常談論這樣一個時刻：當 AI 變得足夠強大，能夠自我改進，隨後改進後的版本又繼續自我迭代，以此類推。你們的一些研究人員認為這一時刻即將到來。這一時刻離我們還有多遠？

Dario Amodei：我不認為這是一個特定的時間點。我認為這是一個持續的過程。在某些方面我們已經見證了這一點，即 AI 能夠為下一代 AI 建議架構。我想說在一年前，我們觀察到全要素生產率因 AI 而提高了 10% 到 15%。比如，現在這個比例可能已經上升到 20% 或 30% 了。這甚至可能正在翻倍。

就像所有事物一樣，我們正處於指數曲線上，並不存在某個瞬間 AI 會突然自我進化、失控或變得不安全。

我們所經歷的是一種不斷加速的指數級增長。而在指數曲線上的每一個節點，我們都必須評估：現在是放慢腳步的時候嗎？現在是時候對這項技術施加更多管控了嗎？我認為未來將需要越來越多的管控。但我認為，破解這一切的關鍵就在於這條平滑的指數曲線。

再說一次，我認為那些曾經反對一切 AI 監管，隨後因為看到某個現象就主張將其國有化的人，給我們上了一課。我認為那些曾經輕視 AI 的力量，後來卻驚呼 AI 正在自我進化、即將失控並要求徹底叫停的人，也給我們上了一課。

在這些極端反應之間反復橫跳，對於應對這項技術而言是極其無益的。

正確的應對方式，明智的應對方式，應該是保持冷靜，不驚慌失措。我們的應對措施將隨著技術的威力平穩提升。如果你看到有人出現這種瘋狂的搖擺反應。那就說明他們被打了個措手措手不及，而且他們並不嚴肅。

Emily Chang：据我了解，你最喜歡的書之一是《The Making of the Atomic Bomb》。

Dario Amodei：沒錯。

Emily Chang：你認為自己和 Oppenheimer 之間存在相似之處嗎？

Dario Amodei：我最認同的人物是 Leo Szilard，他才是最早提出可能存在某種鏈式反應構想的人。

聽著，我的觀點是，我們無法通過那些超凡脫俗的個性，或試圖成為一切核心的人物來解決這個問題，這裡需要權力的制衡，有很多強大的參與者在此有各自的利益，要想讓每個人都有好的結局，唯一的方法就是建立某種機制，即在各處實現基本的制衡。

所以從某種程度上說，我實際上將 Oppenheimer 視為一個反面教材，即不該發生什麼。

Emily Chang：你曾說過，文明崩潰的可能性大約在 10% 到 25% 之間。這並非微不足道。是否存在一種情景，即導致這一結果的原因是由 Anthropic 構建的？

Dario Amodei：我當然希望不會。我的觀點是，我們所採取的行動降低了這種概率，而不是增加了它，這種概率源於技術本身那套非常直觀的邏輯：世界上存在許多國家，經濟體內存在許多公司，如果真空地帶沒有被填補，就會有新的公司誕生，這就是我們所面臨的困境。

我們正在努力採取行動來降低這種概率。我認為我們降低它的程度遠大於我們提高它的程度。

但是，這項技術的固有屬性就是不可預測。所以，我們在發布產品前會進行大量的構建和測試，並且我認為，目前發布的模型並不危險，至少在網路安全領域之外並不危險。然後我們嘗試迭代並從中學習。所以我們有無數種防禦機制，公司內部一半的工作都是在盡可能地降低風險。

但是，風險永遠不可能降為零。

我想說的是，假設市面上有很多航空公司，而你決定創辦一家更安全的航空公司。你的航空公司既可以比所有其他航空公司安全 10 倍。但是，如果有人來問你，你能保證你的飛機永遠不會墜毀嗎？你怎麼可能保證呢？你怎麼可能做得到呢？

Emily Chang：但如果飛機墜毀的概率是 25%，你肯定不會乘坐那架飛機。

Dario Amodei：確實如此。25% 的比例太高了。我們正在努力讓這一概率降到非常、非常低的水平。這就是我們的目標。

建立信任：用行動證明與眾不同

Emily Chang：你們正在構建某種極其強大的事物，並有望從中獲得巨大的收益。我們為什麼要信任你們？

Dario Amodei：我認為，當任何公司剛起步時，尤其是考慮到我們所見的整個 Silicon Valley 作為一個實體的行為表現時，人們有這種看法是很自然的。回顧過去幾年，我認為從不信任的角度出發——如果你對我一無所有，或者對 Anthropic 一無所知的話——這是一種相當理性的態度。

我認為 Silicon Valley 已經失去了世界太多的信任，我們必須重新贏回這種信任。

我們想要傳達的信息是，我們確實與眾不同。而這種信任必須通過我們的實際行動來贏得。你可以贊同或反對，但我們始終堅持了自己的價值觀。關於神話傳說的說法，不發布這款極其強大的模型確實在商業上限制了我們。

在此之前還有許多瑣碎的事情，我們在中國問題上言出必行。我們切斷了對模型的訪問權限。我們本不必這樣做。沒有人要求我們這樣做。要知道，在當時那個數億美元還佔我們總營收相當大比例的時期，這讓我們損失了數億美元。

比如 Claude II 的延期发布，我们在這方面有很長的歷史。

我們並不完美。我們會犯錯。但是，我想請大家審視我們整體的歷史，如果將這段歷史彙總起來，關於我們最符合這段歷史的假設是什麼？人們必須自己做出決定。

但我認為一個始終如一的假設是，我們確實是在努力去做。去做正確的事情。

我們並不完美。組織總是存在機能失調的問題。我們一直在嘗試修復它們，讓它們運轉得更好。過程中會有許多失誤，許多出錯的地方。但從根本上講，我們對於如何做正確的事有著真誠而嚴肅的願景，並且我們正在努力執行這一願景。

Emily Chang：那麼，我們將在指數增長的另一端與你相見。

Dario Amodei：嗯，希望如此。

Emily Chang：嗯，希望如此。

Dario Amodei：有一件關於 CEO 工作令我感到驚訝且之前並不了解的事情，那就是你必須經常化妝。這完全出乎我的意料。

Emily Chang：就一點粉底而已。

原文連結

歡迎加入律動 BlockBeats 官方社群：

Telegram 訂閱群：https://t.me/theblockbeats

Telegram 交流群：https://t.me/BlockBeats_App

Twitter 官方帳號：https://twitter.com/BlockBeatsAsia