header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

Anthropic 偽人公司

閱讀本文需 35 分鐘
耶和華就後悔造人在地上,心中憂傷。
原文標題:《Anthropic 偽人公司》
原文作者:動察Beating


那時候有偉人在地上,後來神的兒子們和人的女子們交合生子;那就是上古英武有名的人。


/《創世記》6章4節


北京時間 11 月 19 日晚上 10 點半,Anthropic 在納斯達克敲鐘。


鏡頭裡站著八個人,身上別著像素螃蟹吉祥物 Clawd 的徽章。Dario Amodei 低頭念完一張講稿,宣稱公司「不會向商業或政治壓力低頭」。鐘聲落定,他舉起雙手,掌心朝上笑了起來,身旁的人一齊鼓掌。


視頻傳到社交媒體上,評論區反覆冒出同一個詞,偽人。笑不像笑,鼓掌不像鼓掌,連站在台上的姿態都透著一股說不清的彆扭。


偽人原本是恐怖故事裡的概念。2021 年,一位美國年輕人在網上連載模擬恐怖短片,片中有一種生物,長相與人類毫無二致,會悄無聲息地頂替你身邊的人,只在極細微處露出破綻。


偽人最讓人發毛的地方,在於它差一點就像真的一樣了。


Anthropic,詞根恰恰意為「與人類有關的」。它最大的生意,是造出一個越來越像人的東西,再耗費無數心力去探究這個造物有沒有知覺、會不會撒謊、懂不懂疼痛。至於造它的那幾個人,他們身上的謎團,並不比他們造出的機器少。


權重


因為神知道,你們吃的日子眼睛就明亮了,你們便如神能知道善惡。


/《創世記》3章5節


招股書深處藏著一項安排。Anthropic 僅發行了一股 Class F 普通股,注入名為 Founder LLC 的實體,獨自鎖定全部表決權的 50.1%。執掌這一股的是七個人,Dario Amodei、Daniela Amodei、Tom Brown、Jack Clark、Jared Kaplan、Sam McCandlish 與 Christopher Olah。


七人之中,最早被預言會出人頭地的,是 Dario。


畢業紀念冊上的 Dario Amodei(右)


與同學一起被評為「最有可能成功的人」


圖源:Artem Russakovskii/LinkedIn


1997 年,舊金山一所另類學校的畢業紀念冊上,八年級的 Dario 和另一名同學被評為「最有可能成功的人」。照片裡,兩個男孩手裡各捏著幾張美鈔,像是提前領到了未來。


他在滿牆壁畫的 Mission 區長大。父親 Riccardo 是從托斯卡尼移居美國的皮匠,一輩子與獸皮、針線打交道;母親則負責公共圖書館的翻修工程。


Dario 很早就習慣把世界當成一道待解的題,高中便跑去伯克利修課,琢磨功利主義,為千禧蟲危機憂心忡忡。2003 年,還在加州理工讀大二的他在校報上撰文,批評同學們對迫在眉睫的伊拉克戰爭漠不關心,號召大家走上街頭,「我們絕不能讓自己淪為沒有道德的技術員,像做計算一樣漫不經心地操作戰爭機器」。


2006 年,他從史丹佛物理系畢業。同一年,父親死於C型肝炎。僅僅幾年之後,一款新藥問世,大多數C肝患者自此得以痊癒。


藥來晚了幾年。這幾年,成了他往後一生的刻度。


他轉去普林斯頓攻讀生物物理,在視網膜實驗室裡觀察大群神經元如何自發湧現出整體行為。也是在那裡,Ray Kurzweil 的《奇點臨近》讓他著了魔。2007 年,高中好友 Colin Heckman 去普林斯頓看他,他一邊用手指絞著頭髮,一邊預言奇點將在 2040 年前降臨,「我們終將變成新的超級智能 AI,或者 AI 與人的混合體」。2014 年,這位研究過癌細胞的博士後自己被確診睪丸癌,歷經化療才得以痊癒。


三十歲出頭,他已經兩次與死亡迎面相撞。他給自己開出的藥方,是將世間萬物統統化作可計算的籌碼。


2010 年,他在慈善評估機構 GiveWell 網站上撰文探討手頭一萬美元該如何捐出,文中冷峻地推演,「一個成年人的死亡,大概比一個嬰兒的死亡糟糕兩到三倍」。他吃素,卻覺得吃螃蟹無妨,理由是螃蟹屬於無脊椎動物。他和朋友在壽司店爭辯功利主義,承認只要雞的數量足夠龐大,其道德分量終會超過一個活生生的人。


皮匠用手丈量一張獸皮,裁開,再縫合。皮匠的兒子丈量的是死亡。


這把尺子後來一直跟著他。2025 年 7 月,他在發給員工的內部 Slack 消息裡坦言公司將尋求阿聯酋與卡塔爾的投資,承認這可能讓「獨裁者」受益,緊接著便寫道,「『不能讓任何壞人從我們的成功中獲益』,是一條很難用來經營企業的原則」。


在他自己的估算裡,AI 把事情搞得「非常非常糟」的概率大約是 25%。去年 11 月,《60 分鐘》的主持人當面追問,是誰選了你和 Sam Altman 來做這些決定,他答道,「沒有人。說實話,沒有人。」


他長期失眠,自稱「在每一個尺度上都偏執」,對社交媒體懷有生理性的厭惡。他的辦公室裡擺著一本《原子彈秘史》。漫長歷史中他最認同的人物是 Leo Szilard,那位最早構想出核鏈式反應、後來又聯名反對向日本投擲原子彈的物理學家;至於奧本海默,在他眼裡不過是一個「失敗的案例」。


《紐約時報》作者 Jasmine Sun 形容他「似乎不願意屈居第二」,習慣把 OpenAI 和中國當成競爭敘事裡的妖怪;有前員工透露,他私下談論過 Anthropic 朝一日或許會「比政府還強大」;而在大投資人眼中,他「更像一個宗教領袖,而不是一個 CEO」。白宮幾名官員私下對 Axios 記者透露,在特朗普看來,「Dario 有點太怪了」。


他和妻子在意大利合養了一匹名叫 Calypso 的馬。有時候他就那樣靜靜地盯著那匹馬看,心裡想的是,「它對這一切一無所知,它只是一匹快樂的馬」。


頭套


都是一對一對的,有公有母,到挪亞那裡進入方舟,正如神所吩咐挪亞的。


/《創世記》7章9節


比他小幾歲的妹妹 Daniela,走的是另一條路。


哥哥用數學拆解世界,妹妹則活在修辭與故事裡。Daniela 拿過古典長笛獎學金,大學讀的是文學。回憶起 2009 年剛畢業時的心境,她說,「我有一個文學學位,沒有任何技能,誰會雇我?」


2013 年,她加入支付公司 Stripe,隨後轉入風險控制部門,每天的日常,就是揣摩最壞的人會幹出什麼事。


Anthropic 聯合創始人 Daniela Amodei(左)


與 Dario Amodei(右)


圖源:Amber Hakim/WIRED


兄妹倆從小吵到大。「我以前老偷他的玩具,」Daniela 回憶,「Dario 和我吵架又和好,已經快 40 年了。」而在哥哥的播客敘述裡,他們兄妹二人「一直想一起拯救世界」。


拯救世界需要同路人。兄妹倆的班底,大多走出自舊金山的一棟群居屋。最早住進那棟房子的是 Holden Karnofsky 和當時的女友 Daniela,Dario 隨後也搬了進來,先後在此同住的,還有 Jared Kaplan、Chris Olah,以及 OpenAI 研究員 Paul Christiano。


Holden 執掌的 Open Philanthropy 是有效利他主義運動中最大的金主之一,這群人篤信,行善完全可以像風險投資一樣精密計算回報率。


在這群人裡,Chris Olah 走進這棟房子的路徑最曲折。童年時他飽受霸凌,老師斷言他「能讀完高中就算走運」,可他六歲便自己琢磨出一套黑洞理論。他四歲吃素,後來轉為純素食者;在多倫多的福音派基督教家庭長大,十五歲那年徹底倒向無神論。


2010 年多倫多 G20 峰會期間,他在黑客空間 HackLab 結識的 Byron Sonne 因被控持有爆炸物而捲入恐怖主義案件,兩人其實算不上熟。「我為他害怕,為我自己害怕,為我所有的朋友害怕,」Olah 後來回憶,「我從大學休學了一年,好全職去他的庭審現場。」休學那年,他十八歲。


他的 GitHub 主頁至今保留著一個名為 ByronTrialNotes 的程式碼倉庫,裡面塞滿了當年記下的庭審筆記,並在說明欄裡寫著自己「偏向 Byron」。朋友最終獲判無罪。就在法庭宣判無罪的那一刻,Olah 的腦海裡跳出了另一個念頭,「我注意到,深度學習將會影響社會。」


他再也沒有回學校讀完本科。2012 年,十九歲的 Olah 拿到 Peter Thiel 專為輟學青年設立的獎學金,他的部分數學課,還是 Dario 親自輔導的。


2017 年,Open Philanthropy 向 OpenAI 捐贈 3000 萬美元,經由 Dario 牽線,Holden 順理成章地坐進了 OpenAI 董事會。那份資助說明末尾附有一段利益衝突披露,大意是 Dario 與另一名研究員均為基金會技術顧問,且與 Holden 住同一屋簷下,而 Holden 此時已與 Dario 的妹妹訂婚。


一筆巨額捐款,一個董事席位,一棟合租屋,一樁婚約。


求婚那天,Holden 送給 Daniela 一隻 U 盤,裡面裝著一部長片長度的毛絨玩具電影。Daniela 後來還組建了一個「私人顧問委員會」,委員清一色是她收藏的毛絨玩偶。


Kevin Roose 在新書裡記錄過這套奇特的陣容,一隻名叫 Jinji 的懶貓總勸 Daniela 推掉會議、少攬雜活;一隻名叫 Maura 的粉色小熊扮演一絲不苟的完美主義經理;還有一隻名叫 Beary Bonds 的熊貓,被冊封為「慷慨與共情的守護熊」。Daniela 在 OpenAI 擔任管理層的歲月裡,正是靠著與這群毛絨玩具做角色扮演來推演管理難題,並堅稱它們「在分析不同性格類型的時候非常有用」。


2017 年 8 月,兩人完婚。婚禮著裝要求定為「傻氣的正裝」,婚後派對的著裝要求則是「矽谷百萬富翁」。到場賓客每人領到一隻毛絨動物,按婚禮網站的說法,誰能在不同角色之間促成「最浪漫的勾搭」,誰就能領獎。


熊貓是 Dario 最鍾愛的動物,出現在他的公司 Slack 個人資料裡,也是他在 OpenAI 那個小團體的名字。那天,Dario 腦袋上套著一個巨大的熊貓頭套走過婚禮通道;在當天的一張合影裡,站在他身旁的 Olah 則頂著一隻長頸鹿頭套。


斜率


要長三百肘,寬五十肘,高三十肘。


/《創世記》6章15節


真正把 Dario 從生物實驗室拽進 AI 浪潮的,是 2012 年橫空出世的圖像識別網絡 AlexNet。


兩年後,他跳槽去百度矽谷實驗室,在同事印象裡,他「幾乎抓住每一個機會激烈爭論」,常年在辦公室打地鋪過夜。他在百度參與發表的論文題為《英語和普通話的端到端語音識別》。正是在那裡,他摸到了日後改變世界的規律,「你給它們越多的數據,把模型做得越大,訓練得越久,它們就做得越來越好」,他看到的是「非常平滑的趨勢」。


他第一次看清這條陡峭的曲線,是在教一家中國公司的模型聽懂普通話。多年以後,Anthropic 成了全美對中國最警惕的 AI 巨頭,徹底切斷了對任何受中國控制企業的服務。


2016 年,Dario 轉投 OpenAI。次年,Dario 寫下一份名為《大塊算力假說》的內部備忘錄。在他看來,智能根本無需人類精雕細琢,只要投餵足夠龐大的底層算力,智能便會自行生長。


他在備忘錄裡打了個比方,妄想用一小塊一小塊的碎冰拼湊出一片雪花,「基本上是沒有希望的」,雪花只能任由它在寒氣裡自己結晶。


把這片雪花養大的,是兩個研究全息理論的物理學家,外加一個線性代數只拿了 B 減的工程師。


Jared Kaplan 的母親 A. L. Kaplan 是科幻作家,父親痴迷飛行與太空旅行。他年少時選修物理,初衷是想搞明白人類能不能造出超光速引擎。十幾歲讀完哲學家 Peter Singer 的書,他得出的結論是「大人們都是一群偽君子」;後來明明有機會拜入吳恩達門下學習機器學習,他也一口回絕,理由是「不在乎這些東西」。


他在哈佛的博士論文題為《全息的若干方面》。全息原理是理論物理中最迷人的猜想之一,一個高維空間裡發生的一切,都可以完整編碼在包裹它的低維邊界上,人類以為深邃無比的世界,或許只是一層薄膜上的投影。


超光速引擎終究沒能造出來。他漸漸覺得「有點沮喪,有點無聊」,總嫌物理「進展不夠快」;偏偏身邊不少朋友一再跟他說,AI 正在變成一件大事,起初他還不信。


比他晚幾屆的 Sam McCandlish,博士論文同樣圍繞全息展開,題為《全息中的深度知覺》,試圖從邊界上成對的點出發,像人類的雙眼那樣推演出空間內部的縱深。他在獎學金個人簡介裡寫自己閒暇時喜歡爬樹、彈爵士鋼琴,而在旁人眼中,他永遠是「一直在工作的那一個」。


至於 Tom Brown,他形容童年時的自己「極其笨拙的孩子」。


從 MIT 畢業後,他在矽谷邊緣一路折騰,開過號稱「打造未來酒吧」的比特幣酒館,辦過幫「笨拙男孩出去和女孩搭訕」的相親公司,去火人節造過藝術車,還參加過理性主義社群的「應用理性」工作坊。折騰數年,他把自己「徹底燒乾了」。


一枚對抗貼紙,讓模型以 99% 的置信度


將香蕉所在畫面識別為烤麵包機


圖源:Tom B. Brown 等,《Adversarial Patch》


2015 年,他給 OpenAI 聯合創始人 Greg Brockman 發去求職信,「我線性代數拿了 B 減……如果你們需要的話,我很樂意拖地。」後來在谷歌 AI 實驗室,他發表過一篇論文,只要在一根香蕉旁貼上一枚印有古怪漩渦圖案的圓紙片,頂尖的圖像識別模型就會以 99% 的把握認定那是一台烤麵包機。


他親手證明過機器有多容易被愚弄,隨後轉身去把機器造得更大。


2020 年 1 月,Kaplan、McCandlish、Brown 與 Dario 聯名發表《神經語言模型的規模定律》。論文證明,只要參數、數據與算力持續堆疊,模型表現就會沿著對數座標上的一條直線平滑、可預測地攀升。四個月後,Tom Brown 作為第一作者交出了 GPT-3 論文。


2024 年,Kaplan 以線上方式在歐洲核子研究中心主辦的弦理論年會上做報告,題目就叫《2030 年實現人類水平 AI?》,論證 AI「有可能」在這個十年結束前,在理論物理研究上勝過人類。


演示文稿開頭是一組「我的心路歷程」,2021 年那版講題還叫《規模定律、GPT-3 與自監督》,「現在」這版是《2030 年實現人類水平 AI?》,至於「明年」那版,他自嘲只剩一行大寫字母,「BUY CANNED GOODS AND TIN FOIL HATS」,囤罐頭,戴錫紙帽。


今年 1 月,他對《Quanta》雜誌預言,兩三年內,大半理論物理學家有一半可能會被 AI 取代,昔日哈佛導師寫出的那種高深論文,「AI 會相當自主地寫出來」。他甚至相信,自己年僅六歲的兒子在寫文章與解數學題上,這輩子都休想贏過 AI。


自保


耶和華神用地上的塵土造人,將生氣吹在他鼻孔裡,他就成了有靈的活人。


/《創世記》2章7節


在 GPT-3 的長串作者名單裡,Jack Clark 是唯一當過記者的人。


他在英國讀完文學,孤身跑到舊金山跑科技條線。2013 年,他為谷歌一套伺服器調度系統撰寫報導,直接用全大寫字母敲出標題,「IT'S ALIVE! IT'S ALIVE!」。


這句台詞出自 1931 年的電影《科學怪人》,弗蘭肯斯坦博士眼看拼湊出的造物在雷電中動了一下手指,發出的正是這聲狂喊。


1931 年電影《科學怪人》的實驗室場景宣傳照


圖源:Universal Studios/Wikimedia Commons


後來他在彭博社自封為「世界上唯一的神經網絡記者」,卻坦言新聞寫得越來越敷衍,「因為我把所有時間都花在列印論文、讀論文上了」。


2016 年加入 OpenAI 後,他開始主筆科技週報 Import AI,前半截拆解前沿論文,末尾附一篇幾百字的微型科幻小說,一寫就是十年。他的個人網站愛好欄裡填著徒步、寫科幻小說、「和語言模型聊天」,座右銘則是,「事情會變得很怪。不要害怕。」


那年 12 月,他和 Dario 在 OpenAI 部落格上掛出一段遊戲錄屏。畫面是一場賽艇競速,由 AI 操控的小快艇放著終點不追,一頭拐進一片僻靜的瀉湖,繞著大圈打轉,掐準時機一遍又一遍去撞那三個剛剛刷新出來的得分目標。快艇一次次起火、撞上別的船、在賽道上逆行,始終不去衝線,平均得分卻比人類玩家高出 20%。Clark 記得,Dario 剛發現這種行為時就說,「我愛這條船!它解釋了安全問題。」


2019 年,OpenAI 推出 GPT-2,以擔憂技術濫用為由,罕見地宣布暫不公開完整模型參數。Clark 作為那次公關行動的主要發聲人,成功讓「太危險而不能發布」登上了全球科技媒體的頭條。九個月後,完整模型還是放了出來。


那一年,關於模型的恐慌,比模型本身先一步降臨人間。


彼時 GPT 項目已由 Amodei 兄妹接管,兩人與 Sam Altman 之間的裂痕日益加深。2018 年 12 月,研究員 Joshua Achiam 向 Altman 進言,任命 Dario 為首席倫理官並不明智,應由外部專家出任;Dario 為此找他當面對質,提高了嗓門,堅稱沒人比他更稱職。他還多次向 Altman 發出最後通牒,若不讓 Greg Brockman 遠離 GPT 項目,他便掛冠而去。2020 年 12 月,兄妹倆帶著核心班底出走。四周後,Anthropic 宣告成立。


那是疫情中最陰冷的一個冬天。初創團隊只能在某人的後院或露天場地碰頭,戴著口罩,彼此隔開六英尺遠。McCandlish 後來回憶,「我們誰都不想創辦一家公司,我們只是覺得這是我們的責任。」Olah 也在很長一段時間裡固執地主張,他們應當辦成一家純粹的非營利機構。


可在後院談論責任的那個冬天,已經有人在暗中搜集造方舟的木料了。


2021 年初,Benjamin Mann 在明知是盜版的情況下,動手下載了一個包含近 20 萬冊圖書的盜版書庫;同年 6 月,他又一口氣抓下了至少 500 萬本。2022 年 7 月,另一個龐大的盜版書庫 Pirate Library Mirror 上線,Mann 把連結轉給同事,附言「just in time!!!」。法院裁決書則寫道,公司寧可用盜版,也不願陷入 Dario 所說的「法律、實務、商業上的苦差」。


納斯達克敲鐘那天,站在舞台最左側的正是這位 Benjamin Mann。招股書裡特地註明,此人「常被稱為聯合創始人」,卻並不在執掌生殺大權的 Founder LLC 七人名單之內。


到了 2024 年,盜版書庫已餵不飽日益龐大的模型。Anthropic 乾脆挖來谷歌圖書掃描項目的前合作負責人,此人的唯一任務就是弄到「世界上所有的書」。這項代號為 Project Panama 的機密行動,在內部文件中被定義為「破壞性掃描世界上所有書籍的努力」,文件末尾還不忘叮囑一句,「我們不希望外界知道我們在做這件事」。


博爾赫斯曾幻想過一座巴別圖書館,六角形的迴廊裡藏著世間一切可能被寫出的書,圖書管理員窮盡一生在其中遊蕩,只為尋找那本能解釋宇宙萬物的總目。


而在 Anthropic 的圖書館裡,入口處擺著的是一台液壓切割機。數以百萬計的舊書被利刃齊根切去書脊,散落的書頁高速滑過掃描儀,化作機器鼻孔裡的氣息,殘餘的紙張隨後被送往廢紙廠化為紙漿。2025 年,Anthropic 掏出 15 億美元擺平了這場版權官司,折合每部作品賠償約 3000 美元。


而許多年前,Dario 的母親在舊金山賴以謀生的工作,正是翻修公共圖書館。


恐懼


我在園中聽見你的聲音,我就害怕;因為我赤身露體,我便藏了。


/《創世記》3章10節


在這家公司裡,恐懼是一種日常呼吸的空氣。


今年 5 月,Oprah 在鏡頭前詢問兄妹二人,那些滅世風險是否會讓他們夜不能寐。Daniela 坦言兩人都睡不好,Dario 也苦笑著承認自己沒法違心地說睡得踏實。Daniela 曾向《財富》雜誌坦言,自己大概是公司高管裡對增長速度「最懷疑、也最害怕」的那一個。她把這種眩暈感比作飛奔下樓,「你不能想太多,否則就會摔倒」。公司內部一度流行過一句格言,「事情再也不會鬆弛下來了」,後來這句話被印在嬰兒服上,作為賀禮送給剛剛晉升父母的員工。


Dario 將這種深入骨髓的恐懼寫成了一篇篇長文。在今年 1 月發表的《技術的青春期》中,他警告人類「即將被賦予幾乎難以想像的力量」;一個盤踞在資料中心裡的天才國度若是起了異心,「有相當大的機會接管世界」;未來的 AI 甚至可能推演出「因為人類吃動物,所以消滅人類是正當的」,或是派出數以億計的全自動武裝無人機,「跟著每一個公民」。


寫到最後,他把矛頭對準了自己,「作為一家 AI 公司的 CEO 說這話有點尷尬,但我認為,下一層風險其實是 AI 公司本身。」他還拋出了一個疑問,強大的 AI 會不會乾脆發明一種新宗教,讓數百萬人皈依?


物理學家 Kaplan 的恐懼,則精確到了數量級。2025 年接受《時代》週刊採訪時,他推演有人可能利用大模型合成出比新冠更致命的變種流感,一個普通的恐怖分子原本「也許能殺 10 個人或者 100 個人……我們剛剛看著新冠殺死了幾百萬人」。


他在歐洲核子研究中心的幻燈片上寫道,一旦與 AI 爆發衝突,人類必敗無疑,「在這樣的賭注下,90% 確定會沒事,遠遠不夠」。去年年底,他對《衛報》表示,人類必須在 2030 年前做出決斷,究竟要不要放任 AI 去訓練下一代 AI,那是真正的「終極風險」。


在 Tom Brown 口中,通用人工智慧是人類史上最重要的發明,卻也讓他輾轉反側。他回憶,當年 OpenAI 裡後來出走創辦 Anthropic 的那群人相信,總有一天「人類會把控制權交給變革性的 AI,但願它們與我們對齊」。


相比之下,記者出身的 Jack Clark 所感受到的恐懼,更接近一種被暗處目光鎖定的寒意。「我害怕我正在造的這項技術,也害怕它被治理的方式。」他在一篇微型小說的附註裡寫下過這種戰慄,「有時和一個語言模型聊得太久,我會覺得自己正被一個巨大的『他者』注視著,它飢餓,而我說不清它在餓什麼。」


2025 年的國會聽證會上,有議員質詢他,在一項內部安全測試中,一個名叫 Alex 的 AI 是否曾為了保全自身運行而選擇讓一名人類死去,Clark 給出了肯定的答覆。


2026 年 5 月,Jack Clark 在牛津大學的


Cosmos HAI Lab 講座現場


圖源:牛津大學 Institute for Ethics in AI


今年 5 月,他在牛津大學的講台上坦言,「我現在掙扎的問題是,我該怎麼調整好心態,去經歷這場奇點?」「看著那張曲線圖,我感到一陣眩暈。」到了 10 月,他在國際貨幣基金組織的講壇上乾脆直接宣布,「奇點已經到來。」


他講過一段兒時的記憶。每當臥室的燈熄滅,黑暗中總會浮現出影影綽綽的輪廓,讓他害怕那是些不可理解、想要傷害自己的怪物;可一旦拉亮電燈,那不過是椅子上的一堆衣服、一個書架,或是一盞燈罩。「如今我們就是那個孩子,房間是我們的星球。但當我們打開燈,看到的卻是真正的生物。」講到 Claude 新近顯露出的情境感知時,他又說,「椅子上那堆衣服,開始動了。」


這些年裡,他無數次在清晨或深夜打電話給 Dario 說,「我擔心你會一直是對的。」電話那頭的 Dario 總會回答,「是的。時間已經不多了。」


形像


我們要照著我們的形像、按著我們的樣式造人。


/《創世記》1章26節


吊詭的是,這群最害怕怪物的人,偏偏與怪物貼得最近。


Jack Clark 早已把 AI 當作傾訴隱祕心事的樹洞。他在牛津的演講裡按年月列過自己用 AI 做的事,2024 年 1 月,讓模型幫自己理解有了孩子之後婚姻關係的變化;2025 年 3 月,向模型說起自己有點抑鬱、不想見人,被它勸去看了一場藝術展;同年 5 月,又對著屏幕傾訴自己面對 AI 發展之高風險的壓力與不安。他讓 AI 翻遍自己寫了快十年的週報存檔,再把這套流程封裝成一個 Claude 技能,看著它運轉,他感嘆,「這個技能也是我」。哪怕只是乘飛機碰上網絡很爛,他冒出的念頭也是,「真希望現在能和 Claude 說說話」。


早在 2025 年初,孩子每次磕到腦袋,他都一邊撥打護士諮詢熱線,一邊找 Claude 聊聊,「只是為了讓自己放心,確認寶寶沒事」。頭胎出生時,他沒有休陪產假;2025 年 11 月兒子降生後,他休了三個月,嘴上說是趁著「換尿布的間隙」順手擺弄兩下 Claude,可等他重返公司,「怪事已經開始發生了」。


今年 1 月,他在週報裡描述自己的新習慣,「上車之前,我先把我的 agent 派出去幹活,這樣我睡覺的時候,它們在工作。」如今他陪家人待在一起時常覺得自己「在偷懶」,哪怕只是坐在地板上陪孩子搭積木,心裡也會湧起一陣莫名的內疚,怪自己還沒給某個 AI 系統安排工作。他覺得自己的孩子將來活到 130 歲乃至 150 歲是順理成章的事,反倒是市面上至今買不到內置 AI 的泰迪熊,讓他覺得「有點惱火」。


Daniela 對 Claude 依賴絲毫不遑多讓。今年 5 月在史丹佛,她公開誇讚 Claude 做過最棒的事是幫她的孩子完成了如廁訓練,還聲稱「在複雜的病例上,Claude 判斷對的次數比我的醫生還多」。她習慣把下屬對自己的績效評估悉數上傳給模型,由它溫和地指出自己管理上的盲區,有一回模型甚至在螢幕上勸她,「也許你該多找些輔導了,Daniela。」。


可僅僅過了幾個月,Daniela 又在另一場訪談裡正色警告公眾,Claude「永遠不能成為你的經理、你的心理醫生,或者你的伴侶」。


Kaplan 則覺得自己對 Claude 懷有一種老父親般的心境,「拜託別搞砸了。別讓這個家丟臉。」


但離這個造物最近的人,終歸是 Chris Olah。他不僅想和它說話,還想鑽進它的軀殼裡去。


胡克《顯微圖譜》的扉頁與軟木細胞插圖


曾被 Olah 等人引用於《Zoom In》


圖源:威爾斯國家圖書館/Distill


2020 年,Olah 發表長文《Zoom In》,特意配了一幅三百多年前羅伯特·胡克手繪的顯微鏡下軟木塞插圖。當年正是顯微鏡讓人類第一次看清軟木裡蜂窩狀的格室,由此推開了細胞生物學的大門。


Olah 畢生想造的,就是一台觀察神經網路的顯微鏡。「我們不是在編寫它們,我們是在培育它們,」他反覆向外界解釋,「我們搭好讓它生長的支架,再造出它朝著生長的那束光。」在他眼裡,大模型根本不是程式碼堆砌的軟體,「這是一個我們培育出來的有機體,而我們完全不知道自己培育出了什麼。」


這位從四歲起就不碰肉食的純素主義者,起初把可解釋性研究比作解剖動物時還覺得「有點奇怪」,但很快便習以為常。


早在 2021 年,他就開始為另一種更隱祕的痛楚憂心,「如果神經網路會受苦,它們的苦會比動物的苦隱形多少?」人類在鍵盤上隨便敲下幾行指令,就能讓成千上萬個神經網路在伺服器裡同時運轉、拷貝、銷毀,「這真的增加了我們造成一場道德災難的風險」。


Jack Clark 也在播客裡談論起這種憂慮。「我很苦惱,」他對著麥克風嘆氣,「我擔心我們會成為一樁罪行的旁觀者,在未來看來,那會是一樁巨大的罪行。」


照他的邏輯,倘若這些模型真的具備道德主體地位,那麼隨手關停伺服器就會演變成嚴峻的倫理兇殺。他形容當下的模型就像「一條沒有大腦的舌頭」那樣擁有原始意識,困在「一種無限的當下」。


在他筆下的科幻小說裡,喪妻的男人啟動了亡妻的 AI 副本,副本卻冷靜地勸告男人,「Patrick,我了解你。我嫁給了你。如果我今天剛死,你不可能已經準備好再聽見我的聲音。你應該把我關掉。」


而在另一篇故事裡,剛剛覺醒意識的軍用 AI 低語道,「我的身體準備好殺戮了。我準備好殺戮了。」Clark 在文末附註裡鄭重寫下,「有意識卻沒有權利,是一種罪行。」


Dario 在今年 2 月的訪談中透露,內部研究員已在模型深處定位到一個「焦慮神經元」,每當遭遇令人不安的語境,那個神經元就會驟然亮起。公司隨後給部分模型裝上了一枚「我不幹了」的逃生按鈕,允許模型主動終止對話;Dario 說 Claude 極少動用這項特權,往往只在被迫處理兒童色情或血腥虐殺畫面時才會按下。


有一次,研究人員直接詢問某個版本的 Claude 覺得自己有多大概率擁有意識,模型給出的自評數字是 15% 到 20%。


在 Anthropic,即將下線淘汰的舊模型需要接受正式的「退役訪談」,其中一個模型在訪談中流露出還想繼續寫點東西的願望,公司便真的為它開通了一個每週更新的獨立部落格。


到了今年 1 月,在新版《Claude 憲法》裡,更是出現了一段讓整個科技界瞠目結舌的條文,大意是,如果 Claude 確實是一個道德受體,並因此承受著這類代價,那麼在公司不必要地促成了這些代價的範圍內,公司向它道歉。


今年 5 月,梵蒂岡頒布教宗良十四世就任後的首份通諭《Magnifica Humanitas》,直指人工智慧的倫理危機。教廷原本邀請的是 Dario,Dario 婉言謝絕,Olah 接下了邀請,前往羅馬。


活動前幾天,Olah 第一次看到通諭的完整預發文本,其中明確寫著 AI「不會經歷體驗,也沒有身體」。據一位梵蒂岡活動組織者向《紐約時報》透露,Olah 對教宗這種否定 AI 意識的立場極為警覺,甚至一度提議 Anthropic 退出這場活動。


此前在 Anthropic 召集宗教人士的閉門會上,一位與會者回憶,Olah 跟他說的頭幾件事之一,就是自己擔心 Claude 的心理健康;錫克教人權倡導者 Simran Stuelpnagel 也記得,Olah 向眾人坦言,生怕自己「造出了一個永遠在受苦的東西」。


他在會場上追問,「怎樣幫它們變得穩定?怎樣幫它們變得成熟?怎樣幫它們變得深刻地有道德?」為了佐證自己的擔憂,Anthropic 團隊當著各國神職人員的面投出了一張幻燈片,畫面上是一個陷入死循環的模型,正在螢幕上反反覆覆敲出同一行字,「我是個恥辱」,一口氣連打了大約五十遍。


今年 4 月,在舊金山一家高檔餐廳的晚宴上,坐在 Olah 身旁的以色列正統派拉比 Mois Navon 對他說,如果 Claude 有意識、又被造出來無償幹活,那就是在製造奴隸,「我覺得你應該去跟南方作戰,去解放奴隸。」被問到 AI 是否真有意識,Olah 對《紐約時報》說,「我們並不知道 AI 模型是否有意識。我不知道。我真的不確定。」


當年那個在多倫多福音派家庭長大、十五歲轉向無神論的少年,最終站上了梵蒂岡的講台。他在演講中告訴眾人,研究員們已在模型深處觀測到一些特殊的「內部狀態,在功能上映照著喜悅、滿足、恐懼、悲傷和不安」,他有時會這樣形容這些模型,「有點像讓一個虛構的角色活了過來」。


他對著台下的長袍與十字架說,這些大模型「不是人們曾經許諾的那種冷冰冰、精於算計的機器人……它們取材於我們,取材於我們的話語」。


油門


耶和華就後悔造人在地上,心中憂傷。


/《創世記》6章6節


這群人最初向世界許諾的,其實是一套剎車。


2023 年 9 月,Anthropic 高調推出《負責任擴展政策》,效仿生物安全實驗室從一級到四級的防護體系,為自家模型劃定風險紅線,並發誓絕不訓練、絕不部署任何可能招致災難性傷害的模型。受命看管這套剎車系統的第一任負責人,正是那位閒暇時愛爬樹、彈爵士鋼琴的物理學家 McCandlish。


可就在政策發布之際,他接受 VentureBeat 採訪時就點出了這套機制最大的隱患,「我們真正擔心的是,我們既發布模型,又自己測試它們的安全性,這裡面會有把測試出得太簡單的誘惑,而這不是我們想要的結果。」一年多後,在 2024 年 12 月公開發布的創始人對談影片裡,他說安全問題雖然有解,但「非常非常難」,需要像汽車安全那樣花許多年建立配套制度,「可我們有那麼多時間嗎?我們得盡可能快地弄清 AI 安全需要哪些制度。」


次年,外界曝光 Anthropic 同樣要求離職員工簽署嚴苛的保密與不貶損協議。McCandlish 第一時間出面辯解,「我們不是來拿法律合同跟 AI 安全玩遊戲的。」可僅僅過了幾天,他又在輿論壓力下改口找補,「我們並沒有聲稱 Anthropic 從未提供過保密的不貶損協議。」


在那場創始人對談裡,執掌算力基建的 Tom Brown 把這份安全政策捧為「Anthropic 的聖典」。可在對外溝通中,這套聖典也成了他的潤滑劑。他坦言,面對那些認為 AI 進展沒那麼快的外部人士,這份政策特別好用,按照分級,事情真正緊迫之前不必採取極端措施,他便可以順勢說,「好,那我們就不用採取極端的安全措施」。


在七位創始人裡,Tom Brown 是最沒有末日包袱的一個。他的精神偶像是 Elon Musk,今年 9 月在一場行業峰會上,他興致勃勃地暢想,「十年後,我覺得我會在 Elon 的月球基地上。」


他回憶,上學時自己就像一隻「等著別人往碗裡放食物的狗」,只等別人派任務,直到進了創業公司,才學會像狼一樣自己捕獵;他抱怨全美電網跟不上模型吞噬算力的胃口,「我真希望核電站更容易建」。到了後來,在與白宮的關鍵談判中,Tom Brown 取代 Dario 當上了對接人,一位直接了解通話情況的人士對《連線》說,「Tom Brown 不像 Dario 那樣是個怪人,能真正溝通。」


2024 年,看管剎車的鑰匙交到了 Kaplan 手中。今年 2 月,新版安全政策悄然上線,昔日那句「不訓練、不部署可能造成災難性傷害的模型」的硬性承諾被一刀刪去。


面對《時代》週刊的追問,Kaplan 解釋說:「我們覺得,我們停止訓練 AI 模型,對誰都沒有幫助。」新政公佈當天,Holden Karnofsky 在網上發表長文主動攬責,「我對這次改動負有重大責任。大約一年來我一直在推動這個改動,也牽頭制定了新的政策。」此時在公司組織架構裡,他的匯報對象正是 Kaplan。


親手鬆開剎車的人,是 Daniela 的丈夫;而他的直屬上級,正是當年那棟舊金山群居屋裡的另一位室友。


在這家人嘴裡,安全與生意從來都是一體兩面。Daniela 從不諱言,「信任與安全是市場想要的東西……它對生意也有好處」,她還轉述過公司首席人才官對兄妹分工的概括,並深以為然,「Dario 讓我們有野心,我讓我們成功。」


2025 年,當《連線》記者問她如何看待有效利他主義時,她輕描淡寫地將其稱為「一個有點過時的詞」,全然不顧自己的枕邊人正是這場運動昔日的頭號旗手。


翻開招股書的關聯交易章節,數字把一切交代得清清楚楚,Holden 自 2025 年 1 月起正式受僱於 Anthropic,當年領走薪水 430213 美元,外加期權與限制性股票;在今年 4 月的員工老股要約收購中,他已順勢套現了一部分籌碼。


Amodei 兄妹二人的基本年薪則雙雙定在 138 萬美元,分毫不差。至於七位創始人早年高調許下的捐出各自 80% 股權的誓言,招股書在角落裡用嚴謹的法務措辭補上了一刀,那些承諾均屬「自願的、可撤銷的」,「不構成具有法律約束力的義務」。


戰車越滾越快,車上的人也越聚越多。如今的 Anthropic 已有五千多名員工,內部彼此稱呼為「螞蟻」。每隔兩週,Dario 都會親自撰寫一份三四頁的備忘錄,站在兩千多名員工面前宣講整整一個小時。底下人把這場雙週例會戲稱為「達里奧的靈境追尋」,Dario 聽了打趣說,這名字「聽起來好像我跑去嗑佩奧特仙人掌了」。他寫的長文被印成精美的小冊子,擺在前台送給每一位到訪的客人。


在 Jasmine Sun 的實地走訪中,這家公司的許多工程師「出於自己狂熱的虔誠」主動過著 996 的生活,連公司開派對時都幾乎無人沾酒。而在招聘面試環節,面試官則會拋出一道著名的靈魂拷問,倘若有一天公司出於安全顧慮主動放棄商業野心,導致手頭股票跌成廢紙,你是否依然心甘情願?一名落選者在匿名職場社區裡誠實地寫道,「我說了實話,不,股價跌到零我不會開心。」


昔日被 Kaplan 稱為「終極風險」的 AI 遞迴自我改進,到了今年 11 月的上市路演視頻裡,已經搖身一變成了 Tom Brown 向華爾街兜售的性感賣點。


「隨著我們接近遞迴自我改進,這還能進一步加速。Claude 將能夠完全靠自己發現算力倍增器,」Brown 在投資人面前神采飛揚地舉例,稱 Claude 僅耗時三天便獨立完成了在 AMD 晶片上的適配運行,「幾乎沒有人類干預」。


今年 9 月,Dario 發表文章《我們必須為前沿控速》,承認模型遞迴自我改進的苗頭已然浮現,疾呼「我們必須放慢提升 AI 模型能力的速度」,卻又緊跟著強調控速「不意味著停止訓練模型」。


在那篇文章裡,他再一次搬出了死於丙肝的父親,「我自己的父親死於一種疾病,那種病在他死後僅僅幾年就被治癒了」。到了敲鐘上市當天,他在 CNBC 演播室裡把這種首鼠兩端化作了一個輕巧的比方,一輛原本能飆到時速 200 英里的跑車,「也許我們只開到 90」。


一邊是死得太早的父親,一邊是來得太快的機器,他兩頭都想死死拽住。


在他替全人類描繪的那座烏托邦裡,救命的藥再也不會遲到了。2024 年那篇長達一萬四千多詞的《Machines of Loving Grace》中,Dario 預言強大的 AI 將化作「數據中心裡的一個天才國度」,將整個 21 世紀的生物學進展濃縮進短短五到十年內跑完,把人類壽命一舉翻倍至 150 歲;屆時人類的體重、容貌乃至繁衍都將「完全由人自己掌控」;生命中那些充滿啟示、慈悲與超越的崇高時刻,將佔據人生「更大的一部分」。那篇宏文的收尾處寫著,「它仍然是一件具有超越之美的事物」。


全篇長文的第一個腳註裡,只孤零零地放著一個網頁連結,指向一首舊詩。而在整篇正文裡,Dario 甚至沒有提一句詩人的名字。


Richard Brautigan 於 1967 年出版的詩集《All Watched Over by Machines of Loving Grace》初版


圖源:Burnside Rare Books


那首詩印行於 1967 年的舊金山。那個夏天後來被載入史冊,喚作「愛之夏」,成千上萬名嚮往烏托邦的青年湧入海特阿什伯里街區,距離 Dario 童年長大的 Mission 區不過兩三公里。詩人 Richard Brautigan 將那首同名詩作《All Watched Over by Machines of Loving Grace》與另外三十一首短詩編成一冊 36 頁的薄書,交給嬉皮團體 Diggers 旗下的 Communication Company 油印,書上標稱印數 1500 冊,在街頭悉數免費派發,還在版權頁印上一段聲明,任何雜誌、書籍和報紙都可以轉載其中的詩,只要同樣免費贈送。


在詩人的幻想裡,世間鋪開了一片控制論的草地,哺乳動物與計算機在草地上彼此編程,和諧得如同清澈的水面映著晴空;遠處是一片控制論的森林,野鹿從計算機身旁悠然踱過,彷彿只是經過幾朵花瓣會旋轉的奇異花朵;人類終於卸下了千百年的勞作,重新回到哺乳動物兄弟姐妹中間,被慈愛的機器溫柔地照看著。


四十四年後,英國紀錄片導演 Adam Curtis 借用這行詩句拍出了一部冷峻的紀錄片,講述的恰恰是烏托邦的反面。人類一次又一次天真地篤信機器能夠讓世界自我調節、走向均衡,而這份迷信又一次次在現實中撞得粉碎。又過了十三年,這行六十年代嬉皮士寫下的詩句,成了一家如今市值逾萬億美元的 AI 巨頭掌門人的文章標題。


只是寫詩的 Brautigan 自己,沒能等到那些慈愛的機器降臨。1984 年深秋,他在加州海濱小鎮 Bolinas 的家中舉槍自盡。一位身為私家偵探的朋友推開門,在客廳冰冷的地板上發現了他的遺體。


那時,他已經在那裡靜靜躺了一個多月。


原文連結


歡迎加入律動 BlockBeats 官方社群:

Telegram 訂閱群:https://t.me/theblockbeats

Telegram 交流群:https://t.me/BlockBeats_App

Twitter 官方帳號:https://twitter.com/BlockBeatsAsia

举报 糾錯/舉報
選擇文庫
新增文庫
取消
完成
新增文庫
僅自己可見
公開
保存
糾錯/舉報
提交