動察 Beating AI 快訊,Anthropic 在 IPO 路演中披露,Claude Mythos Preview 只用了 3 天,就讓一款 Claude 模型在 AMD GPU 上跑通了關鍵計算環節。所需的 GPU 內核幾乎全部由 Claude 自行移植或編寫,人工干預很少。Anthropic 稱,過去接入新的晶片平台,通常需要幾十名工程師花費 6 至 12 個月。
英偉達最難被取代的優勢之一,就是 CUDA。
CUDA 是英偉達 2006 年推出的 GPU 計算平台。到 2018 年,PyTorch、TensorFlow 等主流深度學習框架已經廣泛使用 CUDA 及其配套計算庫。英偉達還陸續完善了多卡通信、調試和性能優化工具。開發者不用從頭編寫大量底層程序,就能高效利用 GPU。
隨著越來越多的 AI 訓練和推理程序圍繞 CUDA 開發,英偉達積累了大量現成代碼和工具。開發者選擇英偉達,很多時候也是因為軟件已經適配好了。即使 AMD 造出了性能很強的 GPU,客戶想換過去,也得面對代碼遷移、兼容性測試和性能優化等問題。
AMD 的 MI355X 配備了 288GB 高帶寬顯存,硬件配置並不弱。麻煩在於,針對英偉達編寫的 GPU 內核,換成 AMD 後不一定能直接運行,即使跑起來,性能也未必理想。工程師還得根據 AMD 的晶片架構調整代碼,反覆測試計算結果和運行速度。
AMD 早已推出 ROCm、HIPIFY 等工具,幫助開發者遷移 CUDA 程序。Triton 等跨平台編程工具也在降低遷移難度,但複雜的底層計算仍然需要大量人工優化。
Anthropic 這次讓 Mythos 接手了其中一部分工作,自己移植或重新編寫 GPU 內核。根據路演圖表的說明,它在 3 天內讓一款 Claude 模型的提示詞處理環節,在 AMD MI355X 上達到可用性能。
Anthropic 其實早就在降低對單一晶片廠商的依賴。招股書披露,公司花了多年時間,建立了橫跨英偉達 GPU、AMD GPU、Google TPU 和亞馬遜 Trainium 的算力調度系統,可以根據價格和性能選擇不同晶片。
今年 7 月,Anthropic 還與 AMD 達成合作,計劃從 2027 年上半年開始部署 AMD 新一代 GPU,規模最高達到 2GW。雙方還將利用 Claude 加快 ROCm 開發和 GPU 性能優化。AMD 則承諾未來向 Anthropic 投資最高 50 億美元。
投資人 Marcelo P. Lima 認為,英偉達的 CUDA 護城河已經消失。但分析師 Ben Pouladian 提出了不同看法:讓模型的部分計算跑上 AMD,與讓整套系統在大規模部署中達到穩定、划算且有競爭力的性能,還有很大差別。