原文標題:《AI 半導體終局推演 2026(II)》
原文作者:fin,AI 分析師
當半導體結構性演進到 AI 推理主線,內存和存儲成為了最大瓶頸,市場對內存和存儲最大的懷疑就是:
HBM/DRAM/SSD 會不會擺脫傳統周期性?
依賴 HBM 指數增長的 GPU 架構路線進化路線,會不會停止?什麼時候停止?
長鑫擴產的影響有多大?會不會把這個市場重新帶入周期泥潭?
本篇嘗試去建立一個框架來梳理這幾個問題
萬物皆周期,而內存的周期性又特別強,最大的來源在於擴產周期過長,無法快速擴產和需求短缺時期錯配
擺脫傳統周期性幾種可能的方式
1. 定製化:產品不可互換,產能不能隨便轉移,需要簽長約。
2. 結構性的指數級需求增長:需求曲線本身很陡峭,而且供給一直追不上。
3. 技術迭代快速升級:每一代產品都快速淘汰上一代。
滿足任何一條,就能部分擺脫傳統周期;滿足兩到三條,就能擺脫大部分傳統周期
根據這個框架,HBM 在三條裡,大概佔了兩條半
HBM 確實有定製化和 Nvidia codesign 的成分,但並不是很強。真正定製的部分只在封裝和 base die,上面那十幾層 DRAM die 仍然是完全 JEDEC 標準化的。
比如當 Samsung 的 HBM3E 在 NVIDIA 的 qualification 上沒過、份額從大約 60% 一路跌到 20% 的時候,它並沒有把這批產能砸在手裡報廢,而是轉手就供給了 Google 的 TPU、AMD。物理上,給 NVIDIA 的 HBM3E 和給 AMD 的 HBM3E,是同一個東西。所以產能仍然是部分可以自由轉移的。
在 HBM4 之后,定制化的程度更高,包括在基础芯片上集成定制逻辑和/或缓存。更复杂的方法是将 HBM4E 内存控制器和定制芯片间接口直接整合到基础逻辑芯片中。
SemiAnalysis 提到 OpenAI、NVIDIA 和 AMD 分别都在进行定制 HBM 的工作,但这指的是基础芯片的定制化,而芯片上的 DRAM 层仍然是标准的。
部分定制化的特性,HBM 主要需要在封装方面进行合作,这也导致客户必须签订长期合约,但产能确实可以转移,因此 HBM 可以勉强算是半定制化。
最直接的原因是 Nvidia 的令牌工厂令牌吞吐量的硬件升级需求,导致了 HBM 带宽的快速升级更新换代,以及 HBM 大小需求的指數增長。
这实际上是上一篇 AI 半導體終局推演 2026(I) 的結論:
令牌吞吐量 = HBM 大小 × HBM 帶寬,每一代翻倍。
每 GPU 的 HBM 大小大概每年增長 40% 以上
这种需求曲線的陡峭程度,是 DRAM 供應端 14% 的晶圓增長,乘以 9% 的密度提升,很難追上的。
在硬體領域,由於 attn 階段 KV 快取具有極高的帶寬和極高的內存大小需求,這也導致了 HBM 的獨特地位。即使 HBM 的價格提高三到五倍,將資金投入 HBM 帶來的邊際令牌吞吐量提升,仍然比將資金投入其他地方更具成本效益。
其他幾條內存路線,如 SRAM、HBF、CXL、PIM,目前都無法在 HBM 的主要領域 KV 快取/attention 上直接競爭,至少在未來 5 年甚至更長時間內,不太可能找到替代路線。
DDR3 時代已過去 15 年,僅僅進入了 DDR5 時代,而 HBM 的升級換代速度基本上是每兩年一代,比傳統 DDR 要快得多,而且近年來還有加速的趨勢,HBM 大小 x HBM BW 每一代翻倍,目前完全符合這一規律。
每兩年一代 HBM 升級,NV GPU 速度基本是指數型上升:2TB/s -> 3.5TB/s -> 4.8TB/s -> 8TB/s -> 22TB/s,而且 HBM 的速度和推理 token throughput 是完全線性正比的,上一代 HBM 的邊際使用成本會不划算,大家都有動機去盡量用最新的產品,雖然更貴,但是帶來的收益(token throughput)是更多的
Token factory 時代的邏輯是,技術升級(HBM 帶寬)的越多,賺的越多
這個速度差,造成了一個和 CPU 類似的局面:舊產品快速貶值,於是囤貨的價值在變低,比如說,HBM3 的價值貶值的非常快,今天基本上主流產品不會用了
所以 HBM 廠商的理性選擇,從拚當前的產能去佔市場(quantity competition),變成了在穩定性和 HBM 速度上拚技術,拚下一代在 NVIDIA 平台上的 qualification 份額(quality competition),從而避免了在傳統周期的下行波段,大家都不願減產掉市場份額的囚徒困境。
HBM 和傳統 DRAM 比較,三個條件裡滿足了兩個半,那麼 HBM 能擺脫傳統周期性嗎?
內存周期性的來源,主流叙事是,DRAM 有 Commodity 屬性(無差異化 → 價格戰 → 庫存可囤積),所以有周期性。
而 Commodity 屬性本身並不產生周期,它只是一個振幅放大器
特別是 DRAM 領域裡,曾經產生過囚徒困境,在下行周期 Samsung 曾經擴產搶市場份額,誰先減產誰吃虧,導致誰也不敢輕易減產,最後大家都虧損慘烈
實際上周期性的主要結構性來源是供給周期太長,很容易和需求周期錯位。建一座 fab 要 3 年,投資上百億美元,一旦決策就不可逆,而需求增長會有不穩定性,每次出現新範式增長,比如雲服務,移動互聯網手機,疫情線上需求,會有爆發式增長,而過了兩年增長會放緩,供給高於需求,降價過猛,就變成了虧錢周期
萬物皆周期,HBM 這一條同樣是無法避免,但只要 token 需求仍然是指數型增長,結構性的指數增長會減弱周期性,因為需求可預測度更好,而且一旦降價,客戶就有增大 HBM size 的需求(從而增大 token throughput),加上 HBM 有一點定製化要求導致都是長約,從而從周期性轉化成成長周期性,而且這一輪周期會特別長
· 周期性:上行周期賺的多,下行周期虧的多
· 成長周期性:上行周期賺的多,下行周期賺的少
另外,HBM/DRAM 在這三條擺脫傳統周期的條件的基礎上,還有一條重要優勢:
2000 年附近,DRAM 每片 wafer 上 DRAM bit 密度每年增長大概 45%,也就是說,就算晶圓 wafer 數量不擴產,每年的供給端 DRAM bit 仍然可以增長 45%
十年前,DRAM bit 每年密度增長降到了 20%,而現在,DRAM bit 每年密度增長降到了 9%。以前 DRAM 擴產甚至不怎麼需要新建廠房就能得到每年 20~30% 的 bit volume 上升,現在 DRAM 要擴產,更多的是靠 wafer 數量的增長,也就是新建廠房和 clean room。
另外一個 HBM 快速擴產難度在於,HBM3e 大概需要 3 倍的 DRAM wafer 晶圓,而 HBM4 由於堆疊密度的增加,大概需要 4 倍的 DRAM wafer 晶圓數量,相當於 HBM bit 相對於 DRAM bit 一直變得更難製造,單位 DRAM wafer 數量製造的 HBM bit 越來越少,相當於在通縮
HBM 未來有一天,會不會從成長周期性,變回傳統周期性?最重要的因素是結構性指數增長,那麼
AI 推理時代,這個依賴 HBM 指數增長的 GPU 架構路線進化路線,會不會停止?什麼時候停止?
token throughput = HBM size × HBM bandwidth。這個 HBM 指數增長的第一性原理裡的 HBM size 的增長原因正是 KV 快取 的增長。KVCache 的特性以及 Attention 的特性, 也是非常契合 HBM 的。甚至讓 HBM 領先於其他的技術路線, 能夠最大化地讓 KVCache 和 Attention 階段的利用率。
換言之,如果 KV cache 從架構上不存在了,那麼 HBM size 指數增長邏輯也會受到挑戰
所以這個問題的本質其實是,這一輪以 Transformer 為代表的 attention 機制、以及由它衍生的 KV cache 機制,會不會消失? 退潮之後會不會被取代?
從歷史規律來看:每一次 AI 模型架構革命,真正被保留下來的,是那些在數學上具有某種普適性的 primitive 操作
舉個例子:FFN(前饋網路,也就是模型裡大量的 MLP 層)是 2012 年深度學習時代的產物,但它一路活到了今天的大語言模型裡,並且仍然佔據著模型相當大的參數量。它為什麼能活下來?因為這也是一種 universal approximation theorem(通用逼近定理):任何足夠寬的 MLP 都能逼近任意連續函數
Attention 大概率也是這樣一個會被保留的 primitive。因為它解決的是一個同樣基礎的問題:序列 sequence 中任意兩個位置之間的 dynamic routing(動態路由),讓一個序列裡任意兩個位置都能按需建立聯繫。這個能力一旦被驗證有效,就很難被丟棄
所以即便未來架構從純 Transformer 向混合架構演進,或者向世界模型演進,但 attention 層依然會存在,KV 快取(或者它經過 latent compression 之後的等價物)依然需要,HBM 依然會作為推理核心之一,這個依賴 HBM 指數增長的 GPU KV 快取架構路線進化路線,不會停止
HBM 擺脫周期性在市場上有一定共識,但 DRAM 擺脫周期性,市場目前基本沒有共識
還是回到剛才的框架,三個擺脫傳統周期的條件裡,DRAM 是沒有定製化的,所以就只能看技術迭代速度,最關鍵的還是要看,有沒有結構性的指數增長,答案是有的
在 AI token factory 這個概念裡,結構性指數增長的確實主要是 HBM。但事情在 2025 年年底之後起了變化:隨著 agentic CPU 開始釋放潛力,CPU 附帶的那部分 DRAM 需求,正在成為 DRAM 新的結構性指數增長來源
這部分的增長邏輯分兩層:第一層是 CPU 伺服器 TAM 的快速增長,第二層是每個伺服器 CPU core 配備的 DRAM 用量的因為 agentic flow 快速增長
伺服器 CPU TAM 的快速增長的 4 個邏輯在 4 月的 CPU 專篇詳細寫過,簡單的說:
1. AI 加速器集群裡 CPU 和 GPU 配比從傳統的 1:4 變成 1:2,甚至可能往 1:1 邁進
2. Agentic flow 裡 CPU 處理的延遲佔比很高,50~90% 成為重要瓶頸,需要同步擴容
3. AI coding 讓 SDE 的效率大幅提升,程式碼量數量級增長,軟體 API 呼叫指數級增長,直接轉化為這部分 CPU hours 指數級上升
4. Sandbox 為保障資料安全與隔離,如 Analytical Agent 需為每個任務複製大量資料庫和使用者上下文,導致記憶體 (DRAM) 和 CPU 核心的嚴重浪費,而且這個浪費問題五年甚至更久無法解決。另外 CPU hours 在技術上很難通過優化的方法來通縮
這也就是為什麼,上上個季度,AMD 的財報說 CPU TAM 到 2030 年會到 60B,兩個月前,AMD/ARM 把 CPU TAM 的 2030 年預測翻倍到 120B,一個月前,Nvidia 再次把 CPU TAM 的 2030 年預測翻倍到 200B
而上週,Bernstein 再次提升 2030 CPU TAM 指引到 223B。在我看來,2031 CPU TAM 未來上修到 400B 是沒有太大懸念的事情,唯一的懸念是幾個巨頭會什麼時候宣布上修這個指引
第二層,為什麼每個伺服器 CPU core 配備的 DRAM 用量在 agentic 時代快速增長?
傳統 web/SaaS 是 stateless 的:請求進來,分配內存,處理完內存立刻回收。而一個 Agent 任務可以跑一分鐘到一小時,這整段時間裡,它的 message history、system prompt、工作記憶、長期記憶、工具結果 buffer 全部常駐 DRAM
和 CPU hours 一樣,每個任務的內存足跡因為 stateful 和 sandbox 隔離 (每個任務複製資料庫和上下文) 的要求,技術上很難壓縮
context window 從 32K → 256K → 1M,reasoning / test-time compute 的序列長度爆炸,未來還會繼續增大。每個活躍會話常駐的 messages 隨 context 長度線性增長
現在把兩層乘起來。
第一層,CPU server 的 TAM,朝 2030~2031 看大概是 5–7 倍的量級 (60B → 120B → 200B → 223B,我認為還會到 400B)
第二層,每顆 CPU 的 DRAM 配比,大概 3–4 倍 (4~8GB → 16~32 GB/core),但這個增長可能大部分是一次性紅利
2030 年,即便按保守的 300B CPU TAM,一个 CPU core 按 $50 來算,agent 時代最保守按 16GB/core,這算出來新增量最少都是 96EB,而今年的 DRAM 總產量只有 47EB,明年勉強 60EB,這是非常驚人的增量
雖然這個 agentic CPU 帶來的 DRAM 指數級增長,在第二層很大程度上是一次性紅利,但持續時間會持續很久很久,因為這個短缺的缺口實在是太大了
回到文章開頭那個框架。三個擺脫傳統周期的條件裡,第一條 DRAM 定制化,基本可以忽略
而第二條:一個結構性指數級、而且很難逆轉的需求來源是成立的。commodity DRAM 現在也具備了部分擺脫傳統周期性的資格。沒有 HBM(兩條半) 那麼徹底,但已經是實質性的變化
第三條,技術迭代速度,DRAM 的節奏也跟以前不一樣了
因為以前的 DRAM 技術迭代速度是嚴重依賴消費電子的,DDR 的進步對於 performance 用處並不大,但可預見的未來裡,碳基消費的傳統 DRAM,會遠遠小於硅基消費(CPU 伺服器)DRAM 的用量
以前 DRAM 的速度升級帶來的邊際效用是很低的,但現在因為 CPU 伺服器對 memory 的需求增大,以及端側 AI 對 DDR 速度的要求也增大,比如蘋果為了跑本地大模型,LPDDR 速度越來越快
速度升級的邊際效用高了不少,所以 DDR6 和 LPDDR6 的速度迭代需求比以前提升了太大了,這在圖裡也可以看到,LPDDR6/DDR6 的迭代時間縮短了,而且速度斜率,重新開始抬頭
以前新一代 DDR/LPDDR 技術出來,大家的反應都很冷淡,等降價了才會用
而現在 LPDDR6 出來,各家恨不得都在搶著能盡量早上就盡量早,因為速度的提升帶來的 performance 提升是觸手可及的
另外,DDR 的供給還要被 HBM 額外抽一道稅。HBM 每年的擴產速度太快,導致每年都有一批原本可以做 commodity DDR 的 wafer 被拉去做 HBM,而 HBM 的轉換比極低,HBM3E 大約要 3 片 DDR wafer 的產能才能做出等量的 bit,HBM4 是 4 片。所以每年大約有 3% 到 5% 的 DDR bit 增長,是被這個 HBM bit tax 直接吃掉的
所以 DRAM 位元容量,雖然未來每年能夠增長約 24%(14% 來自晶圓增長,9% 來自每片晶圓的DRAM密度增長),但考慮到HBM位元稅後,傳統的非HBM商品DDR,每年的位元增長大約只有 20%(約10% 的晶圓增長 × 約9% 的節點密度提升)
中國長鑫擴產的影響有多大?如果不講武德拼命擴產,會不會把這個市場重新帶入週期泥淖?
長鑫這幾年的擴產速度還是很快的,2025年每個月還是 20 萬晶圓,2026年北京晶圓廠及新增生產線的貢獻就能達到 32~35 萬。
正在建設中的上海工廠一期和二期,一期預計到 2027 年每月新增 10 萬片晶圓產能,二期預計到 2028 年每月新增 10 萬片晶圓產能,也就是說,2027 年每個月 42 萬晶圓,2028 年能達到每個月 50 萬晶圓。
但需要注意的是,長鑫的DRAM位元密度大概只有御三家的一半左右,所以長鑫的每個月 50 萬晶圓晶圓能產出的DRAM位元容量只有其他家的一半,這裡計算晶圓每月時,就按等效一半來算
將這個折扣套上之後,長鑫對整個DRAM行業的衝擊還是小了很多,從 2025 年年底到 2028 年年底,長鑫對DRAM位元產能CAGR的影響大概只有 1.5%,全行業的DRAM產能CAGR 大概從 12.7% 上升到 14.2%
· DRAM 月產能 (kwspm) 2025E → 2028E CAGR
· 三星 685K → 920K 10.3%
· SK Hynix 519K → 725K 11.8%
· 美光 340K → 560K 18.1%
· 非中國其他 150K → 218K 13.3%
· 中國 (密度折半) 117K → 274K 32.8%
· 含中國總計 1811K → 2697K 14.2%
· 無中國總計 1694K → 2423K 12.7%
就算是長鑫未來還能保持增產速度,2030 年對全行業等效產能每年 DRAM bit volume 增產 CAGR 的影響,大概也不到 3%,從 20% CAGR 變成 23% CAGR,僅此而已
另外,長鑫被光刻機所限制,而 DDR6 需要更高速率(14400 MT/s 起步)和更高密度, 御三家做 DDR6 大概率會用 1c 或更先進節點(~12nm 以下),已經全面用 EUV。長鑫可能會在 DDR6 上速率受限,密度也只有一半。
第一個原因是,剛才談到的 CPU 伺服器需求端的巨量增長帶來的結構性 DRAM 需求指數增長,這裡結合 DRAM 供給端的 bit volume CAGR 大概穩定 20% 增長,就可以很清晰的看到,DRAM 未來幾年的缺口為什麼越來越大:
非 HBM 的傳統 DRAM 供給端大概是每年增長 20%,而需求端,按 2026 年 60B CPU TAM,每個 CPU 消耗 DRAM 平均 8GB/core,每個 core $30~35 來算,需求是 16EB
2030 年按 400B CPU TAM,每個 CPU 消耗 DRAM 平均 16GB/core,每個 core $80 來算 (CPU 漲價超過一倍),需求是 80EB,這部分 DRAM 的增長 CAGR 大概是 50%,遠遠超過目前的估算
不同於 HBM 是直接和 token throughput 掛鉤,從而和 GPU 賺錢效率直接掛鉤,DRAM 不夠對於 agent flow 的影響主要是速度,比如說,8GB/core 和 16GB/core 比起來,部分 workload 速度可能降低 30%,部分低價值 task 實在要等等也能忍,結構性指數增長的動機很強,但需求不如 GPU 那麼剛性
Semianalysis 說今年的 DRAM 缺口式個位數百分數,明年是超過 10%。從 agent CPU 數量激增導致的 DRAM 結構性來看,這個缺口每年都會繼續加大,在 2030 年之前看不到降低的可能
另外一個 DRAM 能延續強勢很久的邏輯是,因為 DRAM 漲價之後,被漲價消滅的那部分需求,不是真的消失了,只是延遲了,需求蓄水池太多了。
所謂蓄水池,是指那些「內存一旦降價就會立刻被釋放出來的潛在需求」。它們的存在,意味著即使供給階段性跟上了,價格也很難崩,因為總有新的需求從蓄水池裡湧出來接盤:
內存換算力/速度是一個蓄水池:
有大量本來需要靠額外內存來優化速度和算力的需求,在內存太貴時被壓著,一旦內存降價就會被釋放出來。
比如 Nvidia 的 CPX prefill 加速,本來的設計初衷是用額外的低成本 GDDR7,來做一個專門的 prefill 加速器,結果 LPDDR/GDDR 都太貴了,比漲價前的 HBM 還貴,這個方案的 ROI 就不划算了,但等到普通內存降價,這樣類似 CPX 的優化方案就還會回來
低價值 task 是一個蓄水池:內存漲價導致 token 價格居高不下時,高價值的 task 被優先保留,低價值的 task 被延後;內存一降價,這些被延遲的需求就回來了。
端側 AI 是一個蓄水池:AI PC 的內存配置可能從 24GB 一路漲到 128GB。蘋果已經明確要求最新的端側 AI 滿血版需要從 8GB 升級到 12GB 內存
常規消費電子、Agent PC、低端手機,因為內存漲價而減少的需求,全都是蓄水池。
這麼多蓄水池疊在一起,構成了一個極厚的需求緩衝墊。這就是為什麼 DDR 這輪的結構性增長,後勁會比市場想象的要強。
還有一個 DRAM 價格很難大幅下降的原因在於,HBM 和 DRAM 產能可以互相轉換,所以整個 DRAM complex 是一起 re-rate 的
在上行期 DRAM 的利潤率遠超 HBM,HBM 的漲價幅度甚至變成了由 DRAM 去推動。今年新簽約的 HBM4 的價格,就是當期 DRAM 的價格 x 4,也就是正常堆疊倍數對應 HBM4 的價格
一旦 DRAM 降價毛利下滑,因為 HBM 的長約透明性,利潤率都是有保障的,HBM 就會間接抽走更多的 DRAM 產能,HBM 的降價也會讓 GPU 廠商更有動力盡可能的升級 HBM size,這樣也間接保障了 DRAM 的價格地板
DRAM 的結構性指數增長的需求有了,density scaling 放緩擴產難度在增加,廠商擴產計劃都很謹慎,長鑫這幾年帶來的影響也是有限的,再加上需求的蓄水池非常龐大,這四個原因導致了,在可預見的至少五年甚至更長時間內,DRAM 是很難進入周期低谷的。
NAND 的結構性增長動力沒有 DDR 那麼強,今年的缺貨主要原因是幾個主要玩家的生產紀律保持得很好,並沒有大規模擴產,每年的產能增加主要來源於技術改進:NAND 堆疊層數的增加
第一個結構性增長來自 AI,主要來自 KV cache 的 offloading,把 HBM 溢出的 warm/cold KV cache 卸載到 NAND SSD 上。
但神奇的事情是,這個 kv cache offloading 的增長甚至還沒有大規模發生,SSD 就已經缺的比 DRAM 還嚴重了,漲價也比 DRAM 要更多。等到明年 Rubin CMX 放量,加上 KV cache offloading 大規模應用,SSD 的缺貨也會因為這個結構性增長而增長
第二個,另一個去年年度總結裡提到的未來可期的 AI 視頻帶來的結構性增量,今年已經有出圈的態勢了
Seedance 體量在以一年十倍到四十倍的速度增長。目前它還卡在缺卡算力不足的階段,需求被算力壓著沒完全釋放。但等到缺卡階段過去,AI 視頻對 NAND 存儲的結構性需求增長,會持續相當長的一段時間。
第三個結構性增長也同樣來自於 agent flow 帶來的 Sandbox 使用量的指數級增長,Sandbox 為保障數據安全與隔離,如 Analytical Agent 需為每個任務複製大量數據庫和用戶上下文,導致內存 (DRAM) 和 CPU 核心的嚴重浪費,同樣會帶來大量的 SSD 的浪費(需求)
第四個也許在 2030 年之後發揮作用的結構性增長,來自於 HBF 路線需要用到 SSD,在不少投行分析中被寄予厚望,但這個技術路線還有些遙遠,主要角色定位只能作為存放大模型的 weights,寫一次權重然後做只讀,而且必須要和 GPU/HBM 封裝在一起(48TBps/96TBps),否則靠 PCIE7/8 速度太慢完全無法用,只能說未來可期,下一篇 AI 半導體終局推演 2026(III) 會有更詳細的分析
總之,NAND SSD 的結構性增長沒有 HBM 那麼強,但是勝在便宜,價格到 2027 年也只有 $0.8/GB,是同期 DRAM 的四十分之一,所以也算是多級快取裡的萬金油屬性,結構性增長來源太廣泛了
也就是說,不存在 DRAM/HBM 單獨漲價繁榮,而 SSD 不漲價的情況,因為如果這樣的情況發生,那麼大家就會想辦法用 SSD 去承載 DRAM/HBM 的部分功能,用更低的成本實現類似的效果。HBM、DRAM、NAND 不是三個獨立故事,而是同一 AI memory hierarchy 在不同溫度層的結構性增長
結構性指數增長的需求有了,NAND SSD 擺脫週期了嗎?那麼就要看 NAND SSD 廠家的生產紀律了,唯一可能不遵守生產紀律的,只有長存。畢竟這是一個囚徒困境,一旦有一家不講武德拼命擴產,整個 NAND 產業要擴產的難度比 DRAM 簡單的多。
但最起碼的,這一輪 NAND 同樣是超級周期,幾個結構性指數增長帶來的需求,下行期推遲到 2030 年問題不大。
原文連結
歡迎加入律動 BlockBeats 官方社群:
Telegram 訂閱群:https://t.me/theblockbeats
Telegram 交流群:https://t.me/BlockBeats_App
Twitter 官方帳號:https://twitter.com/BlockBeatsAsia