OpenAI自研AI晶片來了，ChatGPT的成本會降下來嗎？

律动BlockBeats

閱讀本文需 9 分鐘

第一步先盯上成本效益

摘要
· OpenAI 與博通發布首款自研 AI 推理晶片 Jalapeño，目標在 2026 年底前進行初期部署。
· 這顆晶片針對LLM推理，並非訓練 GPU 替代品，早期性能說法仍取決於公司的測試標準。
· OpenAI 減少對 NVIDIA 的依賴邁出第一步，但尚未透露成本降低幅度、量產規模和實際負載表現。

OpenAI 和博通於 6 月 24 日宣布 Jalapeño，這是一顆針對大型語言模型推理的自研 AI 加速器，也是 OpenAI 首款被稱為「Intelligence Processor」的晶片。根據兩家公司的公告，Jalapeño 目前仍處於測試和樣品階段，旨在於 2026 年底前開始進行初期部署，並在未來數年進行擴展。對於 OpenAI 來說，重點並非立即取代所有 NVIDIA GPU，而是逐步將 ChatGPT、Codex、API 和未來智能體產品中不斷增長的推理請求，轉向更適合其模型的軟硬體組合。

從推理入手，關注每日查詢成本

AI 晶片的需求大致可分為訓練和推理兩部分。訓練確定模型的能力上限，而推理則決定模型在訓練後是否能夠以可接受的成本回答海量用戶請求。

Jalapeño 的目標是後者。OpenAI 表示，這一晶片將用於大型語言模型推理工作負載，為 ChatGPT、Codex、API 和未來智能體產品提供服務。對於普通用戶而言，它不會直接改變聊天界面，但可能影響處理請求的後台成本、速度和可擴展性。

這也是 AI 公司自行研發晶片的共同方向。谷歌擁有 TPU，亞馬遜、Meta 也在推動定製加速器。它們並不一定要完全取代 NVIDIA，而是將內部最穩定、規模最大的工作負載移至更適合其模型和軟體堆棧的晶片上。

OpenAI 長期以來一直依賴外部 GPU 供應，特別是 NVIDIA 的高階加速卡。隨著模型調用量的增加，僅依靠購買通用 GPU 將帶來成本和供應鏈壓力，通用晶片也未必能以最高效率應對特定模型和服務模式。Jalapeño 的直接改變在於讓 OpenAI 不再僅僅購買算力，而是開始參與定義算力。

博通負責硅實現和連接技術，晶圓製造商未披露

Jalapeño 由 OpenAI 從零設計，博通提供矽實現、網路和連接技術，Celestica 參與板卡、機架和系統層面的落地。官方公告沒有披露晶圓製造方，因此不能簡單寫成博通負責製造。

博通在自定義 ASIC 和資料中心網路方面積累較深，過去幾年也成為多家 AI 巨頭自研晶片背後的供應商之一。對 OpenAI 而言，選擇博通合作，更像是把模型公司內部的架構需求，交給成熟半導體和系統供應鏈轉成可部署產品。

性能部分仍要留出邊界。兩家公司稱，Jalapeño 目標是結合當今領先 AI 加速器的吞吐能力，並在性能/瓦特上較當前先進方案有明顯提升。官方同時強調，工程樣片已在實驗室以目標頻率和功耗運行機器學習工作負載，最終性能仍在測量，未來數月會發布更詳細技術報告。

目前尚未公開第三方基準，也沒有披露精確吞吐量、延遲、功耗、單次查詢成本下降幅度等關鍵指標。部分市場解讀會把它直接放到英偉達 Blackwell 或谷歌 TPU 旁邊比較，但在真實部署數據出來前，降本和性能領先仍只能算公司早期測試口徑。

9 個月到流片，AI 輔助造芯成了另一條線索

Jalapeño 還有一個被官方突出強調的細節：從初始設計到製造流片只用了 9 個月。這個時間不等於完整量產周期，而是指晶片設計進入製造準備階段的速度。

在傳統晶片開發中，從架構設計、驗證、EDA 流程到流片通常需要漫長周期。OpenAI 稱，這一過程由其模型加速。公司試圖證明，AI 不僅能寫程式碼、生成內容，也能進入硬體工程流程，幫助縮短晶片設計和驗證時間。

如果這種方法能在後續產品中複用，Jalapeño 就不只是單代晶片，而是 OpenAI 多代自定義計算平台的起點。OpenAI 和博通此前已在 2025 年 10 月宣布 10GW 級自定義 AI 加速器合作，計劃從 2026 年下半年開始部署，並在 2029 年底前完成。Jalapeño 則是這條合作線進入公開產品階段的第一個樣本。

不過，設計速度快不等於部署速度快。Jalapeño 能否進入 OpenAI 核心基礎設施，還要看後續量產、封裝、高帶寬記憶體供應、伺服器系統整合和資料中心調度。任何環節出現瓶頸，都可能影響年底前的初始部署節奏。