header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

英偉達推出首款Groq晶片LPX:與Vera Rubin組合每兆瓦推理效率最高提升35倍,並展示下一代Kyber原型

1M AI News 监测,Groq 3 LPU(語言處理單元)是英偉達去年 12 月以約 200 億美元收購 AI 推論晶片新創公司 Groq 後推出的第一款晶片,預計今年第三季度開始出貨。Groq 3 LPX 機架可容納 256 顆 LPU,配備 128GB 片上 SRAM 和每秒 640TB 的擴展互連帶寬。官方稱 LPX 與 Vera Rubin NVL72 搭配部署時,每兆瓦推論吞吐量最高可提升 35 倍,同時解鎖兆參數、百萬代幣上下文推論場景的營收潛力。黃仁勳將兩款處理器描述為"極端差異卻相互統一:一個追求高吞吐,一個追求低延遲",LPX 的片上記憶體則大幅擴展模型可用的總記憶體容量。LPX 機架計劃今年下半年隨 Vera Rubin 平台一同上市。

大會上,黃仁勳還展示了代號 Kyber 的下一代機架架構原型。Kyber 將 144 顆 GPU 的計算托盤改為垂直排列,以提升物理密度、降低延遲,將搭載於 Vera Rubin 的繼任平台 Vera Rubin Ultra,預計 2027 年推出。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成