header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

華為昇騰950PR矩陣計算僅H100四成速度,DeepSeek正從軟件裡擠性能

動察 Beating AI 快訊,去年,DeepSeek 嘗試用華為昇騰晶片訓練 R2,華為工程師駐場協助也沒能跑通。晶片穩定性、跨卡通信和軟體支援都存在問題。今年雙方繼續深入合作。9 月底,DeepSeek 集中公開了六套昇騰適配代碼;10 月又傳出華為正在按照 DeepSeek 的模型需求調整下一代晶片設計。


半導體研究機構 SemiAnalysis 最近公佈了昇騰 950PR 的實測結果。研究人員選取 1055 組大模型常用的矩陣計算,發現華為自己的底層程式已經讓 950PR 發揮出自身 86% 的可達算力,高於輝達 H100 的 75.5%。可實際運算速度仍只有 H100 的 43%,與更新的 B300 相比更只有 21%。


DeepSeek 正在從軟體裡減少數據搬運和等待時間。比如運行注意力計算時,原本需要分別讀取的兩份數據,經過 FlashMLA 調整存儲方式後,一次就能取齊。另一套工具 TileLang 可以讓晶片一邊計算,一邊提前加載下一批數據。SemiAnalysis 實測,自動調度讓部分小型計算任務的耗時最多減少約 40%。DeepSeek 還移植了負責 MoE 專家通信的 DeepEP,但通信與計算仍會爭搶記憶體頻寬,華為計劃繼續改進固件。


此次測試的 950PR 主要面向推理輸入處理,DeepSeek 準備最快年底用於大規模預訓練的是 950DT。此前雙方已開展千卡級測試,但要讓上萬顆晶片連續完成一輪大模型訓練,還需要解決更複雜的協同和穩定性問題。

举报 糾錯/舉報
相關推薦
如果一切順利,最快今年底。
技術從來就不應該是高高在上的奢侈品
英偉達在中國大型模型訓練的護城河,從「必要」降級為「可選」
V4-Pro-Max(最高推理力度模式)自稱當前最強開源模型,編碼基準達到頂級,推理和 agent 任務與閉源前沿差距顯著縮小
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成