header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

英偉達 Blackwell 登頂首個智慧體硬體基準:能效超 H200 達 20 倍,壓倒 AMD

動察 Beating 監測,評測機構 Artificial Analysis 發布行業首個智能體(Agent)硬件基準 AA-AgentPerf。傳統評測如同單次問答「短跑」,只看響應速度;智能體任務則像「接力跑」,AI 需自主拆解目標,在讀寫文件、改寫代碼、運行測試中反覆流轉。頻繁互動對伺服器內存容量和調度效率挑戰極高。基準通過重播真實編程軌跡,以「每兆瓦功耗支持並發智能體規模」為核心能效指標,直擊數據中心電力與資金瓶頸。

首期測試運行 1.6 萬億參數開源模型 DeepSeek V4 Pro。結果顯示,英偉達 Blackwell 液冷整櫃系統 GB300 NVL72 每兆瓦功耗可承載 6.14 萬個並發智能體,而上一代 Hopper HGX H200 僅能支持 2600 個,能效提升超 20 倍。單顯卡並發容量也提升了 41 倍。這使得在同等電力預算下,數據中心可多承載 20 倍智能體並發規模,大幅拉低自動編程和客服等應用落地成本。

首批成績中,AMD Instinct MI355X 暫時落後。評測機構指出,AMD 與 H200 配置均使用通用開源 vLLM 框架搭建,未作深度優化;隨著服務框架與內核算子適配跟進,AMD 性能仍有提升空間。目前,Together AI 等推理商已率先在 Blackwell 部署 DeepSeek V4 Pro,為智能體編程工具 Cursor 提供實時推理支持。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成