70餘人使用家用 GPU 完成 720 億參數大型模型分佈式訓練，黃仁勳：開源與閉源「不是A或B，是A加B」

根據 1M AI News 監測，去中心化 AI 網路 Bittensor 的 Subnet 3（Templar）近期完成迄今規模最大的分佈式大型模型預訓練，代號 Covenant-72B，參數量 720 億，訓練數據約 1.1 萬億 token，由超過 70 名貢獻者通過普通消費級硬件跨網路協同完成，無需中心化算力基礎設施，基準測試中可與 LLaMA-2-70B 媲美。

這一成果在 All-In 播客專訪中被提及後，英偉達 CEO 黃仁勋對開源與閉源的關係給出明確表態：「這不是 A 還是 B，而是 A 加 B，毫無疑問。」他指出，通用模型（如 ChatGPT、Claude、Gemini）適合大多數用戶，而「行業專屬的領域知識只能通過開源模型來封裝和控制，這是開源的根本價值所在」。他還透露，英偉達目前投資的每一家初創公司都「優先採用開源模式，再逐步接入閉源模型」。