据动察 Beating 监测,英伟达正在加码 Nemotron 4,希望把它做到全球最强的开放模型之一。《The Information》援引多名项目员工称,系列最大模型预计至少有 1 萬億參數,約為 Nemotron 3 Ultra 的兩倍。具體規格和發布時間尚未確定,最終訓練也還沒開始。
英伟达希望用更強的開放模型帶動 GPU 需求。公司近年明顯增加自研模型的算力投入。截至今年 4 月,未來數年的雲服務採購承諾已增至 280 億美元,約為一年前的 3 倍,不過其中也包括其他研發用途。
Nemotron 4 還拉上了一批外部公司共同開發。Cursor、Mistral、Thinking Machines、Reflection AI 等會提供訓練數據、評測和模型設計,Prime Intellect 還貢獻了 30 萬個模擬環境。
問題是,這些公司內不少本來就是英伟达的客戶或被投企業。OpenAI 等頂尖模型公司也是它最大的 GPU 買家之一。現在英伟达自己衝擊一線開放模型,既想把開放模型市場做大,也開始和自己的客戶、合作夥伴競爭。