PrismML把90億參數模型權重壓到2GB：iPhone本地每秒生成34個Token

動察 Beating AI 快訊，美國 AI 公司 PrismML 為 Bonsai 2 家族新增 2B、4B、9B 三款模型，全部基於阿里 Qwen3.5。團隊把語言模型的主要權重限制為 -1、0、+1 三種取值，使模型檔案分別縮至 0.43GB、0.95GB 和 2GB，體積約為原版 16 位權重的九分之一。新模型仍支援推理、圖像理解和工具調用，主要面向手機、個人電腦等設備上的本地 Agent。

PrismML 稱，在 iPhone 18 Pro Max 上，9B 模型每秒最多生成 34 個 Token，2B 則達到 120 個。

在官方測試中，9B 的編程和指令遵循能力幾乎追平同規模的原版 Qwen3.5，但複雜任務差距明顯。測試多輪對話和工具操作的 Tau2Bench 中，Bonsai 2 9B 得分為 73.02，原版達到 85.25；複雜文檔解析得分則為 73.8，原版達到 88.73。

三款模型已按 Apache 2.0 協議開放權重。