据動察 Beating 監測,加州理工學院數學家 Babak Hassibi 聯合創立的 AI 實驗室 PrismML 表示,已將阿里開源模型 Qwen3.6-27B 壓縮後跑在 iPhone 17 Pro 上。
Qwen3.6-27B 是 270 億參數密集模型。推理時所有參數都會參與,不是只啟用部分參數的 MoE 模型。
PrismML 称,模型大小從約 54GB 壓到不到 4GB,性能沒有明顯下降。它可用於複雜對話、推理、Agent 和代碼任務。
蘋果已經和 PrismML 接觸,討論如何使用這項技術。蘋果一直想把更多 AI 放到設備本地,但高級 Siri 仍依賴雲端模型。