header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

Kimi K3能在 Mac 本地運行了,但普通使用者仍執行不起

据动察 Beating 监测,开源 AI 工具公司 Unsloth 发布 Kimi K3 的 1-bit GGUF 版本,把模型从 1.56TB 压到 594GB。用户可以通过 Unsloth Studio 或 llama.cpp 在 Mac 本地运行。

但这个版本至少需要约 610GB 内存。按官方方案,顶配 512GB Mac Studio 还要搭配一台 128GB 内存设备。内存不够也能借助硬盘勉强加载,但速度会大幅下降。

社区还有 350GB 和 451GB 的 MLX 裁剪版,可以装进单台 512GB Mac Studio。但它们删除了 73% 至 80% 的专家,实测速度约 0.14 至 0.20 token/s,能力也明显下降。

举报 糾錯/舉報
相關推薦
外國人說比蘇聯衛星升空的那天還要震驚。
開源與封閉源模型之爭正式打響。
花旗與美銀證券認為,Kimi K3 雖降低推理成本,但可能通過「杰文斯悖論」刺激更多調用、長上下文與智能體任務,進而推高 GPU、HBM、DDR5、eSSD 與網路基礎設施需求。
廉價開放權重模型再度衝擊AI評價叙事
Kimi K3 讓美國徹底坐不住了。
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成