据动察 Beating 监测,AI 编程工具 Cline 用真实生产流量测算 Kimi K2.6 的自托管成本。其每月处理 5830 億 Token,全部走 API 約花 18.5 萬美元。按流量低谷配置 16 張 B200,全天滿載承接基礎流量,其餘請求繼續走 API,帳單降至 16.6 萬美元,只省約 10%。
Cline 估算,按時段動態增減 GPU,可把節省幅度提高到 22% 至 25%。進一步優化內核、批處理和延遲要求,理論上可達 35% 至 40%,但這些方案尚未實際部署。
自托管的門檻也很高。Cline 認為,年 API 支出低於 50 萬美元,節省的錢通常覆蓋不了推理工程師成本。達到 100 萬至 200 萬美元後,才更可能划算。這筆帳基於 Kimi K2.6,不能直接套到 Kimi K3。