本地部署 Kimi 需要什麼顯示卡？各版本記憶體需求一覽
Kimi 目前有 6 個能本地部署的版本，最小的 Kimi Linear 48B A3B 在 Q4 量化下需要 3GB 記憶體，最大的 Kimi K3 需要 33GB。最便宜能跑起來的裝置是 Tesla V100 16GB，約 NT$4,118。
Kimi 各版本的記憶體需求
閒魚
| 版本 | 發布日期 | 上下文 | |||
|---|---|---|---|---|---|
| Kimi Linear 48B A3BMoE | 49.1B（啟用 3B） | 2025年10月30日 | 1M | 3另需 27 GB 記憶體 | Tesla V100 16GBNT$4,118 · 16 GB · 專家卸載 |
| Kimi K2MoE | 1,000B（啟用 32B） | 2025年9月3日 | 256K | 9另需 552 GB 記憶體 | Tesla V100 16GBNT$4,118 · 16 GB · 專家卸載 |
| Kimi K2.5MoE | 1,000B（啟用 32B） | 2026年1月1日 | 256K | 9另需 552 GB 記憶體 | Tesla V100 16GBNT$4,118 · 16 GB · 專家卸載 |
| Kimi K2.6MoE | 1,000B（啟用 32B） | 2026年4月14日 | 256K | 9另需 552 GB 記憶體 | Tesla V100 16GBNT$4,118 · 16 GB · 專家卸載 |
| Kimi K2.7 CodeMoE | 1,000B（啟用 32B） | 2026年6月12日 | 256K | 9另需 552 GB 記憶體 | Tesla V100 16GBNT$4,118 · 16 GB · 專家卸載 |
| Kimi K3MoE | 2,800B（啟用 104B） | 2026年6月13日 | 1M | 33另需 1,531 GB 記憶體 | CMP 170HX 40GBNT$52,875 · 40 GB · 專家卸載 |
最低記憶體 = Q4_K_M 權重 + 8K 上下文 KV cache + 1GB 執行開銷，向上取整；最便宜能跑的裝置依目前價格基準的中位價升序，取第一台裝得下的。
關於 Kimi
Kimi 由 Moonshot AI 發布，授權為 MIT / Modified MIT / Kimi K3 License。本頁收錄 6 個版本，參數量介於 49.1B 與 2,800B，結構參數與量化大小依據 Hugging Face 等來源核驗後更新。
廠商Moonshot AI
授權MIT / Modified MIT / Kimi K3 License
Hugging Face 組織moonshotai