本地部署 Kimi 需要什麼顯示卡?各版本記憶體需求一覽
Kimi 目前有 5 個能本地部署的版本,最小的 Kimi Linear 48B A3B 在 Q4 量化下需要 3GB 記憶體,最大的 Kimi K3 需要 33GB。最便宜能跑起來的裝置是 GeForce RTX 2080 Ti,二手約 NT$7,897。
Kimi 各版本的記憶體需求
共 5 個版本| 版本 | 發布日期 | 上下文 | ||||
|---|---|---|---|---|---|---|
| Kimi Linear 48B A3BMoE | 49.1B(啟用 3B) | 2025年10月30日 | 1M | 3另需 27 GB 記憶體 | GeForce RTX 2080 TiNT$7,897 · 11 GB · 專家卸載 | 187,057 |
| Kimi K2MoE | 1,000B(啟用 32B) | 2025年9月3日 | 256K | 9另需 552 GB 記憶體 | GeForce RTX 2080 TiNT$7,897 · 11 GB · 專家卸載 | 37,308 |
| Kimi K2.5MoE | 1,000B(啟用 32B) | 2026年1月1日 | 256K | 9另需 552 GB 記憶體 | GeForce RTX 2080 TiNT$7,897 · 11 GB · 專家卸載 | 518,180 |
| Kimi K2.6MoE | 1,000B(啟用 32B) | 2026年4月14日 | 256K | 9另需 552 GB 記憶體 | GeForce RTX 2080 TiNT$7,897 · 11 GB · 專家卸載 | 638,370 |
| Kimi K3MoE | 2,800B(啟用 104B) | 2026年6月13日 | 1M | 33另需 1,531 GB 記憶體 | CMP 170HX 40GB (改裝)NT$50,767 · 40 GB · 專家卸載 | 2,639,566 |
最低記憶體 = Q4_K_M 權重 + 8K 上下文 KV cache + 1GB 執行開銷,向上取整;最便宜能跑的裝置依目前價格基準的二手中位價升序,取第一台裝得下的。
關於 Kimi
Kimi 由 Moonshot AI 發布,授權為 MIT / Modified MIT / Kimi K3 License。本頁收錄 5 個版本,參數量從 49.1B 到 2,800B,結構參數與量化體積每週從 Hugging Face 同步。
廠商Moonshot AI
授權MIT / Modified MIT / Kimi K3 License
Hugging Face 組織moonshotai