本地部署 Kimi 需要什么显卡?各版本显存需求一览
Kimi 目前有 6 个能本地部署的版本,最小的 Kimi Linear 48B A3B 在 Q4 量化下需要 3GB 显存,最大的 Kimi K3 需要 33GB。最便宜能跑起来的设备是 Tesla V100 16GB,约 ¥4,432。
Kimi 各版本的显存需求
AmazonJP
| 版本 | 发布日期 | 上下文 | |||
|---|---|---|---|---|---|
| Kimi Linear 48B A3BMoE | 49.1B(激活 3B) | 2025年10月30日 | 1M | 3另需 27 GB 内存 | Tesla V100 16GB¥4,432 · 16 GB · 专家卸载 |
| Kimi K2MoE | 1,000B(激活 32B) | 2025年9月3日 | 256K | 9另需 552 GB 内存 | Tesla V100 16GB¥4,432 · 16 GB · 专家卸载 |
| Kimi K2.5MoE | 1,000B(激活 32B) | 2026年1月1日 | 256K | 9另需 552 GB 内存 | Tesla V100 16GB¥4,432 · 16 GB · 专家卸载 |
| Kimi K2.6MoE | 1,000B(激活 32B) | 2026年4月14日 | 256K | 9另需 552 GB 内存 | Tesla V100 16GB¥4,432 · 16 GB · 专家卸载 |
| Kimi K2.7 CodeMoE | 1,000B(激活 32B) | 2026年6月12日 | 256K | 9另需 552 GB 内存 | Tesla V100 16GB¥4,432 · 16 GB · 专家卸载 |
| Kimi K3MoE | 2,800B(激活 104B) | 2026年6月13日 | 1M | 33另需 1,531 GB 内存 | Ryzen AI Max+ 395 128GB¥26,315 · 128 GB · 专家卸载 |
最低显存 = Q4_K_M 权重 + 8K 上下文 KV cache + 1GB 运行开销,向上取整;最便宜能跑的设备按当前价格基准的中位价升序,取第一台装得下的。
关于 Kimi
Kimi 由 Moonshot AI 发布,许可证为 MIT / Modified MIT / Kimi K3 License。本页收录 6 个版本,参数量从 49.1B 到 2,800B,结构参数与量化体积依据 Hugging Face 等来源核验后更新。
厂商Moonshot AI
许可证MIT / Modified MIT / Kimi K3 License
Hugging Face 组织moonshotai