本地部署 Kimi 需要什么显卡？各版本显存需求一览
Kimi 目前有 6 个能本地部署的版本，最小的 Kimi Linear 48B A3B 在 4-bit 量化下需要 32GB 显存；最大的 Kimi K3 是 MoE 模型，用专家卸载时需要 32GB 显存加约 1,480GB 内存。最便宜能跑起来的设备是 Tesla V100 32GB，约 ¥4,200。
| 版本 | 发布日期 | 上下文 | 许可证 | ||
|---|---|---|---|---|---|
| Kimi K3MoE | 2026年7月27日 | 2,800B | 104B | 1M | Kimi K3 License |
| Kimi K2.7 CodeMoE | 2026年6月12日 | 1,000B | 32B | 256K | Modified MIT |
| Kimi K2.6MoE | 2026年4月20日 | 1,000B | 32B | 256K | Modified MIT |
| Kimi K2.5MoE | 2026年1月27日 | 1,000B | 32B | 256K | Modified MIT |
| Kimi Linear 48B A3BMoE | 2025年10月30日 | 49.1B | 3B | 1M | MIT |
| Kimi K2MoE | 2025年9月3日 | 1,000B | 32B | 256K | Modified MIT |
关于 Kimi
Kimi 是月之暗面（Moonshot AI）的大模型系列。月之暗面 2023 年 3 月由杨植麟等人在北京创立，同年 10 月推出 Kimi 智能助手；2025 年起陆续公开模型权重，旗舰都是超大规模的 MoE，主打智能体、编程和长上下文。
2025 年 7 月的 Kimi K2 有 1 万亿参数、每个字用 320 亿，采用 MLA 注意力和自研的 MuonClip 优化器，11 月又推出会思考的 K2 Thinking；同年 10 月的 Kimi Linear 提出了自家的线性注意力 KDA。2026 年 1 月的 K2.5 改成原生多模态，之后是 K2.6 和编程专用的 K2.7 Code。7 月的 K3 把参数做到 2.8 万亿、每个字用 1040 亿，混用 KDA 和 MLA，上下文 100 万 token，发布时是参数最多的开放权重模型。许可证上，K2 系列用修改版 MIT，可以商用，超大规模的产品要标注模型名；K3 另规定，年营收超过 2000 万美元的模型服务商，商用前要另签协议。另外，Cursor 的编程模型 Composer 2 就是以 Kimi K2.5 为底座做的。
- 厂商Moonshot AI
- 收录版本6
- 参数量49.1B – 2,800B
- 最新版本Kimi K3
- 许可证
- MIT / Modified MIT / Kimi K3 License
- 官方主页
- www.moonshot.ai
- Hugging Face 组织
- moonshotai
Kimi 各版本 2-bit 量化需要多少显存？
2-bit 也叫 Q2 精度，常见的 GGUF 文件有 Q2_K、UD-Q2_K_XL，体积最小、质量损失也最明显，适合显存紧张时先把模型跑起来。下表每一行是 Kimi 的一个版本，每一列是一种上下文长度，格子里是用 Q2 精度部署时需要的总显存（权重 + KV cache + 1.1GB 运行开销）。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| Kimi K32,800B（激活 104B） | 861.3GGUF | 863.3 | 866 | 869.6 | 891.4 |
| Kimi K2.7 Code1,000B（激活 32B） | 339.5GGUF | 342.9 | 349.8 | 359 | — |
| Kimi K2.61,000B（激活 32B） | 340.5GGUF | 343.9 | 350.8 | 360 | — |
| Kimi K2.51,000B（激活 32B） | 374.8GGUF | 378.2 | 385.1 | 394.3 | — |
| Kimi Linear 48B A3B49.1B（激活 3B） | 17.9GGUF | 19.2 | 20 | 21.1 | 27.4 |
| Kimi K21,000B（激活 32B） | 383.6GGUF | 387 | 393.9 | 403.1 | — |
Kimi 各版本 4-bit 量化需要多少显存？
4-bit 也叫 Q4 精度，对应最常用的 Q4_K_M 文件，体积和质量比较平衡，是本地部署的默认选择。下表每一行是 Kimi 的一个版本，每一列是一种上下文长度，格子里是用 Q4 精度部署时需要的总显存。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| Kimi K32,800B（激活 104B） | 1,508.7GGUF | 1,510.7 | 1,513.4 | 1,517 | 1,538.8 |
| Kimi K2.7 Code1,000B（激活 32B） | 583.7GGUF | 587.1 | 594 | 603.2 | — |
| Kimi K2.61,000B（激活 32B） | 583.7GGUF | 587.1 | 594 | 603.2 | — |
| Kimi K2.51,000B（激活 32B） | 621.2GGUF | 624.6 | 631.5 | 640.7 | — |
| Kimi Linear 48B A3B49.1B（激活 3B） | 30.1GGUF | 31.4 | 32.2 | 33.3 | 39.6 |
| Kimi K21,000B（激活 32B） | 621.3GGUF | 624.7 | 631.6 | 640.8 | — |
Kimi 各版本 8-bit 量化需要多少显存？
8-bit 也叫 Q8 精度，对应 Q8_0 文件，质量最接近原版，体积也最大。下表每一行是 Kimi 的一个版本，每一列是一种上下文长度，格子里是用 Q8 精度部署时需要的总显存。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| Kimi K32,800B（激活 104B） | 1,561.2GGUF | 1,563.2 | 1,565.9 | 1,569.5 | 1,591.3 |
| Kimi K2.7 Code1,000B（激活 32B） | 594.5GGUF | 597.9 | 604.8 | 614 | — |
| Kimi K2.61,000B（激活 32B） | 594.5GGUF | 597.9 | 604.8 | 614 | — |
| Kimi K2.51,000B（激活 32B） | 1,091.1GGUF | 1,094.5 | 1,101.4 | 1,110.6 | — |
| Kimi Linear 48B A3B49.1B（激活 3B） | 52.2GGUF | 53.5 | 54.3 | 55.4 | 61.7 |
| Kimi K21,000B（激活 32B） | 1,091.1GGUF | 1,094.5 | 1,101.4 | 1,110.6 | — |
常见问题
Kimi 开源吗？可以免费商用吗？
要按版本看，一共三种许可证。Kimi Linear 48B A3B 是标准 MIT。K2、K2.5、K2.6 和 K2.7 Code 用月之暗面的修改版 MIT，只多一条：用在月活超过 1 亿或月收入超过一定门槛的商业产品里，要在界面上显著标出对应的模型名，比如「Kimi K2.6」。K3 换成了单独的 Kimi K3 License，除了同样的署名要求，还规定：经营「模型即服务」业务（向第三方提供 API 等推理或微调服务）、且连续 12 个月收入超过门槛的集团，把模型用于任何商业用途前，都要和月之暗面另签协议。K3 的许可证也写明，只在内部使用、不把模型能力提供给第三方的，这两条都不适用。
Kimi 能用 Ollama 跑吗？
本地都跑不了。Kimi K2.6、K2.7 Code 和 K3 在 Ollama 上只有云端标签（kimi-k2.6:cloud、kimi-k2.7-code:cloud、kimi-k3:cloud），跑在 Ollama 的服务器上；kimi-k2 和 kimi-k2.5 的页面已经下架，Kimi Linear 没有上架。想在本地部署，可以用 llama.cpp 加 GGUF：K2 到 K2.7 Code 和 K3 有 unsloth 做的文件，Kimi Linear 有 bartowski 做的，其中 K3 在 llama.cpp 里目前只支持文字、不能看图；也可以用 vLLM 跑官方权重。
