4 × Tesla V100 32GB + E5 双路 8 卡机
低价出字速度5.1t/s
内存带宽137GB/s
- 电源
- 自带 4 × 1,600 W 电源
- 含在准系统里
整机参考价¥43,760
Kimi K3.1 Pro 如何本地部署？
Kimi K3.1 Pro 是月之暗面 2026 年 10 月 24 日公布的新旗舰，由 Kimi K3 加大后训练而来，结构不变：2.8T 参数 MoE，能看图，上下文 1M。完整权重官方承诺 11 月 4 日前开源，在那之前只能通过 Kimi 应用和 API 使用。它和 K3 一样大，2-bit 约 861 GB、4-bit 约 1,509 GB，任何单卡和单台工作站都装不下。本页的显存数字按 K3 的同结构文件估算，权重放出后再按实际文件核对。
Kimi K3.1 Pro 模型信息
- 4-bit 最低显存1,511 GB · 8K
- 参数量2,800B
- 激活参数104B
- 上下文上限1M
- 架构
- MoE
- 专家卸载
- 32 GB 显存 + 1,480 GB 内存
- 开源权重
- 2026年11月4日前发布
- 厂商
- Moonshot AI
- 层数
- 93
- 隐藏维度
- 7,168
- KV 头
- 96
- 头维度
- 192
Kimi K3.1 Pro 比 K3 强在哪？
强在写代码、做 3D 和金融分析，部署门槛不变：结构和 K3 一样，能跑 K3 的硬件就能跑它。官方跑分里，在终端里完成编程任务的 Terminal-Bench 4.0 拿到 65.7，和 Claude Opus 5.5 的 66.4 只差不到 1 分；内部的长程编程测试从 K3 的 56.0 升到 61.2。幻觉也少了很多：在官方故意出难题的事实核查测试里，单条陈述出错的比例从 K3 的 23.4% 降到 8.3%。这些分数都是月之暗面自己公布的，测试方法见图下原文。
Kimi K3.1 Pro 本地部署需要多少显存？
和 K3 一样，最少也要几百 GB：1-bit 约 649 GB，2-bit 约 861 GB，4-bit 约 1,509 GB。8-bit 约 1,561 GB，只比 4-bit 大一点，因为 K3 的专家在训练时就是 4-bit，8-bit 等于原样保留。上下文很省显存：93 层里只有 24 层的缓存随上下文变长，4-bit 从 32K 开到 1M 只多约 28 GB。这些数字是照 K3 的 GGUF 文件体积估的，K3.1 Pro 的文件出来后会换成实测。
| 量化 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文（最大）GB |
|---|---|---|---|---|---|
| 1-bit | 648.9估 | 650.9 | 653.6 | 657.2 | 679 |
| 2-bit | 861.3估 | 863.3 | 866 | 869.6 | 891.4 |
| 3-bit | 1,440.6估 | 1,442.6 | 1,445.3 | 1,448.9 | 1,470.7 |
| 4-bit | 1,508.7估 | 1,510.7 | 1,513.4 | 1,517 | 1,538.8 |
| 5-bit | — | — | — | — | — |
| 8-bit | 1,561.2估 | 1,563.2 | 1,565.9 | 1,569.5 | 1,591.3 |
| BF16/FP16 | 5,880估 | 5,882 | 5,884.7 | 5,888.3 | 5,910.1 |
详细计算规则可在数据方法页查看。
单卡能跑 Kimi K3.1 Pro 吗？
不能，单卡、单台工作站都装不下，和 K3 一样。最小的 1-bit 约 649 GB，已经超过 512GB 的 Mac Studio M3 Ultra；2-bit 约 861 GB，8 张 96GB 卡加起来也放不下。能放下的是几台 512GB 的 Mac Studio 联机：2-bit 要两台，4-bit 要四台。
多卡跑 Kimi K3.1 Pro 要几张显卡？
| 设备 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|
| Mac Studio M3 Ultra 512GB单台 512 GB | 2 台 | ¥250,200 | 1,024 GB | 17.7 | 960 W |
| 设备 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|
| Mac Studio M3 Ultra 512GB单台 512 GB | 4 台 | ¥500,400 | 2,048 GB | 10.6 | 1,920 W |
| 设备 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|
| Mac Studio M3 Ultra 512GB单台 512 GB | 4 台 | ¥500,400 | 2,048 GB | 10.2 | 1,920 W |
Mac Studio 按台联机用雷电 5 线互连，要用 MLX 或 exo 跑，vLLM 不支持。详细计算规则可在数据方法页查看。
4 × GeForce RTX 5090 + EPYC 双路 DDR5
旗舰出字速度23.4t/s
内存带宽922GB/s
整机参考价¥410,972
8 × RTX PRO 6000 + EPYC 双路 DDR5 8 卡机
超大模型出字速度34.3t/s
内存带宽922GB/s
- 电源
- 自带 4 × 3,000 W 电源
- 含在准系统里
整机参考价¥1,213,279
GeForce RTX 5090 + EPYC 双路 DDR5
旗舰出字速度13.3t/s
内存带宽922GB/s
整机参考价¥426,874
8 × RTX PRO 6000 + EPYC 双路 DDR5 8 卡机
超大模型出字速度16.8t/s
内存带宽922GB/s
- 电源
- 自带 4 × 3,000 W 电源
- 含在准系统里
整机参考价¥1,291,879
4 × GeForce RTX 5090 + EPYC 双路 DDR5
旗舰出字速度13.2t/s
内存带宽922GB/s
整机参考价¥595,172
8 × RTX PRO 6000 + EPYC 双路 DDR5 8 卡机
超大模型出字速度16.1t/s
内存带宽922GB/s
- 电源
- 自带 4 × 3,000 W 电源
- 含在准系统里
整机参考价¥1,476,079
部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。
本地部署 Kimi K3.1 Pro 要注意什么？
权重放出前只能在线用
官方说完整权重 11 月 4 日前放出。在那之前，可以在 Kimi 网页和 App、Kimi Code 里用，或者调 API，模型名是
kimi-k3.1-pro。另有一个kimi-k3.1-pro-highspeed，官方说快 2 到 3 倍，目前只在 API 上提到，没说会不会单独放权重。思考只能调档
和 K3 一样，思考始终开着，只能用
reasoning_effort选 low、high、max，默认 max。API 固定temperature1.0、top_p0.95，不用传。多轮对话和工具调用时，要把返回的整条回复原样传回去。本地能用什么跑
结构没变的话，现有对 K3 的支持应该能直接用：llama.cpp 主线 8 月合并了 K3 的文字部分（PR #26185），vLLM 有 kimi-k3 专用镜像。但能不能原样加载，要等权重放出后实测。本页会在 GGUF 和 vLLM 配方出来、核对过之后补上启动命令。
许可证还没公布
K3 用的是单独的 Kimi K3 License：营收超过门槛的「模型即服务」业务，商用前要和月之暗面另签协议。K3.1 Pro 用什么许可证，官方要到放权重时才公布，打算商用的先别按 K3 的条款下结论。
Kimi 家族的其他模型
| 模型 | 总参数 | 激活参数 | 4-bit 模型大小 |
|---|---|---|---|
| Kimi Linear 48B A3BMoE | 49.1B | 3B | 30.1 GB |
| Kimi K2MoE | 1,000B | 32B | 621.3 GB |
| Kimi K2.5MoE | 1,000B | 32B | 621.2 GB |
| Kimi K2.6MoE | 1,000B | 32B | 583.7 GB |
| Kimi K2.7 CodeMoE | 1,000B | 32B | 583.7 GB |
| Kimi K3MoE | 2,800B | 104B | 1,508.7 GB |