收录显卡41价格追踪4 天自 2026年9月3日近 24h 价格数据9,262 条24h 降价最多RTX PRO 6000 Blackwell-3.0%24h 涨价最多Radeon RX 7800 XT+15.3%更新于

Kimi K2.7 Code 本地部署需要多少显存?

Kimi K2.7 Code 是 MoE 模型,总参数 1,000B,每 token 激活 32B。Q4 量化整机放显存需要 559GB;把专家放进系统内存后只需 9GB 显存 + 552GB 内存。收录的单卡都装不下它,需要多卡或 Mac Studio 的统一内存。卸载模式下最便宜能跑的显卡是 GeForce RTX 2080 Ti,预估 4 tokens/s。

Kimi K2.7 Code 版本信息

发布日期2026年6月12日
Hugging Face 仓库moonshotai/Kimi-K2.7-Code
小版本
许可证Modified MIT
架构MoE
Ollama 标签
Q4 最低显存559 GB · Q4_K_M · 8K
专家卸载9 GB 显存 + 552 GB 内存
参数量1,000B
MoE32B
层数61
隐藏维度7,168
KV 头64
头维度192
上下文上限256K
厂商Moonshot AI

Kimi K2.7 Code 各量化与上下文的显存需求

MoE:总参数 1,000B 全部要驻留显存,速度按每 token 激活的 32B 算。

量化权重体积GB8K 总显存GB32K 总显存GB128K 总显存GB
1-bit303.9GGUF236.2237.8244.3
2-bit339.5GGUF373.1374.7381.2
3-bit463.9GGUF480.7482.3488.7
4-bit583.7GGUF558.9560.5567
5-bit674.7676.3677.9684.3
8-bit594.5GGUF1,038.11,039.71,046.1
FP161,955.81,957.31,958.91,965.4

总显存 = 权重 + KV cache(FP16)+ 1GB 运行开销。标 GGUF 的权重是仓库里的实测文件体积,标「估」的按每参数字节估算。超过这个模型 256K 上下文上限的档位写「—」。各档取仓库里该比特数的任一文件,优先 unsloth 动态量化,所以同一档不同模型对应的文件名可能不同。

什么显卡能跑 Kimi K2.7 Code?

Q4_K_M · 8K 上下文 · 按闲鱼二手价升序

收录的单卡都装不下 Kimi K2.7 Code:Q4_K_M、8K 上下文下至少需要 559GB 显存。

多卡方案至少要凑够 559GB 显存。

收录的统一内存机型也装不下。

把专家放进内存后还能跑 Kimi K2.7 Code 的显卡

专家权重放系统内存,需要 ≥ 552 GB 内存;显存只放注意力层、共享专家和 KV cache,Q4 下最低 9 GB。速度受内存带宽限制(按 70 GB/s 估算),比整机放显存慢得多。

设备显存GB二手价需内存GB预估 t/s
GeForce RTX 2080 Ti11¥1,6415523.9
Radeon RX 7800 XT16¥2,9995523.8
Tesla V100 32GB32¥3,5005523.9
Radeon RX 7900 XT20¥4,1805523.8
Radeon RX 9070 XT16¥5,2505523.8
Arc Pro B6024¥5,2995523.6
Radeon RX 7900 XTX24¥5,7005523.9
GeForce RTX 408016¥7,7775523.9
GeForce RTX 309024¥7,9505523.9
GeForce RTX 5070 Ti16¥8,2995523.9
Arc Pro B7032¥9,7005523.7
Radeon AI PRO R970032¥10,6005523.8
CMP 170HX 40GB40¥10,6505524
GeForce RTX 508016¥12,0505523.9
Radeon PRO W780032¥12,4005523.7
CMP 170HX 64GB64¥13,0005524
RTX PRO 4000 Blackwell24¥16,4005523.9
Instinct MI21064¥18,4505524
Radeon PRO W790048¥22,0005523.9
GeForce RTX 409024¥22,8005523.9
GeForce RTX 5090 D V224¥24,9005524
RTX PRO 4500 Blackwell32¥25,9505523.9
GeForce RTX 4090 48GB48¥26,6005523.9
A100 40GB PCIe40¥31,0005524
GeForce RTX 5090 D32¥31,9005524
MacBook Pro M4 Max 128GB128¥32,4505523.8
DGX Spark 128GB128¥33,5005523.6
Mac Studio M4 Max 128GB128¥37,9005523.8
Mac Studio M5 Max 128GB128¥39,8505523.8
GeForce RTX 509032¥40,6005524
MacBook Pro M5 Max 128GB128¥47,9005523.8
RTX PRO 5000 Blackwell 48GB48¥48,0005524
RTX PRO 5000 Blackwell 72GB72¥62,0005524
RTX PRO 6000D84¥69,9005524
RTX PRO 6000 Blackwell96¥115,0005524
Mac Studio M3 Ultra 512GB512¥138,8005523.9
Tesla V100 16GB165523.9
Arc Pro B65325523.7
GeForce RTX 4080 SUPER 32GB325523.9
Instinct MI100325523.9
Ryzen AI Max+ 395 128GB1285523.4

用 Ollama / llama.cpp / vLLM 启动 Kimi K2.7 Code

Ollama

Ollama 库暂无官方标签。

llama.cpp

llama.cpp 直接从 Hugging Face 拉 GGUF,-c 是上下文长度。

llama-server -hf unsloth/Kimi-K2.7-Code-GGUF:Q4_K_M -c 8192
vLLM

vLLM 跑的是原始精度权重,显存要求比 GGUF 高得多,通常要多卡。

vllm serve moonshotai/Kimi-K2.7-Code

量化文件名以模型库当周抓取为准,口径见数据方法。 数据方法

常见问题

Kimi K2.7 Code 需要多少显存?

在 Q4_K_M 量化、8K 上下文下 Kimi K2.7 Code 约需 559GB 显存,留到 672GB 更稳。

哪张显卡最便宜能跑 Kimi K2.7 Code?

收录的单卡都装不下 Kimi K2.7 Code,需要多卡或 Mac Studio 的统一内存。

Kimi K2.7 Code 能用 Ollama 跑吗?

暂时不能,Ollama 库还没有它的官方标签;可以用 llama.cpp 加载 GGUF。