DeepSeek R1 Distill Qwen 14B 本地部署需要多少显存？

Name: DeepSeek R1 Distill Qwen 14B
Author: DeepSeek

VRAMGlass 编辑部 · 更新于 2026年9月5日

DeepSeek R1 Distill Qwen 14B 是 14.8B 参数的稠密模型。Q4 量化最低需要 11GB 显存，8K 上下文下推荐 16GB。当前最便宜能跑的显卡是 GeForce RTX 2080 Ti，二手约 ¥1,680，预估 45.3 tokens/s。

DeepSeek R1 Distill Qwen 14B 版本信息

发布日期2025年1月20日

Hugging Face 仓库deepseek-ai/DeepSeek-R1-Distill-Qwen-14B

小版本—

许可证MIT

架构稠密

GGUF 仓库bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF

Ollama 标签deepseek-r1:14b

30 天下载396,404

Q4 最低显存11 GB · Q4_K_M · 8K

参数量14.8B

层数48

隐藏维度5,120

KV 头8

头维度128

上下文上限128K

厂商DeepSeek

DeepSeek R1 Distill Qwen 14B 各量化与上下文的显存需求

8K 总显存

量化	权重体积GB	8K 总显存GB	32K 总显存GB	128K 总显存GB
Q4_K_M	9GGUF	10.7	15.2	33.2
Q5_K_M	10.5GGUF	12.5	17	35
Q8_0	15.7GGUF	17.8	22.3	40.3
FP16	29.5GGUF	31.4	35.9	53.9

总显存 = 权重 + KV cache（FP16）+ 1GB 运行开销。标 GGUF 的权重是仓库里的实测文件体积，标「估」的按每参数字节估算。超过这个模型 128K 上下文上限的档位写「—」。

什么显卡能跑 DeepSeek R1 Distill Qwen 14B？

Q4_K_M · 8K 上下文 · 按闲鱼二手价升序

设备	显存GB	二手价	预估 t/s	建议上下文
GeForce RTX 2080 Ti	11	¥1,6807 条挂牌	45.3	8K
Radeon RX 7800 XT	16	¥2,60014 条挂牌	33.1	32K
Radeon RX 7900 XT	20	¥3,99918 条挂牌	42.2	32K
Radeon RX 9070 XT	16	¥5,23013 条挂牌	34	32K
Arc Pro B60	24	¥5,2999 条挂牌	22	32K
Radeon RX 7900 XTX	24	¥5,50018 条挂牌	50.2	32K
GeForce RTX 4080	16	¥7,59012 条挂牌	52.4	32K
GeForce RTX 3090	24	¥8,0498 条挂牌	67.6	32K
GeForce RTX 5070 Ti	16	¥8,6444 条挂牌	64.9	32K
Arc Pro B70	32	¥9,9997 条挂牌	29.1	32K
Radeon PRO W7800	32	¥10,1004 条挂牌	30.6	32K
CMP 170HX 40GB (改装)	40	¥10,8004 条挂牌	108.7	128K
GeForce RTX 5080	16	¥11,5007 条挂牌	69.2	32K
Radeon AI PRO R9700	32	¥11,9003 条挂牌	34	32K
CMP 170HX 64GB (改装)	64	¥12,8504 条挂牌	104.5	128K
RTX PRO 4000 Blackwell	24	¥15,80010 条挂牌	49.3	32K
Instinct MI210	64	¥18,50017 条挂牌	83.4	128K
Radeon PRO W7900	48	¥22,0005 条挂牌	45.4	128K
GeForce RTX 4090	24	¥22,8005 条挂牌	72.5	32K
GeForce RTX 5090 D V2	24	¥25,00016 条挂牌	94.8	32K
GeForce RTX 4090 48GB (改装)	48	¥25,5003 条挂牌	72.5	128K
RTX PRO 4500 Blackwell	32	¥25,8508 条挂牌	64.9	32K
GeForce RTX 5090 D	32	¥30,9007 条挂牌	123.3	32K
A100 40GB PCIe	40	¥38,5004 条挂牌	108.4	128K
GeForce RTX 5090	32	¥39,7504 条挂牌	123.3	32K
RTX PRO 5000 Blackwell 48GB	48	¥47,00011 条挂牌	94.8	128K
RTX PRO 5000 Blackwell 72GB	72	¥62,00011 条挂牌	94.8	128K
RTX PRO 6000D	84	¥70,00019 条挂牌	109.2	128K
RTX PRO 6000 Blackwell	96	¥118,50010 条挂牌	123.3	128K
Tesla V100 16GB	16	—暂无挂牌	65.1	32K
Arc Pro B65	32	—暂无挂牌	29.1	32K
GeForce RTX 4080 SUPER 32GB (改装)	32	—暂无挂牌	53.8	32K
Instinct MI100	32	—暂无挂牌	63.6	32K
Tesla V100 32GB	32	—暂无挂牌	65.1	32K
DGX Spark 128GB	128	—暂无挂牌	20.5	128K
Mac Studio M4 Max 128GB	128	—暂无挂牌	31.9	128K
Mac Studio M5 Max 128GB	128	—暂无挂牌	35.8	128K
MacBook Pro M4 Max 128GB	128	—暂无挂牌	31.9	128K
MacBook Pro M5 Max 128GB	128	—暂无挂牌	35.8	128K
Ryzen AI Max+ 395 128GB	128	—暂无挂牌	13.8	128K
Mac Studio M3 Ultra 512GB	512	—暂无挂牌	47.3	128K

判定口径：权重 + KV cache + 运行开销 ≤ 可用显存，单卡。MoE 模型标「卸载」表示把专家权重放进系统内存后能跑（显存只放注意力层与 KV cache），速度按内存带宽 70 GB/s 估算。上下文列给的是能装下的最大档位。

用 Ollama / llama.cpp / vLLM 启动 DeepSeek R1 Distill Qwen 14B

Ollama

Ollama 一条命令拉起，量化档位由官方标签决定。

ollama run deepseek-r1:14b

llama.cpp

llama.cpp 直接从 Hugging Face 拉 GGUF，-c 是上下文长度。

llama-server -hf bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M -c 8192

vLLM

vLLM 跑的是原始精度权重，显存要求比 GGUF 高得多，通常要多卡。

vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-14B

量化文件名以模型库当周抓取为准，口径见数据方法。数据方法

常见问题

DeepSeek R1 Distill Qwen 14B 需要多少显存？

在 Q4_K_M 量化、8K 上下文下 DeepSeek R1 Distill Qwen 14B 约需 11GB 显存，留到 16GB 更稳。

哪张显卡最便宜能跑 DeepSeek R1 Distill Qwen 14B？

GeForce RTX 2080 Ti，11GB 显存，当前二手中位价约 ¥1,680，预估 45.3 tokens/s。

DeepSeek R1 Distill Qwen 14B 能用 Ollama 跑吗？

能，命令是 ollama run deepseek-r1:14b。