本地部署 DeepSeek 需要什么显卡？各版本显存需求一览
DeepSeek 目前有 7 个能本地部署的版本，最小的 DeepSeek R1 Qwen3 8B 在 4-bit 量化下需要 8GB 显存；最大的 DeepSeek V4 Pro 是 MoE 模型，用专家卸载时需要 16GB 显存加约 837GB 内存。最便宜能跑起来的设备是 Tesla V100 16GB，约 ¥1,415。
| 版本 | 发布日期 | 上下文 | 许可证 | ||
|---|---|---|---|---|---|
| DeepSeek V4.1 FlashMoE | 2026年10月17日 | 763B | 8 / 16B | 1M | MIT |
| DeepSeek V4 ProMoE | 2026年8月13日 | 1,600B | 49B | 1M | MIT |
| DeepSeek V4 FlashMoE | 2026年7月31日 | 284B | 13B | 1M | MIT |
| DeepSeek V3.2MoE | 2025年12月1日 | 671B | 37B | 160K | MIT |
| DeepSeek R1 Qwen3 8B稠密 | 2025年5月29日 | 8.2B | 8.2B | 128K | MIT |
| DeepSeek R1 Distill Qwen 32B稠密 | 2025年1月20日 | 32.8B | 32.8B | 128K | MIT |
| DeepSeek R1 Distill Qwen 14B稠密 | 2025年1月20日 | 14.8B | 14.8B | 128K | MIT |
关于 DeepSeek
DeepSeek（深度求索）是 2023 年 7 月在杭州成立的人工智能公司，创始人梁文锋也是量化基金幻方（High-Flyer）的联合创始人，公司前身是幻方当年 4 月设立的 AI 研究团队。它从 2023 年 11 月开源 DeepSeek Coder 和 DeepSeek LLM 起，主力模型大多同步开放权重。
让 DeepSeek 出名的有两件事。一是架构：2024 年 5 月的 V2 引入了省显存的多头潜在注意力（MLA）和 DeepSeekMoE，同年 12 月的 V3 扩到 671B 参数；此后 V3.2 加入 DeepSeek 稀疏注意力（DSA），2026 年 4 月的 V4 借助压缩注意力把上下文做到 100 万 token，9 月的 V4.1 Flash 又改用因果编码器-解码器结构，原生支持看图。二是推理模型：2025 年 1 月的 R1 发布后，DeepSeek 应用一度登顶美国 App Store 免费榜，R1 论文同年 9 月经同行评审刊登于《自然》。2025 年起，主力模型的权重都用 MIT 许可证，可以商用。
- 厂商DeepSeek
- 收录版本7
- 参数量8.2B – 1,600B
- 最新版本DeepSeek V4.1 Flash
- 许可证
- MIT
- 官方主页
- www.deepseek.com
- Hugging Face 组织
- deepseek-ai
DeepSeek 各版本 2-bit 量化需要多少显存？
2-bit 也叫 Q2 精度，常见的 GGUF 文件有 Q2_K、UD-Q2_K_XL，体积最小、质量损失也最明显，适合显存紧张时先把模型跑起来。下表每一行是 DeepSeek 的一个版本，每一列是一种上下文长度，格子里是用 Q2 精度部署时需要的总显存（权重 + KV cache + 1.1GB 运行开销）。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash763B（激活 8 / 16B） | 264.5GGUF | 265.6 | 265.7 | 265.8 | 266.5 |
| DeepSeek V4 Pro1,600B（激活 49B） | 638.4估 | 639.7 | 640.5 | 641.6 | 647.8 |
| DeepSeek V4 Flash284B（激活 13B） | 96.8GGUF | 98.1 | 98.6 | 99.3 | 103.7 |
| DeepSeek V3.2671B（激活 37B） | 246.6GGUF | 250 | 256.9 | — | — |
| DeepSeek R1 Qwen3 8B8.2B | 3.5GGUF | 9.4 | 23.9 | — | — |
| DeepSeek R1 Distill Qwen 32B32.8B | 13.1GGUF | 22.8 | 48.5 | — | — |
| DeepSeek R1 Distill Qwen 14B14.8B | 6.5GGUF | 14 | 33.3 | — | — |
DeepSeek 各版本 4-bit 量化需要多少显存？
4-bit 也叫 Q4 精度，对应最常用的 Q4_K_M 文件，体积和质量比较平衡，是本地部署的默认选择。下表每一行是 DeepSeek 的一个版本，每一列是一种上下文长度，格子里是用 Q4 精度部署时需要的总显存。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash763B（激活 8 / 16B） | 444.7GGUF | 445.8 | 445.9 | 446 | 446.7 |
| DeepSeek V4 Pro1,600B（激活 49B） | 849.7GGUF | 851 | 851.8 | 852.9 | 859.1 |
| DeepSeek V4 Flash284B（激活 13B） | 155.1GGUF | 156.4 | 156.9 | 157.6 | 162 |
| DeepSeek V3.2671B（激活 37B） | 405.4GGUF | 408.8 | 415.7 | — | — |
| DeepSeek R1 Qwen3 8B8.2B | 5GGUF | 10.9 | 25.4 | — | — |
| DeepSeek R1 Distill Qwen 32B32.8B | 19.9GGUF | 29.6 | 55.3 | — | — |
| DeepSeek R1 Distill Qwen 14B14.8B | 9GGUF | 16.5 | 35.8 | — | — |
DeepSeek 各版本 8-bit 量化需要多少显存？
8-bit 也叫 Q8 精度，对应 Q8_0 文件，质量最接近原版，体积也最大。下表每一行是 DeepSeek 的一个版本，每一列是一种上下文长度，格子里是用 Q8 精度部署时需要的总显存。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash763B（激活 8 / 16B） | 508GGUF | 509.1 | 509.1 | 509.3 | 510 |
| DeepSeek V4 Pro1,600B（激活 49B） | 873.4GGUF | 874.7 | 875.5 | 876.6 | 882.8 |
| DeepSeek V4 Flash284B（激活 13B） | 161.9GGUF | 163.2 | 163.7 | 164.4 | 168.8 |
| DeepSeek V3.2671B（激活 37B） | 713.3GGUF | 716.7 | 723.6 | — | — |
| DeepSeek R1 Qwen3 8B8.2B | 8.7GGUF | 14.6 | 29.1 | — | — |
| DeepSeek R1 Distill Qwen 32B32.8B | 34.8GGUF | 44.5 | 70.2 | — | — |
| DeepSeek R1 Distill Qwen 14B14.8B | 15.7GGUF | 23.2 | 42.5 | — | — |
常见问题
DeepSeek 开源吗？可以免费商用吗？
可以。本站收录的 7 个版本都是 MIT 许可，从 R1 系列的小模型到 V4 Pro，权重和代码都可以商用、修改、再分发，唯一的条件是在副本里保留版权和许可声明；没有月活门槛，也没有附加的使用政策，R1 系列的模型卡还写明支持商用和蒸馏。要注意，R1 Distill Qwen 14B 和 32B 是用 R1 生成的数据微调 Qwen2.5 得到的，模型卡注明底座原本是 Apache 2.0 许可；R1 Qwen3 8B 的底座是 Qwen3 8B Base。
DeepSeek 能用 Ollama 跑吗？
只有 R1 系列的小模型能在本地跑：deepseek-r1:8b 现在指向 R1 Qwen3 8B（0528 版），deepseek-r1:14b 和 deepseek-r1:32b 是 R1 Distill Qwen 14B 和 32B，它们都不是 671B 的满血 R1。大模型这边，V3.2 和 V4 Flash 的 Ollama 页面已经在 2026 年 7 月和 9 月下架；V4 Pro 和 V4.1 Flash 只有 :cloud 标签，跑在 Ollama 的服务器上，不用你自己的显卡。V3.2、V4 Flash 和 V4 Pro 想在本地跑，可以用主线 llama.cpp 加 unsloth 的 GGUF（V3.2 从 2026 年 5 月、V4 从 6 月起支持）；V4.1 Flash 的 llama.cpp 支持还没合并，目前只能用 vLLM 跑官方权重。
