本地部署 DeepSeek 需要什麼顯示卡？各版本記憶體需求一覽
DeepSeek 目前有 7 個能本地部署的版本，最小的 DeepSeek R1 Qwen3 8B 在 4-bit 量化下需要 8GB 顯示記憶體；最大的 DeepSeek V4 Pro 是 MoE 模型，用專家卸載時需要 16GB 顯示記憶體加約 837GB 系統記憶體。最便宜能跑起來的裝置是 Tesla V100 16GB，約 NT$6,899。
| 版本 | 發布日期 | 上下文 | 授權 | ||
|---|---|---|---|---|---|
| DeepSeek V4.1 FlashMoE | 2026年10月17日 | 763B | 8 / 16B | 1M | MIT |
| DeepSeek V4 ProMoE | 2026年8月13日 | 1,600B | 49B | 1M | MIT |
| DeepSeek V4 FlashMoE | 2026年7月31日 | 284B | 13B | 1M | MIT |
| DeepSeek V3.2MoE | 2025年12月1日 | 671B | 37B | 160K | MIT |
| DeepSeek R1 Qwen3 8B稠密 | 2025年5月29日 | 8.2B | 8.2B | 128K | MIT |
| DeepSeek R1 Distill Qwen 32B稠密 | 2025年1月20日 | 32.8B | 32.8B | 128K | MIT |
| DeepSeek R1 Distill Qwen 14B稠密 | 2025年1月20日 | 14.8B | 14.8B | 128K | MIT |
關於 DeepSeek
DeepSeek（深度求索）是一家 2023 年 7 月在杭州成立的人工智慧公司，前身是量化基金幻方（High-Flyer）同年 4 月成立的 AI 研究團隊；創辦人梁文鋒同時也是幻方的共同創辦人。自 2023 年 11 月開源 DeepSeek Coder 與 DeepSeek LLM 以來，DeepSeek 的主力模型大多會同步公開權重。
DeepSeek 打響名號靠的是兩件事。第一是架構：2024 年 5 月的 V2 導入能節省顯示記憶體的多頭潛在注意力（MLA）與 DeepSeekMoE，同年 12 月的 V3 把規模擴大到 671B 參數；之後 V3.2 加進 DeepSeek 稀疏注意力（DSA），2026 年 4 月的 V4 靠壓縮注意力把上下文拉到 100 萬 token，9 月的 V4.1 Flash 再改用因果編碼器-解碼器架構，原生就能看圖。第二是推理模型：2025 年 1 月 R1 推出後，DeepSeek 的 App 一度登上美國 App Store 免費排行榜第一名，R1 的論文也在同年 9 月通過同儕審查，刊登於《自然》期刊。2025 年起，主力模型的權重一律採用 MIT 授權，可以商用。
- 廠商DeepSeek
- 收錄版本7
- 參數量8.2B – 1,600B
- 最新版本DeepSeek V4.1 Flash
- 授權
- MIT
- 官方首頁
- www.deepseek.com
- Hugging Face 組織
- deepseek-ai
DeepSeek 各版本 2-bit 量化需要多少顯示記憶體？
2-bit 也叫 Q2 精度，常見的 GGUF 檔案有 Q2_K、UD-Q2_K_XL，體積最小、品質損失也最明顯，適合顯示記憶體吃緊時先把模型跑起來。下表每一列是 DeepSeek 的一個版本，每一欄是一種上下文長度，格子裡是用 Q2 精度部署時需要的總顯示記憶體（權重 + KV cache + 1.1GB 執行開銷）。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash763B（啟用 8 / 16B） | 264.5GGUF | 265.6 | 265.7 | 265.8 | 266.5 |
| DeepSeek V4 Pro1,600B（啟用 49B） | 638.4估 | 639.7 | 640.5 | 641.6 | 647.8 |
| DeepSeek V4 Flash284B（啟用 13B） | 96.8GGUF | 98.1 | 98.6 | 99.3 | 103.7 |
| DeepSeek V3.2671B（啟用 37B） | 246.6GGUF | 250 | 256.9 | — | — |
| DeepSeek R1 Qwen3 8B8.2B | 3.5GGUF | 9.4 | 23.9 | — | — |
| DeepSeek R1 Distill Qwen 32B32.8B | 13.1GGUF | 22.8 | 48.5 | — | — |
| DeepSeek R1 Distill Qwen 14B14.8B | 6.5GGUF | 14 | 33.3 | — | — |
DeepSeek 各版本 4-bit 量化需要多少顯示記憶體？
4-bit 也叫 Q4 精度，對應最常用的 Q4_K_M 檔案，體積和品質比較平衡，是本地部署的預設選擇。下表每一列是 DeepSeek 的一個版本，每一欄是一種上下文長度，格子裡是用 Q4 精度部署時需要的總顯示記憶體。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash763B（啟用 8 / 16B） | 444.7GGUF | 445.8 | 445.9 | 446 | 446.7 |
| DeepSeek V4 Pro1,600B（啟用 49B） | 849.7GGUF | 851 | 851.8 | 852.9 | 859.1 |
| DeepSeek V4 Flash284B（啟用 13B） | 155.1GGUF | 156.4 | 156.9 | 157.6 | 162 |
| DeepSeek V3.2671B（啟用 37B） | 405.4GGUF | 408.8 | 415.7 | — | — |
| DeepSeek R1 Qwen3 8B8.2B | 5GGUF | 10.9 | 25.4 | — | — |
| DeepSeek R1 Distill Qwen 32B32.8B | 19.9GGUF | 29.6 | 55.3 | — | — |
| DeepSeek R1 Distill Qwen 14B14.8B | 9GGUF | 16.5 | 35.8 | — | — |
DeepSeek 各版本 8-bit 量化需要多少顯示記憶體？
8-bit 也叫 Q8 精度，對應 Q8_0 檔案，品質最接近原版，體積也最大。下表每一列是 DeepSeek 的一個版本，每一欄是一種上下文長度，格子裡是用 Q8 精度部署時需要的總顯示記憶體。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash763B（啟用 8 / 16B） | 508GGUF | 509.1 | 509.1 | 509.3 | 510 |
| DeepSeek V4 Pro1,600B（啟用 49B） | 873.4GGUF | 874.7 | 875.5 | 876.6 | 882.8 |
| DeepSeek V4 Flash284B（啟用 13B） | 161.9GGUF | 163.2 | 163.7 | 164.4 | 168.8 |
| DeepSeek V3.2671B（啟用 37B） | 713.3GGUF | 716.7 | 723.6 | — | — |
| DeepSeek R1 Qwen3 8B8.2B | 8.7GGUF | 14.6 | 29.1 | — | — |
| DeepSeek R1 Distill Qwen 32B32.8B | 34.8GGUF | 44.5 | 70.2 | — | — |
| DeepSeek R1 Distill Qwen 14B14.8B | 15.7GGUF | 23.2 | 42.5 | — | — |
常見問題
DeepSeek 是開源的嗎？可以免費商用嗎？
可以。本站收錄的 7 個版本一律採用 MIT 授權，從 R1 系列的小模型到 V4 Pro，權重和程式碼都能拿來商用、修改和再散布，唯一的要求是在副本中保留著作權與授權聲明。它沒有每月活躍用戶的門檻，也沒有另外附加使用政策；R1 系列的模型卡更明白寫出可以商用、也可以拿來蒸餾。有一點要留意：R1 Distill Qwen 14B 和 32B 是用 R1 生成的資料微調 Qwen2.5 而來，模型卡註明它們的基礎模型原本是 Apache 2.0 授權；R1 Qwen3 8B 的基礎模型則是 Qwen3 8B Base。
DeepSeek 可以用 Ollama 執行嗎？
能在本機用 Ollama 跑的，只有 R1 系列的小模型：deepseek-r1:8b 目前對應的是 R1 Qwen3 8B（0528 版），deepseek-r1:14b 和 deepseek-r1:32b 則是 R1 Distill Qwen 14B 和 32B，三者都不是 671B 的完整版 R1。大模型方面，V3.2 和 V4 Flash 的 Ollama 頁面已分別在 2026 年 7 月和 9 月下架；V4 Pro 和 V4.1 Flash 只提供 :cloud 標籤，是在 Ollama 的伺服器上執行，用不到你自己的顯示卡。若想在本機執行 V3.2、V4 Flash 和 V4 Pro，可以改用主線版 llama.cpp 搭配 unsloth 製作的 GGUF（V3.2 自 2026 年 5 月、V4 自 6 月起支援）；V4.1 Flash 的 llama.cpp 支援還沒合併，目前只能用 vLLM 執行官方權重。
