本地部署 Qwen 需要什么显卡?各版本显存需求一览
Qwen 目前有 6 个能本地部署的版本,最小的 Qwen3 8B 在 Q4 量化下需要 7GB 显存,最大的 Qwen3.6 35B A3B 需要 4GB。最便宜能跑起来的设备是 GeForce RTX 2080 Ti,二手约 ¥1,680。
Qwen 各版本的显存需求
共 6 个版本| 版本 | 发布日期 | 上下文 | ||||
|---|---|---|---|---|---|---|
| Qwen3 8B稠密 | 8.2B | 2025年4月27日 | 40K | 7 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 13,232,997 |
| Qwen3.5 9B稠密 | 9.7B | 2026年2月27日 | 256K | 8 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 12,375,273 |
| Qwen3.6 27B稠密 | 27.8B | 2026年4月21日 | 256K | 19 | Radeon RX 7900 XT¥3,999 · 20 GB | 5,366,737 |
| Qwen3.8 27B稠密 | 27.8B | 2026年8月5日 | 256K | 19 | Radeon RX 7900 XT¥3,999 · 20 GB | 5,739,341 |
| Qwen3 32B稠密 | 32.8B | 2025年4月27日 | 40K | 22 | Arc Pro B60¥5,299 · 24 GB | 5,024,271 |
| Qwen3.6 35B A3BMoE | 36B(激活 3B) | 2026年4月15日 | 256K | 4另需 19 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 4,546,612 |
最低显存 = Q4_K_M 权重 + 8K 上下文 KV cache + 1GB 运行开销,向上取整;最便宜能跑的设备按当前价格基准的二手中位价升序,取第一台装得下的。
关于 Qwen
Qwen 由 Alibaba 发布,许可证为 Apache-2.0。本页收录 6 个版本,参数量从 8.2B 到 36B,结构参数与量化体积每周从 Hugging Face 同步。
厂商Alibaba
许可证Apache-2.0
官方主页https://qwen.ai/
Hugging Face 组织Qwen