本地部署 Hunyuan 需要什么显卡?各版本显存需求一览
Hunyuan 目前有 2 个能本地部署的版本,最小的 Hy3 在 Q4 量化下需要 10GB 显存,最大的 Hy4 preview 需要 18GB。最便宜能跑起来的设备是 Tesla V100 16GB,二手约 ¥975。
Hunyuan 各版本的显存需求
共 2 个版本| 版本 | 发布日期 | 上下文 | |||
|---|---|---|---|---|---|
| Hy3MoE | 295B(激活 21B) | 2026年7月6日 | 256K | 10另需 160 GB 内存 | Tesla V100 16GB¥975 · 16 GB · 专家卸载 |
| Hy4 previewMoE | 770B(激活 49B) | 2026年8月28日 | 1M | 18另需 415 GB 内存 | Tesla V100 32GB¥3,150 · 32 GB · 专家卸载 |
最低显存 = Q4_K_M 权重 + 8K 上下文 KV cache + 1GB 运行开销,向上取整;最便宜能跑的设备按当前价格基准的二手中位价升序,取第一台装得下的。
关于 Hunyuan
Hunyuan 由 Tencent 发布,许可证为 Apache-2.0。本页收录 2 个版本,参数量从 295B 到 770B,结构参数与量化体积依据 Hugging Face 等来源核验后更新。
厂商Tencent
许可证Apache-2.0
Hugging Face 组织tencent