本地部署 Hunyuan 需要什麼顯示卡?各版本記憶體需求一覽
Hunyuan 目前有 2 個能本地部署的版本,最小的 Hy3 在 Q4 量化下需要 10GB 記憶體,最大的 Hy4 preview 需要 18GB。最便宜能跑起來的裝置是 Tesla V100 16GB,二手約 NT$4,570。
Hunyuan 各版本的記憶體需求
共 2 個版本| 版本 | 發布日期 | 上下文 | |||
|---|---|---|---|---|---|
| Hy3MoE | 295B(啟用 21B) | 2026年7月6日 | 256K | 10另需 160 GB 記憶體 | Tesla V100 16GBNT$4,570 · 16 GB · 專家卸載 |
| Hy4 previewMoE | 770B(啟用 49B) | 2026年8月28日 | 1M | 18另需 415 GB 記憶體 | Tesla V100 32GBNT$14,765 · 32 GB · 專家卸載 |
最低記憶體 = Q4_K_M 權重 + 8K 上下文 KV cache + 1GB 執行開銷,向上取整;最便宜能跑的裝置依目前價格基準的二手中位價升序,取第一台裝得下的。
關於 Hunyuan
Hunyuan 由 Tencent 發布,授權為 Apache-2.0。本頁收錄 2 個版本,參數量介於 295B 與 770B,結構參數與量化大小依據 Hugging Face 等來源核驗後更新。
廠商Tencent
授權Apache-2.0
Hugging Face 組織tencent