CMP 170HX 64GB 價格與中古行情:能部署哪些大型語言模型?
CMP 170HX 64GB 有 64GB HBM2e 顯存,頻寬 1,493 GB/s。暫無價資料。Q4 量化下最大能跑到 70B 參數的模型,預估 25 tokens/s。
CMP 170HX 64GB 價走勢
AmazonJP
CMP 170HX 64GB 完整規格
核心4,480
張量核心280
架構Ampere (GA100)
顯存64 GB · HBM2e
位寬4,096-bit
頻寬1,493 GB/s
BF16 / FP8 / INT8202 / — / 404
生態CUDA
別名170HX 64G · CMP 170HX 8G 改 64G · 170HX 解锁 64G
類型資料中心
功耗250 W
供電介面8-pin CPU (EPS-12V)
槽位2
長度267 mm
介面PCIe 1.1 x4
發布日期2021年6月1日
官方定價—
CMP 170HX 64GB 能跑哪些模型?
只列 2026 年起發布、50B 以內的版本| 模型 | 2-bit | 4-bit | 8-bit | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | |
| GemmaGemma 4 E4B | ✓ | 248.6 | 128K | ✓ | 182.6 | 128K | ✓ | 108.4 | 128K |
| QwenQwen3.5 9B | ✓ | 208.9 | 128K | ✓ | 152.9 | 128K | ✓ | 90.4 | 128K |
| GemmaGemma 4 12B | ✓ | 151.9 | 128K | ✓ | 114.2 | 128K | ✓ | 69.6 | 128K |
| GemmaGemma 4 26B A4B | ✓ | 157.4 | 128K | ✓ | 141.3 | 128K | ✓ | 111.7 | 128K |
| QwenQwen3.6 27B | ✓ | 84.3 | 128K | ✓ | 59.1 | 128K | ✓ | 33.4 | 128K |
| QwenQwen3.8 27B | ✓ | 84.3 | 128K | ✓ | 59.1 | 128K | ✓ | 33.4 | 128K |
| GLMGLM 4.7 Flash | ✓ | 189.1 | 128K | ✓ | 171.4 | 128K | ✓ | 138.1 | 128K |
| GemmaGemma 4 31B | ✓ | 63.5 | 32K | ✓ | 46.6 | 32K | ✓ | 27.7 | 32K |
| QwenQwen3.6 35B A3B | ✓ | 185.5 | 128K | ✓ | 168.5 | 128K | ✓ | 136.2 | 128K |
判定口徑:權重 + KV cache + 執行開銷 ≤ 可用記憶體,單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑(顯存只放注意力層與 KV cache),速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。
各平台價格
常見問題
CMP 170HX 64GB 有多大顯存?
CMP 170HX 64GB 有 64GB HBM2e 顯存,頻寬 1,493 GB/s。
CMP 170HX 64GB 能跑 70B 模型嗎?
能。在 Q4_K_M 量化、8K 上下文下,70B 稠密模型約需 43GB,CMP 170HX 64GB 的 64GB 裝得下。
CMP 170HX 64GB 多少錢?
暫無價資料,價格接入後會顯示在這裡。