CMP 170HX 40GB 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
CMP 170HX 40GB 是 NVIDIA 2021 年挖礦卡的改裝版,靠驅動修補解鎖 40GB 顯示記憶體,35B 以內可用 8-bit 跑。修補只支援 Linux,在 Windows 下只有 10GB。
閒魚
CMP 170HX 40GB 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
CMP 170HX 40GB 完整規格
- 顯存40 GB · HBM2e
- 頻寬1,560 GB/s
- FP16 / BF16202 TFLOPS
- INT8404 TOPS
- 位寬
- 5,120-bit
- 架構
- Ampere (GA100)
- 核心
- 4,480
- 張量核心
- 280
- 生態
- CUDA
- 介面
- PCIe 2.0 x4
- NVLink
- 不支援
- 功耗
- 250 W
- 供電介面
- 8-pin CPU (EPS-12V)
- 槽位
- 2
- 長度
- 267 mm
- 類型
- 資料中心
- 發布日期
- 2021年9月1日
單張 CMP 170HX 40GB 能跑哪些模型?
解鎖後的 CMP 170HX 40GB 用 8-bit 放得下 35B 以內的所有模型,30B 級 MoE 仍有約 130 tokens/s。70B 級稠密模型要兩張起跳。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 4.1 GB | 能跑 | 202.5 | 256K | |
| 4.7 GB | 能跑 | 181.1 | 256K | |
| 10.5 GB | 能跑 | 161.9 | 256K | |
| 11.8 GB | 能跑 | 87 | 256K | |
| 9.8 GB | 能跑 | 101.9 | 256K | |
| 11.9 GB | 能跑 | 170.2 | 198K | |
| 11.8 GB | 能跑 | 84.1 | 256K | |
| 12.3 GB | 能跑 | 177.7 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5.7 GB | 能跑 | 159.3 | 256K | |
| 7.1 GB | 能跑 | 132.8 | 256K | |
| 16.9 GB | 能跑 | 143.2 | 256K | |
| 16.8 GB | 能跑 | 63.8 | 256K | |
| 16.5 GB | 能跑 | 64.9 | 256K | |
| 18.3 GB | 能跑 | 156 | 198K | |
| 18.3 GB | 能跑 | 57.7 | 256K | |
| 22.1 GB | 能跑 | 158.5 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 9.5 GB | 能跑 | 105.8 | 256K | |
| 12.7 GB | 能跑 | 81.9 | 256K | |
| 26.9 GB | 能跑 | 121.3 | 256K | |
| 28.6 GB | 能跑 | 39.2 | 197K | |
| 29 GB | 能跑 | 38.7 | 191K | |
| 31.8 GB | 能跑 | 132.6 | 181K | |
| 32.6 GB | 能跑 | 34.2 | 100K | |
| 36.9 GB | 能跑 | 136.2 | 237K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 CMP 170HX 40GB 能跑哪些模型?
兩張 CMP 170HX 40GB 能用 8-bit 跑 gpt-oss 120B,約 133 tokens/s;大型 MoE 要 4 張起跳。每張只有 4 條 PCIe 2.0 通道,多卡同步很慢。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 張 | NT$382,273 | 160 GB | 137.4 | 1,000 W | |
| 96.8 GB | 4 張 | NT$382,273 | 160 GB | 117.9 | 1,000 W | |
| 107.2 GB | 4 張 | NT$382,273 | 160 GB | 64.6 | 1,000 W | |
| 108.7 GB | 4 張 | NT$382,273 | 160 GB | 100.4 | 1,000 W | |
| 253.9 GB | 8 張 | NT$764,546 | 320 GB | 57.7 | 2,000 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 張 | NT$382,273 | 160 GB | 121.9 | 1,000 W | |
| 155.1 GB | 8 張 | NT$764,546 | 320 GB | 93.4 | 2,000 W | |
| 182.2 GB | 8 張 | NT$764,546 | 320 GB | 50.2 | 2,000 W | |
| 199.7 GB | 8 張 | NT$764,546 | 320 GB | 70.2 | 2,000 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 張 | NT$764,546 | 320 GB | 91.1 | 2,000 W | |
| 188.2 GB | 8 張 | NT$764,546 | 320 GB | 96.2 | 2,000 W |
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 只用 Linux、願意自己動手調整,想要 A100 的生成速度
同一個模型和 A100 40GB 一樣快,Qwen3.8 27B 的 4-bit 約 65 tokens/s
- 想用 8-bit 跑 30B 級
Qwen3.8 27B 的 8-bit(29 GB)放得下,約 39 tokens/s,24GB 的卡做不到
- 主要跑 MoE
Qwen3.6 35B A3B、GLM 4.7 Flash 的 4-bit 約 156 到 159 tokens/s
不太適合
- 用 Windows 或不想動到核心
解鎖修補只支援 Linux 和特定版本的開源驅動程式,還要關閉 Secure Boot
- 常換模型、要把權重放在系統記憶體跑
PCIe 只有 Gen2 x4,顯示記憶體和系統記憶體之間搬資料很慢
- 要保固、想長期安心使用
40GB 不是官方規格,賣出後就沒有售後服務
買前須知
40GB 是解鎖出來的,不是焊上去的
賣家說的「40GB」並不是這張卡的出廠規格:CMP 170HX 出廠只開放 10GB(另一版是 8GB),其餘的顯示記憶體其實就在晶片封裝裡,只是被韌體鎖住,刷 BIOS 也改不了。解鎖靠的是開源工具 cmpunlocker:它替驅動程式打修補,開機時把被鎖住的記憶體釋放出來,順便解除算力限速、把 PCIe 提升到 Gen2。所以修補是裝在電腦的系統裡,卡本身沒有改變,換電腦或重灌系統都要重新安裝。10GB 版理論上能解到 80GB,但社群回報並不穩定,工具對 10GB 卡用的是 40GB 這一檔。
只能用 Linux,驅動程式版本受限
修補對系統的要求很明確:Linux x86-64、root 權限、關閉 Secure Boot(改過的驅動模組沒有簽章);驅動程式只認清單裡的幾個 nvidia-open 版本(目前是 610 和 615 系列),裝的版本不在清單上,安裝腳本就會直接結束。升級核心或驅動程式之後要重新安裝。Windows 下沒有這套修補,卡只能照出廠的 10GB 使用。
在可退貨期間內先測過顯示記憶體
解鎖出來的記憶體不一定全部是好的:Tom's Hardware 提醒,被鎖住的那部分可能原本就有瑕疵;wccftech 也提到,有些卡只能穩定使用到更小的容量。拿到後用 cmp_memory_tester 這類工具把 40GB 從頭到尾佔滿測一遍,有問題趁還能退貨時處理。
電路板和 A100 幾乎一樣
拆開來看,它的電路板和 A100 40GB PCIe 幾乎相同,只是少焊了一些元件,所以 A100 的水冷頭可以直接裝(有人用的是 Bykski N-TESLA-A100-X-V2)。和 A100 一樣,供電是一個 8-pin CPU(EPS)接頭,卡上沒有風扇,也沒有影像輸出。
與同級顯卡比較
CMP 170HX 40GB 與 A100 40GB PCIe、CMP 170HX 64GB、GeForce RTX 4090 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 40 GB | 40 GB相同 | 64 GB多 60% | 24 GB少 40% |
| 頻寬 | 1,560 GB/s | 1,555 GB/s相同 | 1,493 GB/s低 4% | 1,008 GB/s低 35% |
| BF16 / FP16 算力 | 202 TFLOPS | 312 TFLOPS高 54% | 202 TFLOPS相同 | 330 TFLOPS高 64% |
| INT8 算力 | 404 TOPS | 624 TOPS高 54% | 404 TOPS相同 | 661 TOPS高 64% |
| Qwen3.8 27B 速度(2-bit) | 101.9 t/s | 101.6 t/s相同 | 98.1 t/s慢 4% | 69.3 t/s慢 32% |
| 最高可跑稠密模型(4-bit) | 65B | 65B相同 | 107B多 65% | 37B少 43% |
| 功耗 | 250 W | 250 W相同 | 250 W相同 | 450 W高 80% |
| 卡間互連 | 不支援 | NVLink 600 GB/s | 不支援 | 不支援 |
| 介面 | PCIe 2.0 x4 | PCIe 4.0 x16 | PCIe 2.0 x4 | PCIe 4.0 x16 |
| 發布 | 2021-09 | 2020-06 | 2021-06 | 2022-10 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。