Instinct MI210 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
Instinct MI210 是 AMD 2022 年的 64GB 資料中心卡,在二手 AMD 卡中軟體支援最完整,30B 級模型直接跑 8-bit。卡上沒有風扇,裝進桌機要自己處理散熱。
閒魚
Instinct MI210 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
Instinct MI210 完整規格
- 顯存64 GB · HBM2e
- 頻寬1,638 GB/s
- FP16 / BF16181 TFLOPS
- INT8181 TOPS
- 位寬
- 4,096-bit
- 架構
- CDNA 2 (Aldebaran)
- 核心
- 6,656
- 張量核心
- 416
- 生態
- ROCm
- 介面
- PCIe 4.0 x16
- 功耗
- 300 W
- 供電介面
- 8-pin EPS
- 槽位
- 2
- 長度
- 267 mm
- 類型
- 資料中心
- 發布日期
- 2022年3月22日
單張 Instinct MI210 能跑哪些模型?
單張 MI210 用 8-bit 就能跑 35B 以內的模型,上下文開滿 256K,Qwen3.8 27B 約 41 tokens/s。單卡上限是 70B 級的 4-bit。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 10.5 GB | 能跑 | 163.7 | 256K | |
| 11.8 GB | 能跑 | 90.9 | 256K | |
| 9.8 GB | 能跑 | 106.2 | 256K | |
| 11.9 GB | 能跑 | 171.8 | 198K | |
| 11.8 GB | 能跑 | 87.8 | 256K | |
| 12.3 GB | 能跑 | 179.1 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 16.9 GB | 能跑 | 145.4 | 256K | |
| 16.8 GB | 能跑 | 66.7 | 256K | |
| 16.5 GB | 能跑 | 67.8 | 256K | |
| 18.3 GB | 能跑 | 158 | 198K | |
| 18.3 GB | 能跑 | 60.4 | 256K | |
| 22.1 GB | 能跑 | 160.4 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 26.9 GB | 能跑 | 123.8 | 256K | |
| 28.6 GB | 能跑 | 41 | 256K | |
| 29 GB | 能跑 | 40.5 | 256K | |
| 31.8 GB | 能跑 | 135 | 198K | |
| 32.6 GB | 能跑 | 35.8 | 256K | |
| 36.9 GB | 能跑 | 138.6 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 Instinct MI210 能跑哪些模型?
兩張 MI210(128GB)就能用 4-bit 跑 Qwen3.8 Flash Next,約 125 tokens/s;DeepSeek V4 Flash 的 4-bit 要 4 張。可用 Infinity Fabric 橋接串 4 張。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 張 | NT$180,400 | 128 GB | 139.8 | 600 W | |
| 96.8 GB | 2 張 | NT$180,400 | 128 GB | 120.5 | 600 W | |
| 107.2 GB | 2 張 | NT$180,400 | 128 GB | 66.9 | 600 W | |
| 108.7 GB | 2 張 | NT$180,400 | 128 GB | 103 | 600 W | |
| 253.9 GB | 8 張 | NT$721,598 | 512 GB | 59.8 | 2,400 W | |
| 307.2 GB估 | 8 張 | NT$721,598 | 512 GB | 46.7 | 2,400 W | |
| 311.2 GB | 8 張 | NT$721,598 | 512 GB | 54.2 | 2,400 W | |
| 339.5 GB | 8 張 | NT$721,598 | 512 GB | 70.2 | 2,400 W | |
| 340.5 GB | 8 張 | NT$721,598 | 512 GB | 70.1 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 2 張 | NT$180,400 | 128 GB | 124.5 | 600 W | |
| 155.1 GB | 4 張 | NT$360,799 | 256 GB | 95.9 | 1,200 W | |
| 182.2 GB | 4 張 | NT$360,799 | 256 GB | 52.1 | 1,200 W | |
| 199.7 GB | 4 張 | NT$360,799 | 256 GB | 72.5 | 1,200 W | |
| 467.3 GB | 8 張 | NT$721,598 | 512 GB | 38.7 | 2,400 W | |
| 467.3 GB | 8 張 | NT$721,598 | 512 GB | 33.9 | 2,400 W | |
| 510.3 GB | 8 張Engram 放記憶體 | NT$721,598 | 512 GB | 64 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 張 | NT$360,799 | 256 GB | 93.7 | 1,200 W | |
| 188.2 GB | 4 張 | NT$360,799 | 256 GB | 98.8 | 1,200 W | |
| 317.7 GB | 8 張 | NT$721,598 | 512 GB | 37.2 | 2,400 W | |
| 341 GB | 8 張 | NT$721,598 | 512 GB | 49.7 | 2,400 W |
標「Engram 放記憶體」的另需約 203 GB 系統記憶體。詳細計算規則可在資料方法頁查看。
適合誰
適合
- 單卡跑 8-bit 的 27B 到 31B
Qwen3.8 27B 的 8-bit 約 41 tokens/s,上下文開滿 256K
- 要用 vLLM
官方文件把 MI200 系列列為支援,這在二手 Instinct 裡很少見
- 想用兩張跑大型 MoE
兩張就能跑 4-bit 的 Qwen3.8 Flash Next,約 125 tokens/s
不太適合
- 放在一般桌機裡
被動散熱,要自己做風道
- 需要 FP8
這一代晶片不支援 FP8
- 離不開 Windows
ROCm 對它只提供 Linux 版
買前須知
供電是 EPS 8-pin
MI210 只有一個 8-pin 供電接頭,但它是 CPU 供電那種 EPS 定義,不是顯示卡常用的 PCIe 8-pin,卡也不附供電線。接桌機電源供應器時,可以用電源多出來的 CPU 8-pin 線,或是明確標示「PCIe 轉 EPS」的轉接線;插之前先核對針腳定義,別把顯示卡的 PCIe 8-pin 線硬插進去。
只依伺服器風道設計
MI210 沒有風扇,是依照伺服器由前往後的強力風道設計的。一兩張可以放進塔式機殼,加導風罩和風扇勉強應付;打算上 4 張、再接 Infinity Fabric 橋接器的話,我們建議直接用支援被動散熱卡的 GPU 伺服器。
二手 Instinct 裡軟體最完整
和 MI50、MI100 相比,MI210 的軟體支援最完整:它在 ROCm 10.0 的支援清單上(只有 Linux:Ubuntu、RHEL、SLES),vLLM 官方文件列出了 MI200 系列,AMD 自己發布的 llama.cpp 容器也把 MI210 列為驗證過的卡。有兩點要注意:ROCm 10.0 相容性表中驗證 vLLM 的晶片名單沒有它,能不能用要以 vLLM 自己的文件為準;AWQ、GPTQ 在 AMD 卡上用不了,模型要選 BF16 原版或 GGUF。
與同級顯卡比較
Instinct MI210 與 Instinct MI100、A100 40GB PCIe、CMP 170HX 64GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | Instinct MI210 | Instinct MI100 | ||
|---|---|---|---|---|
| 顯存 | 64 GB | 32 GB少 50% | 40 GB少 38% | 64 GB相同 |
| 頻寬 | 1,638 GB/s | 1,229 GB/s低 25% | 1,555 GB/s低 5% | 1,493 GB/s低 9% |
| BF16 / FP16 算力 | 181 TFLOPS | 92 TFLOPS低 49% | 312 TFLOPS高 72% | 202 TFLOPS高 12% |
| INT8 算力 | 181 TOPS | 92 TOPS低 49% | 624 TOPS高 245% | 404 TOPS高 123% |
| Qwen3.8 27B 速度(2-bit) | 106.2 t/s | 82.8 t/s慢 22% | 101.6 t/s慢 4% | 98.1 t/s慢 8% |
| 最高可跑稠密模型(4-bit) | 107B | 51B少 52% | 65B少 39% | 107B相同 |
| 功耗 | 300 W | 300 W相同 | 250 W低 17% | 250 W低 17% |
| 卡間互連 | — | — | NVLink 600 GB/s | 不支援 |
| 介面 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 2.0 x4 |
| 發布 | 2022-03 | 2020-11 | 2020-06 | 2021-06 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。