Instinct MI210 价格与二手行情:能部署哪些大模型?
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
Instinct MI210 是 AMD 2022 年的 64GB 数据中心卡,二手 AMD 卡里软件支持最全,30B 级模型直接用 8-bit 跑。卡上无风扇,放进台式机要自己解决散热。
闲鱼
Instinct MI210 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
Instinct MI210 完整规格
- 显存64 GB · HBM2e
- 带宽1,638 GB/s
- FP16 / BF16181 TFLOPS
- INT8181 TOPS
- 位宽
- 4,096-bit
- 架构
- CDNA 2 (Aldebaran)
- 核心
- 6,656
- 张量核心
- 416
- 生态
- ROCm
- 接口
- PCIe 4.0 x16
- 功耗
- 300 W
- 供电接口
- 8-pin EPS
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 数据中心
- 发布日期
- 2022年3月22日
单张 Instinct MI210 能跑哪些模型?
单张 MI210 用 8-bit 就能跑 35B 以内的模型,上下文开满 256K,Qwen3.8 27B 约 41 tokens/s。单卡最大到 70B 级的 4-bit。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 10.5 GB | 能跑 | 163.7 | 256K | |
| 11.8 GB | 能跑 | 90.9 | 256K | |
| 9.8 GB | 能跑 | 106.2 | 256K | |
| 11.9 GB | 能跑 | 171.8 | 198K | |
| 11.8 GB | 能跑 | 87.8 | 256K | |
| 12.3 GB | 能跑 | 179.1 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 16.9 GB | 能跑 | 145.4 | 256K | |
| 16.8 GB | 能跑 | 66.7 | 256K | |
| 16.5 GB | 能跑 | 67.8 | 256K | |
| 18.3 GB | 能跑 | 158 | 198K | |
| 18.3 GB | 能跑 | 60.4 | 256K | |
| 22.1 GB | 能跑 | 160.4 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 26.9 GB | 能跑 | 123.8 | 256K | |
| 28.6 GB | 能跑 | 41 | 256K | |
| 29 GB | 能跑 | 40.5 | 256K | |
| 31.8 GB | 能跑 | 135 | 198K | |
| 32.6 GB | 能跑 | 35.8 | 256K | |
| 36.9 GB | 能跑 | 138.6 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
多张 Instinct MI210 能跑哪些模型?
两张 MI210(128GB)就能用 4-bit 跑 Qwen3.8 Flash Next,约 125 tokens/s;DeepSeek V4 Flash 的 4-bit 要 4 张。可用 Infinity Fabric 桥连 4 张。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 张 | ¥36,998 | 128 GB | 139.8 | 600 W | |
| 96.8 GB | 2 张 | ¥36,998 | 128 GB | 120.5 | 600 W | |
| 107.2 GB | 2 张 | ¥36,998 | 128 GB | 66.9 | 600 W | |
| 108.7 GB | 2 张 | ¥36,998 | 128 GB | 103 | 600 W | |
| 253.9 GB | 8 张 | ¥147,992 | 512 GB | 59.8 | 2,400 W | |
| 307.2 GB估 | 8 张 | ¥147,992 | 512 GB | 46.7 | 2,400 W | |
| 311.2 GB | 8 张 | ¥147,992 | 512 GB | 54.2 | 2,400 W | |
| 339.5 GB | 8 张 | ¥147,992 | 512 GB | 70.2 | 2,400 W | |
| 340.5 GB | 8 张 | ¥147,992 | 512 GB | 70.1 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 2 张 | ¥36,998 | 128 GB | 124.5 | 600 W | |
| 155.1 GB | 4 张 | ¥73,996 | 256 GB | 95.9 | 1,200 W | |
| 182.2 GB | 4 张 | ¥73,996 | 256 GB | 52.1 | 1,200 W | |
| 199.7 GB | 4 张 | ¥73,996 | 256 GB | 72.5 | 1,200 W | |
| 467.3 GB | 8 张 | ¥147,992 | 512 GB | 38.7 | 2,400 W | |
| 467.3 GB | 8 张 | ¥147,992 | 512 GB | 33.9 | 2,400 W | |
| 510.3 GB | 8 张Engram 放内存 | ¥147,992 | 512 GB | 64 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 张 | ¥73,996 | 256 GB | 93.7 | 1,200 W | |
| 188.2 GB | 4 张 | ¥73,996 | 256 GB | 98.8 | 1,200 W | |
| 317.7 GB | 8 张 | ¥147,992 | 512 GB | 37.2 | 2,400 W | |
| 341 GB | 8 张 | ¥147,992 | 512 GB | 49.7 | 2,400 W |
标「Engram 放内存」的另需约 203 GB 系统内存。详细计算规则可在数据方法页查看。
适合谁
适合
- 单卡跑 8-bit 的 27B 到 31B
Qwen3.8 27B 的 8-bit 约 41 tokens/s,上下文开满 256K
- 要用 vLLM
官方文档把 MI200 系列列为支持,这在二手 Instinct 里少见
- 想用两张跑大 MoE
两张就能跑 4-bit 的 Qwen3.8 Flash Next,约 125 tokens/s
不太适合
- 放在普通台式机
被动散热,要自己做风道
- 需要 FP8
这一代芯片不支持 FP8
- 离不开 Windows
ROCm 对它只提供 Linux 版
买前须知
供电是 EPS 8-pin
MI210 只有一个 8-pin 供电口,但它是 CPU 供电那种 EPS 定义,不是显卡常用的 PCIe 8-pin,卡也不附带供电线。接台式机电源,可以用电源富余的 CPU 8-pin 线,或者明确标着「PCIe 转 EPS」的转接线;插之前核对针脚定义,别把显卡的 PCIe 8-pin 线硬插进去。
只按服务器风道设计
MI210 没有风扇,是按服务器从前往后的强风道设计的。一两张可以放进塔式机箱,加导风罩和风扇凑合;打算上 4 张、再接 Infinity Fabric 桥的话,我们建议直接用支持被动卡的 GPU 服务器。
二手 Instinct 里软件最完整
和 MI50、MI100 比,MI210 的软件支持最全:它在 ROCm 10.0 的支持表里(只有 Linux:Ubuntu、RHEL、SLES),vLLM 官方文档列了 MI200 系列,AMD 自己发布的 llama.cpp 容器也把 MI210 列为验证过的卡。有两点要注意:ROCm 10.0 兼容表里验证 vLLM 的芯片名单没有它,能不能用以 vLLM 自己的文档为准;AWQ、GPTQ 在 AMD 卡上用不了,模型选 BF16 原版或 GGUF。
和同档显卡对比
Instinct MI210 和 Instinct MI100、A100 40GB PCIe、CMP 170HX 64GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | Instinct MI210 | Instinct MI100 | ||
|---|---|---|---|---|
| 显存 | 64 GB | 32 GB少 50% | 40 GB少 38% | 64 GB相同 |
| 带宽 | 1,638 GB/s | 1,229 GB/s低 25% | 1,555 GB/s低 5% | 1,493 GB/s低 9% |
| BF16 / FP16 算力 | 181 TFLOPS | 92 TFLOPS低 49% | 312 TFLOPS高 72% | 202 TFLOPS高 12% |
| INT8 算力 | 181 TOPS | 92 TOPS低 49% | 624 TOPS高 245% | 404 TOPS高 123% |
| Qwen3.8 27B 速度(2-bit) | 106.2 t/s | 82.8 t/s慢 22% | 101.6 t/s慢 4% | 98.1 t/s慢 8% |
| 最高可跑稠密模型(4-bit) | 107B | 51B少 52% | 65B少 39% | 107B相同 |
| 功耗 | 300 W | 300 W相同 | 250 W低 17% | 250 W低 17% |
| 卡间互联 | — | — | NVLink 600 GB/s | 不支持 |
| 接口 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 2.0 x4 |
| 发布 | 2022-03 | 2020-11 | 2020-06 | 2021-06 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。