Instinct MI50 32GB 价格与二手行情:能部署哪些大模型?
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
Instinct MI50 32GB 是 AMD 2018 年的数据中心卡,4-bit 跑 Qwen3.8 27B 约 44 tokens/s。它已被移出 ROCm 支持,用 llama.cpp 的 Vulkan 后端最省事。
闲鱼
Instinct MI50 32GB 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
Instinct MI50 32GB 完整规格
- 显存32 GB · HBM2
- 带宽1,024 GB/s
- FP16 / BF1626.5 TFLOPS
- INT853 TOPS
- 位宽
- 4,096-bit
- 架构
- GCN 5 (Vega 20)
- 核心
- 3,840
- 生态
- ROCm
- 接口
- PCIe 4.0 x16
- 功耗
- 300 W
- 供电接口
- 2× 8-pin
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 数据中心
- 发布日期
- 2018年11月18日
单张 Instinct MI50 32GB 能跑哪些模型?
单张 MI50 能整卡跑 35B 以内的模型:MoE 用 8-bit(Gemma 4 26B A4B 约 99 tokens/s),稠密模型用 4-bit(约 40)。没有矩阵单元,读长文档偏慢。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 157.8 | 128K | |
| 4.1 GB | 能跑 | 147.3 | 256K | |
| 4.7 GB | 能跑 | 130.2 | 256K | |
| 10.5 GB | 能跑 | 143.8 | 256K | |
| 11.8 GB | 能跑 | 59.6 | 256K | |
| 9.8 GB | 能跑 | 70.3 | 256K | |
| 11.9 GB | 能跑 | 154 | 198K | |
| 11.8 GB | 能跑 | 57.6 | 246K | |
| 12.3 GB | 能跑 | 163.6 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 127.1 | 128K | |
| 5.7 GB | 能跑 | 113.3 | 256K | |
| 7.1 GB | 能跑 | 93.1 | 256K | |
| 16.9 GB | 能跑 | 122.2 | 256K | |
| 16.8 GB | 能跑 | 43.2 | 245K | |
| 16.5 GB | 能跑 | 43.9 | 250K | |
| 18.3 GB | 能跑 | 136.8 | 198K | |
| 18.3 GB | 能跑 | 39 | 168K | |
| 22.1 GB | 能跑 | 139.8 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 83.7 | 128K | |
| 9.5 GB | 能跑 | 73.1 | 256K | |
| 12.7 GB | 能跑 | 55.9 | 256K | |
| 26.9 GB | 能跑 | 99 | 256K | |
| 28.6 GB | 能跑 | 26.2 | 69K | |
| 29 GB | 能跑 | 25.9 | 63K | |
| 31.8 GB | 能跑 | 110.8 | 26K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸载到内存 | 35 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
多张 Instinct MI50 32GB 能跑哪些模型?
四张 MI50(128GB)能用 4-bit 跑 Qwen3.8 Flash Next,约 100 tokens/s,但要用社区版 vLLM;llama.cpp 分卡最稳,速度慢得多。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 张 | ¥13,332 | 128 GB | 115.9 | 1,200 W | |
| 96.8 GB | 4 张 | ¥13,332 | 128 GB | 95.6 | 1,200 W | |
| 107.2 GB | 4 张 | ¥13,332 | 128 GB | 47.4 | 1,200 W | |
| 108.7 GB | 4 张 | ¥13,332 | 128 GB | 78.6 | 1,200 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 张 | ¥13,332 | 128 GB | 99.6 | 1,200 W | |
| 155.1 GB | 8 张 | ¥26,664 | 256 GB | 72.2 | 2,400 W | |
| 182.2 GB | 8 张 | ¥26,664 | 256 GB | 35.8 | 2,400 W | |
| 199.7 GB | 8 张 | ¥26,664 | 256 GB | 52 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 张 | ¥26,664 | 256 GB | 70.2 | 2,400 W | |
| 188.2 GB | 8 张 | ¥26,664 | 256 GB | 74.8 | 2,400 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 要 24GB 卡给不了的长上下文
Qwen3.8 27B 的 4-bit 能开到 250K,约 44 tokens/s
- 想用 8-bit
Qwen3.8 27B 的 8-bit(29 GB)装得下,约 26 tokens/s
- 愿意折腾 Linux
llama.cpp 的 Vulkan 后端不依赖 ROCm,能直接用
不太适合
- 要用 Windows
AMD 对这张卡只提供 Linux 支持
- 要用官方 vLLM,或者直接跑 BF16 原版权重
官方 vLLM 不支持它,芯片也不支持 BF16
- 放在普通机箱里又不想改风道
被动散热,满载 300W
买前须知
ROCm 版本要自己挑
AMD 已经把 MI50 移出 ROCm 支持表,新版 ROCm 装上去,预编译库会出运行时错误(社区指出 ROCm 7.x 的 rocBLAS 缺这张卡的计算内核)。社区的办法有三种:装旧一点的 ROCm;把 6.4.3 版里这张卡的 rocBLAS 文件补进新版;或者干脆用 llama.cpp 的 Vulkan 后端,完全绕开 ROCm,这是最省事的。
被动散热要配导风罩
卡上没有风扇,设计上靠服务器风道从卡的一头吹到另一头。放进台式机要在卡尾加导风罩和高静压风扇,否则很快过热降频。社区指南还建议把功耗墙降到 150 到 180W:生成速度主要看显存带宽,降功耗几乎不掉速,温度却能低 15°C 以上。
确认 32GB 版本和平台
MI50 有 16GB 和 32GB 两个版本,验货时用 rocm-smi 或 amd-smi 看显存容量。平台也要查:ROCm 要求 CPU 支持 PCIe atomics(AMD 第一代 Zen、Intel Haswell 及以后),更老的 Xeon 平台可能用不了;BIOS 里还要打开 Above 4G Decoding 和 Resizable BAR。
没有矩阵单元和 BF16
这一代芯片没有矩阵计算单元,FP16 算力只有 26.5 TFLOPS,也不支持 BF16。用 llama.cpp 跑 GGUF 量化版时,生成速度不受影响,只是读长提示词会明显慢于有矩阵核心的卡;BF16 原版权重要先转成 FP16,或者直接用 GGUF。
和同档显卡对比
Instinct MI50 32GB 和 Tesla V100 32GB、Instinct MI100、GeForce RTX 3090 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | Instinct MI50 32GB | Instinct MI100 | ||
|---|---|---|---|---|
| 显存 | 32 GB | 32 GB相同 | 32 GB相同 | 24 GB少 25% |
| 带宽 | 1,024 GB/s | 900 GB/s低 12% | 1,229 GB/s高 20% | 936 GB/s低 9% |
| BF16 / FP16 算力 | 27 TFLOPS | 112 TFLOPS高 323% | 92 TFLOPS高 248% | 142 TFLOPS高 437% |
| INT8 算力 | 53 TOPS | 56 TOPS高 6% | 92 TOPS高 74% | 285 TOPS高 437% |
| Qwen3.8 27B 速度(2-bit) | 70.3 t/s | 62.6 t/s慢 11% | 82.8 t/s快 18% | 64.8 t/s慢 8% |
| 最高可跑稠密模型(4-bit) | 51B | 51B相同 | 51B相同 | 37B少 27% |
| 功耗 | 300 W | 250 W低 17% | 300 W相同 | 350 W高 17% |
| 卡间互联 | — | 不支持 | — | NVLink 112.5 GB/s |
| 接口 | PCIe 4.0 x16 | PCIe 3.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 |
| 发布 | 2018-11 | 2018-03 | 2020-11 | 2020-09 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。