RTX PRO 5000 72GB 价格与二手行情:能部署哪些大模型?
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX PRO 5000 Blackwell 72GB 是 NVIDIA 2025 年底供货的工作站卡,单卡装得下 gpt-oss 120B。两版外观几乎一样,到手用 nvidia-smi 确认是 72GB。
闲鱼
RTX PRO 5000 72GB 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
RTX PRO 5000 72GB 完整规格
- 显存72 GB · GDDR7 ECC
- 带宽1,344 GB/s
- FP16 / BF16258 TFLOPS
- FP8 / INT8516 / 516 TOPS
- 位宽
- 384-bit
- 架构
- Blackwell (GB202)
- 核心
- 14,080
- 张量核心
- 440
- 生态
- CUDA
- 接口
- PCIe 5.0 x16
- NVLink
- 不支持
- 功耗
- 300 W
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 工作站
- 发布日期
- 2025年12月18日
单张 RTX PRO 5000 72GB 能跑哪些模型?
单张 PRO 5000 72GB 能跑 70B 级和 gpt-oss 120B 的 4-bit,35B 以内默认用 8-bit。还能用 MIG 切成两个 36GB,给两个人分着用。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 10.5 GB | 能跑 | 155.9 | 256K | |
| 11.8 GB | 能跑 | 76.3 | 256K | |
| 9.8 GB | 能跑 | 89.5 | 256K | |
| 11.9 GB | 能跑 | 164.9 | 198K | |
| 11.8 GB | 能跑 | 73.7 | 256K | |
| 12.3 GB | 能跑 | 173.1 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 16.9 GB | 能跑 | 136 | 256K | |
| 16.8 GB | 能跑 | 55.7 | 256K | |
| 16.5 GB | 能跑 | 56.6 | 256K | |
| 18.3 GB | 能跑 | 149.5 | 198K | |
| 18.3 GB | 能跑 | 50.3 | 256K | |
| 22.1 GB | 能跑 | 152.2 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 26.9 GB | 能跑 | 113.4 | 256K | |
| 28.6 GB | 能跑 | 34 | 256K | |
| 29 GB | 能跑 | 33.6 | 256K | |
| 31.8 GB | 能跑 | 125 | 198K | |
| 32.6 GB | 能跑 | 29.6 | 256K | |
| 36.9 GB | 能跑 | 128.7 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
多张 RTX PRO 5000 72GB 能跑哪些模型?
两张 PRO 5000 72GB(144GB)就能用 4-bit 跑 Qwen3.8 Flash Next,约 114 tokens/s;DeepSeek V4 Flash 的 4-bit 要 4 张。没有 NVLink。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 张 | ¥97,480 | 144 GB | 130 | 600 W | |
| 96.8 GB | 2 张 | ¥97,480 | 144 GB | 110 | 600 W | |
| 107.2 GB | 2 张 | ¥97,480 | 144 GB | 58.1 | 600 W | |
| 108.7 GB | 2 张 | ¥97,480 | 144 GB | 92.5 | 600 W | |
| 253.9 GB | 4 张 | ¥194,960 | 288 GB | 51.7 | 1,200 W | |
| 307.2 GB估 | 8 张 | ¥389,920 | 576 GB | 39.9 | 2,400 W | |
| 311.2 GB | 8 张 | ¥389,920 | 576 GB | 46.6 | 2,400 W | |
| 339.5 GB | 8 张 | ¥389,920 | 576 GB | 61.2 | 2,400 W | |
| 340.5 GB | 8 张 | ¥389,920 | 576 GB | 61.1 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 2 张 | ¥97,480 | 144 GB | 114.1 | 600 W | |
| 155.1 GB | 4 张 | ¥194,960 | 288 GB | 85.6 | 1,200 W | |
| 182.2 GB | 4 张 | ¥194,960 | 288 GB | 44.7 | 1,200 W | |
| 199.7 GB | 4 张 | ¥194,960 | 288 GB | 63.4 | 1,200 W | |
| 467.3 GB | 8 张 | ¥389,920 | 576 GB | 32.8 | 2,400 W | |
| 467.3 GB | 8 张 | ¥389,920 | 576 GB | 28.6 | 2,400 W | |
| 505.5 GB | 8 张 | ¥389,920 | 576 GB | 32.1 | 2,400 W | |
| 510.3 GB | 8 张Engram 放内存 | ¥389,920 | 576 GB | 55.5 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 张 | ¥194,960 | 288 GB | 83.5 | 1,200 W | |
| 188.2 GB | 4 张 | ¥194,960 | 288 GB | 88.4 | 1,200 W | |
| 317.7 GB | 8 张 | ¥389,920 | 576 GB | 31.5 | 2,400 W | |
| 341 GB | 8 张 | ¥389,920 | 576 GB | 42.6 | 2,400 W |
标「Engram 放内存」的另需约 203 GB 系统内存。详细计算规则可在数据方法页查看。
适合谁
适合
- 单卡跑 70B 级稠密模型
Llama 3.3 70B 的 4-bit 在 48GB 卡上只能开很短的上下文,72GB 宽裕得多
- 单卡跑 gpt-oss 120B
它的专家权重官方就是 4-bit 格式(MXFP4),72GB 装得下还有余量
- 整机只能给显卡 300W,又要 70GB 以上显存
双槽涡轮,功耗和 48GB 版相同
不太适合
- 单卡跑 2-bit 的 Qwen3.8 Flash Next
它要 78.9 GB,比 72GB 多出一截,得两张,或者换 96GB 的 PRO 6000
- 只跑 35B 以内的模型
速度和 48GB 版完全一样,多出的显存用不上
- 要更快
同一个模型比 RTX PRO 6000 慢约四分之一
买前须知
确认是 72GB 版
72GB 版 2025 年 12 月才开始由合作厂商供货,型号名和外观与 48GB 版几乎一样。挂单写的容量不可全信,到手用 nvidia-smi 看显存总量是不是约 72GB。
位宽不是 512-bit
部分零售页把 72GB 版写成 512-bit,是错的:512-bit 配 3GB 颗粒只能凑出 48GB 或 96GB,凑不出 72GB。它实际是 384-bit,带宽和 48GB 版一样,别以为它比 48GB 版快。
MIG 切法变了
72GB 版的 MIG 能切成两个 36GB,48GB 版只能切两个 24GB。36GB 刚好跨过 27B 级 8-bit 的门槛:每个实例都放得下 Qwen3.8 27B 的 8-bit(29 GB),48GB 版的 24GB 实例放不下。
和同档显卡对比
RTX PRO 5000 72GB 和 RTX PRO 5000 48GB、RTX PRO 6000、A100 80GB PCIe 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 72 GB | 48 GB少 33% | 96 GB多 33% | 80 GB多 11% |
| 带宽 | 1,344 GB/s | 1,344 GB/s相同 | 1,792 GB/s高 33% | 1,935 GB/s高 44% |
| BF16 / FP16 算力 | 258 TFLOPS | 258 TFLOPS相同 | 500 TFLOPS高 94% | 312 TFLOPS高 21% |
| INT8 算力 | 516 TOPS | 516 TOPS相同 | 1,000 TOPS高 94% | 624 TOPS高 21% |
| Qwen3.8 27B 速度(2-bit) | 89.5 t/s | 89.5 t/s相同 | 114.6 t/s快 28% | 122.2 t/s快 37% |
| 最高可跑稠密模型(4-bit) | 122B | 79B少 35% | 165B多 35% | 136B多 11% |
| 功耗 | 300 W | 300 W相同 | 600 W高 100% | 300 W相同 |
| 卡间互联 | 不支持 | 不支持 | 不支持 | NVLink 600 GB/s |
| 接口 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 发布 | 2025-12 | 2025-03 | 2025-03 | 2021-06 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。