RTX PRO 5000 48GB 价格与二手行情：能部署哪些大模型？
到价提醒
闲鱼价格到了你设的价，就发邮件提醒你。
RTX PRO 5000 Blackwell 48GB 是 NVIDIA 2025 年的工作站卡，35B 以内都能用 8-bit，30B 级 MoE 约 129 tokens/s。跑 NVFP4 模型要用新版 vLLM。
闲鱼
RTX PRO 5000 48GB 价格走势
闲鱼
部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。
RTX PRO 5000 48GB 完整规格
- 显存48 GB · GDDR7 ECC
- 带宽1,344 GB/s
- FP16 / BF16258 TFLOPS
- FP8 / INT8516 / 516 TOPS
- 位宽
- 384-bit
- 架构
- Blackwell (GB202)
- 核心
- 14,080
- 张量核心
- 440
- 生态
- CUDA
- 接口
- PCIe 5.0 x16
- NVLink
- 不支持
- 功耗
- 300 W
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 工作站
- 发布日期
- 2025年3月18日
单张 RTX PRO 5000 48GB 能跑哪些模型？
单张 PRO 5000 48GB 跑 35B 以内用 8-bit，上下文开满 256K；求快就换 4-bit，稠密模型快六七成。单卡上限是 70B 级的 4-bit。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
 Gemma 4 12B12B | 4.7 GB | 能跑 | 161.7 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 10.5 GB | 能跑 | 155.9 | 256K |
 Qwen3.6 27B27.8B | 11.8 GB | 能跑 | 76.3 | 256K |
| Qwen3.8 27B27.8B | 9.8 GB | 能跑 | 89.5 | 256K |
 GLM 4.7 Flash30B（激活 3B） | 11.9 GB | 能跑 | 164.9 | 198K |
| Gemma 4 31B30.7B | 11.8 GB | 能跑 | 73.7 | 256K |
| Qwen3.6 35B A3B36B（激活 3B） | 12.3 GB | 能跑 | 173.1 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 12B12B | 7.1 GB | 能跑 | 117.4 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 16.9 GB | 能跑 | 136 | 256K |
| Qwen3.6 27B27.8B | 16.8 GB | 能跑 | 55.7 | 256K |
| Qwen3.8 27B27.8B | 16.5 GB | 能跑 | 56.6 | 256K |
| GLM 4.7 Flash30B（激活 3B） | 18.3 GB | 能跑 | 149.5 | 198K |
| Gemma 4 31B30.7B | 18.3 GB | 能跑 | 50.3 | 256K |
| Qwen3.6 35B A3B36B（激活 3B） | 22.1 GB | 能跑 | 152.2 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 12B12B | 12.7 GB | 能跑 | 71.7 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 26.9 GB | 能跑 | 113.4 | 256K |
| Qwen3.6 27B27.8B | 28.6 GB | 能跑 | 34 | 256K |
| Qwen3.8 27B27.8B | 29 GB | 能跑 | 33.6 | 256K |
| GLM 4.7 Flash30B（激活 3B） | 31.8 GB | 能跑 | 125 | 198K |
| Gemma 4 31B30.7B | 32.6 GB | 能跑 | 29.6 | 202K |
| Qwen3.6 35B A3B36B（激活 3B） | 36.9 GB | 能跑 | 128.7 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存，速度按显存带宽估算。
需卸载到内存仅 MoE 模型：专家权重放进内存，速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下，借内存也不行。
详细计算规则可在数据方法页查看。
多张 RTX PRO 5000 48GB 能跑哪些模型？
四张 PRO 5000 48GB（192GB）能用 4-bit 跑 DeepSeek V4 Flash，约 86 tokens/s，8-bit 也放得下；两张适合 gpt-oss 120B。没有 NVLink。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 78.9 GB | 2 张 | ¥89,500 | 96 GB | 130 | 600 W |
 DeepSeek V4 Flash284B（激活 13B） | 96.8 GB | 4 张 | ¥179,000 | 192 GB | 110 | 1,200 W |
 Hy3295B（激活 21B） | 107.2 GB | 4 张 | ¥179,000 | 192 GB | 58.1 | 1,200 W |
| GLM 5.3 Flash320B（激活 18B） | 108.7 GB | 4 张 | ¥179,000 | 192 GB | 92.5 | 1,200 W |
| GLM 5.3744B（激活 40B） | 253.9 GB | 8 张 | ¥358,000 | 384 GB | 51.7 | 2,400 W |
| Hy4 preview770B（激活 49B） | 307.2 GB估 | 8 张 | ¥358,000 | 384 GB | 39.9 | 2,400 W |
 Muse Spark Open816B（激活 42B） | 311.2 GB | 8 张 | ¥358,000 | 384 GB | 46.6 | 2,400 W |
 Kimi K2.7 Code1,000B（激活 32B） | 339.5 GB | 8 张 | ¥358,000 | 384 GB | 61.2 | 2,400 W |
| Kimi K2.61,000B（激活 32B） | 340.5 GB | 8 张 | ¥358,000 | 384 GB | 61.1 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 111.3 GB | 4 张 | ¥179,000 | 192 GB | 114.1 | 1,200 W |
| DeepSeek V4 Flash284B（激活 13B） | 155.1 GB | 4 张 | ¥179,000 | 192 GB | 85.6 | 1,200 W |
| Hy3295B（激活 21B） | 182.2 GB | 8 张 | ¥358,000 | 384 GB | 44.7 | 2,400 W |
| GLM 5.3 Flash320B（激活 18B） | 199.7 GB | 8 张 | ¥358,000 | 384 GB | 63.4 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| DeepSeek V4 Flash284B（激活 13B） | 161.9 GB | 4 张 | ¥179,000 | 192 GB | 83.5 | 1,200 W |
| Qwen3.8 Flash Next176B（激活 6B） | 188.2 GB | 8 张 | ¥358,000 | 384 GB | 88.4 | 2,400 W |
| Hy3295B（激活 21B） | 317.7 GB | 8 张 | ¥358,000 | 384 GB | 31.5 | 2,400 W |
| GLM 5.3 Flash320B（激活 18B） | 341 GB | 8 张 | ¥358,000 | 384 GB | 42.6 | 2,400 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 单卡跑 27B 到 31B 的稠密模型
4-bit 约 50 到 57 tokens/s，8-bit 约 30 到 34
- 想用 FP4（NVFP4）格式的量化模型
- 一张卡同时跑两个服务
支持 MIG，能切成 2 个 24GB 的小卡
不太适合
- 单卡跑 70B 以上的模型
70B 级的 4-bit 刚好装下，再大就要看 72GB 版
- 以读长文档、跑批量请求为主
算力比 RTX 6000 Ada 低（BF16 约 258 对 364 TFLOPS）
买前须知
MIG 怎么切
MIG 能把这张卡切成 2 个 24GB 的实例，显存和算力各自独立，相当于两张 24GB 卡：每个实例放得下 4-bit 的 Qwen3.8 27B（16.5 GB），放不下它的 8-bit（29 GB）。
FP4 要新版软件
这一代工作站卡的架构编号是 sm_120，和数据中心的 Blackwell（sm_100）不同。vLLM 曾经只认后者，在这张卡上加载 NVFP4 的 MoE 模型会直接报错（issue #33416，现已修复）；用 NVFP4 版模型前先把 vLLM 升到新版本。
能直接替换 6000 Ada
双槽、长约 267 mm、300W、一个 16-pin 供电，这些都和 RTX 6000 Ada 一样，涡轮也是从挡板排风，老工作站换卡基本不用改机箱和电源。
和同档显卡对比
RTX PRO 5000 48GB 和 RTX 6000 Ada、GeForce RTX 4090 48GB、RTX PRO 5000 72GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | RTX PRO 5000 48GB | RTX 6000 Ada | GeForce RTX 4090 48GB | RTX PRO 5000 72GB |
|---|---|---|---|---|
| 显存 | 48 GB | 48 GB相同 | 48 GB相同 | 72 GB多 50% |
| 带宽 | 1,344 GB/s | 960 GB/s低 29% | 1,008 GB/s低 25% | 1,344 GB/s相同 |
| BF16 / FP16 算力 | 258 TFLOPS | 364 TFLOPS高 41% | 330 TFLOPS高 28% | 258 TFLOPS相同 |
| INT8 算力 | 516 TOPS | 729 TOPS高 41% | 661 TOPS高 28% | 516 TOPS相同 |
| Qwen3.8 27B 速度（2-bit） | 89.5 t/s | 66.3 t/s慢 26% | 69.3 t/s慢 23% | 89.5 t/s相同 |
| 最高可跑稠密模型（4-bit） | 79B | 79B相同 | 79B相同 | 122B多 54% |
| 功耗 | 300 W | 300 W相同 | 450 W高 50% | 300 W相同 |
| 接口 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 发布 | 2025-03 | 2022-09 | 2022-10 | 2025-12 |
| 闲鱼中位价 |
部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。
RTX PRO 5000 48GB 租用价格
RTX PRO 5000 48GB 按需租用每小时 ¥5.1 起（Vast.ai），每天用 8 小时约 ¥1,236/月。买一张（闲鱼中位价 ¥44,750）每天用 4、8、24 小时，分别约 6.3 年、3.1 年、1 年回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
 Vast.ai租用49分钟前更新 | ¥5.1/小时 | ¥618/月 | ¥1,236/月 | ¥3,707/月 | 去租 |
 RunPod租用49分钟前更新 | ¥5.5/小时 | ¥668/月 | ¥1,335/月 | ¥4,005/月 | 去租 |
 闲鱼3小时前更新 | ¥44,750 | 约 6.3 年回本电费 ¥24/月 | 约 3.1 年回本电费 ¥48/月 | 约 1 年回本电费 ¥145/月 | 去买 |
回本按中国大陆居民电价（每度 ¥0.66）和 300 W 额定功耗估算，不计残值和整机其他部分。
租用链接是推荐链接：通过它们注册时，我们可能获得佣金或平台额度。
其他市场价格
eBay
Amazon.jp作为 eBay 合作伙伴，你通过本页的 eBay 链接购买时，VRAMGlass 可能获得佣金，你支付的价格不变。