RTX PRO 4000 价格与二手行情:能部署哪些大模型?
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX PRO 4000 Blackwell 是 NVIDIA 2025 年的单槽 24GB 工作站卡,整卡 145W,跑 30B 级 MoE 约 100 tokens/s。挂单要分清 70W 的 SFF 版,那款慢三分之一。
闲鱼
RTX PRO 4000 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
RTX PRO 4000 完整规格
- 显存24 GB · GDDR7 ECC
- 带宽672 GB/s
- FP16 / BF16161.3 TFLOPS
- FP8 / INT8322.5 / 322.5 TOPS
- 位宽
- 192-bit
- 架构
- Blackwell (GB203)
- 核心
- 8,960
- 张量核心
- 280
- 生态
- CUDA
- 接口
- PCIe 5.0 x16
- NVLink
- 不支持
- 功耗
- 145 W
- 槽位
- 1
- 长度
- 241 mm
- 类型
- 工作站
- 发布日期
- 2025年3月18日
单张 RTX PRO 4000 能跑哪些模型?
单张 PRO 4000 用 4-bit 能装下 35B 以内的模型,紧的是上下文,Gemma 4 31B 只能开到约 66K。常喂长文档就退到 2-bit。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 112 | 128K | |
| 4.1 GB | 能跑 | 104 | 256K | |
| 4.7 GB | 能跑 | 91.2 | 256K | |
| 10.5 GB | 能跑 | 123 | 256K | |
| 11.8 GB | 能跑 | 40.3 | 192K | |
| 9.8 GB | 能跑 | 47.8 | 221K | |
| 11.9 GB | 能跑 | 134.6 | 198K | |
| 11.8 GB | 能跑 | 38.8 | 143K | |
| 12.3 GB | 能跑 | 145.9 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 88.9 | 128K | |
| 5.7 GB | 能跑 | 78.6 | 256K | |
| 7.1 GB | 能跑 | 64 | 256K | |
| 16.9 GB | 能跑 | 99.9 | 256K | |
| 16.8 GB | 能跑 | 29 | 117K | |
| 16.5 GB | 能跑 | 29.5 | 122K | |
| 18.3 GB | 能跑 | 115.3 | 115K | |
| 18.3 GB | 能跑 | 26.1 | 66K | |
| 22.1 GB | 能跑 | 118.5 | 123K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 57.3 | 128K | |
| 9.5 GB | 能跑 | 49.8 | 256K | |
| 12.7 GB | 能跑 | 37.7 | 256K | |
| 26.9 GB | 需卸载到内存 | 25.3 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸载到内存 | 22.4 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸载到内存 | 33.4 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
适合谁
适合
- 机箱只剩单槽位置,或者想在一台工作站里多插几张
单槽、145W、涡轮散热
- 主要跑激活参数小的 MoE
Qwen3.6 35B A3B 和 GLM 4.7 Flash 的 4-bit 都在 115 tokens/s 以上
- 要新卡、ECC 显存和 FP8、FP4 支持
不太适合
- 要长上下文
4-bit 的 Gemma 4 31B 只能开到约 66K,Qwen3.8 27B 约 122K
- 看重生成速度
Qwen3.8 27B 的 4-bit 约 30 tokens/s,二手 3090 约 40
- 想用 8-bit 跑 27B
Qwen3.8 27B 的 8-bit 要 29 GB,装不下
买前须知
一根 8-pin 就能供电
卡上是一个 16-pin 供电口,满载 145W。按 NVIDIA 的电源指南,一根 PCIe 8-pin 转 16-pin 的转接线最多给 150W,正好够用,所以电源只有 8-pin 线也带得动。
别和 SFF 版买混
还有一款 RTX PRO 4000 Blackwell SFF Edition,同样 24GB,但功耗只有 70W、半高双槽,带宽约为标准版的三分之二,跑模型也慢三分之一。挂单只写「PRO 4000 24G」时,要问清是不是 SFF。
要 CUDA 12.8 以上
这一代要 CUDA 12.8 以上才支持,PyTorch 从 2.7 起才有对应版本。老的 Docker 镜像、老版本 vLLM 在这张卡上跑不起来,先升级驱动和框架。
没有 MIG
RTX PRO 这一代的工作站卡,只有 5000 及以上的型号支持 MIG(把一张卡切成几份)。想把一张卡分给不同的人或服务用,这张卡做不到。
和同档显卡对比
RTX PRO 4000 和 GeForce RTX 3090、Arc Pro B60、RTX PRO 4500 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 24 GB | 24 GB相同 | 24 GB相同 | 32 GB多 33% |
| 带宽 | 672 GB/s | 936 GB/s高 39% | 456 GB/s低 32% | 896 GB/s高 33% |
| BF16 / FP16 算力 | 161 TFLOPS | 142 TFLOPS低 12% | 99 TFLOPS低 39% | 211 TFLOPS高 31% |
| INT8 算力 | 323 TOPS | 285 TOPS低 12% | 197 TOPS低 39% | 422 TOPS高 31% |
| Qwen3.8 27B 速度(2-bit) | 47.8 t/s | 64.8 t/s快 36% | 33.1 t/s慢 31% | 62.3 t/s快 30% |
| 最高可跑稠密模型(4-bit) | 37B | 37B相同 | 37B相同 | 51B多 38% |
| 功耗 | 145 W | 350 W高 141% | 200 W高 38% | 200 W高 38% |
| 卡间互联 | 不支持 | NVLink 112.5 GB/s | — | 不支持 |
| 接口 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x8 | PCIe 5.0 x16 |
| 发布 | 2025-03 | 2020-09 | 2025-08 | 2025-03 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
RTX PRO 4000 租用价格
RTX PRO 4000 按需租用每小时 ¥1.92 起(Vast.ai),每天用 8 小时约 ¥466/月。买一张(闲鱼中位价 ¥14,780)每天用 4、8、24 小时,分别约 5.6 年、2.8 年、11 个月回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥1.92/小时 | ¥233/月 | ¥466/月 | ¥1,398/月 | 去租 | |
| ¥3.81/小时 | ¥464/月 | ¥928/月 | ¥2,784/月 | 去租 | |
| ¥14,780 | 约 5.6 年回本电费 ¥12/月 | 约 2.8 年回本电费 ¥23/月 | 约 11 个月回本电费 ¥70/月 | 去买 |
回本按中国大陆居民电价(每度 ¥0.66)和 145 W 额定功耗估算,不计残值和整机其他部分。
租用链接是推荐链接:通过它们注册时,我们可能获得佣金或平台额度。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。