RTX PRO 4000 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX PRO 4000 Blackwell 是 NVIDIA 2025 年的單槽 24GB 工作站卡,整卡 145W,跑 30B 級 MoE 約 100 tokens/s。看賣場要分清 70W 的 SFF 版,那款慢三分之一。
閒魚
RTX PRO 4000 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX PRO 4000 完整規格
- 顯存24 GB · GDDR7 ECC
- 頻寬672 GB/s
- FP16 / BF16161.3 TFLOPS
- FP8 / INT8322.5 / 322.5 TOPS
- 位寬
- 192-bit
- 架構
- Blackwell (GB203)
- 核心
- 8,960
- 張量核心
- 280
- 生態
- CUDA
- 介面
- PCIe 5.0 x16
- NVLink
- 不支援
- 功耗
- 145 W
- 槽位
- 1
- 長度
- 241 mm
- 類型
- 工作站
- 發布日期
- 2025年3月18日
單張 RTX PRO 4000 能跑哪些模型?
單張 PRO 4000 用 4-bit 放得下 35B 以內的模型,吃緊的是上下文,Gemma 4 31B 只能開到約 66K。常丟長文件進去就退到 2-bit。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 112 | 128K | |
| 4.1 GB | 能跑 | 104 | 256K | |
| 4.7 GB | 能跑 | 91.2 | 256K | |
| 10.5 GB | 能跑 | 123 | 256K | |
| 11.8 GB | 能跑 | 40.3 | 192K | |
| 9.8 GB | 能跑 | 47.8 | 221K | |
| 11.9 GB | 能跑 | 134.6 | 198K | |
| 11.8 GB | 能跑 | 38.8 | 143K | |
| 12.3 GB | 能跑 | 145.9 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 88.9 | 128K | |
| 5.7 GB | 能跑 | 78.6 | 256K | |
| 7.1 GB | 能跑 | 64 | 256K | |
| 16.9 GB | 能跑 | 99.9 | 256K | |
| 16.8 GB | 能跑 | 29 | 117K | |
| 16.5 GB | 能跑 | 29.5 | 122K | |
| 18.3 GB | 能跑 | 115.3 | 115K | |
| 18.3 GB | 能跑 | 26.1 | 66K | |
| 22.1 GB | 能跑 | 118.5 | 123K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 57.3 | 128K | |
| 9.5 GB | 能跑 | 49.8 | 256K | |
| 12.7 GB | 能跑 | 37.7 | 256K | |
| 26.9 GB | 需卸載到記憶體 | 25.3 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸載到記憶體 | 22.4 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 33.4 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 機殼只剩單槽空間,或想在一台工作站裡多插幾張
單槽、145W、渦輪散熱
- 主要跑啟用參數小的 MoE
Qwen3.6 35B A3B 和 GLM 4.7 Flash 的 4-bit 都在 115 tokens/s 以上
- 想要新卡、ECC 顯示記憶體,以及 FP8、FP4 支援
不太適合
- 需要長上下文
4-bit 的 Gemma 4 31B 只能開到約 66K,Qwen3.8 27B 約 122K
- 看重生成速度
Qwen3.8 27B 的 4-bit 約 30 tokens/s,二手 3090 約 40
- 想用 8-bit 跑 27B
Qwen3.8 27B 的 8-bit 需要 29 GB,放不下
買前須知
一條 8-pin 就能供電
卡上是一個 16-pin 供電口,滿載 145W。依 NVIDIA 的電源指南,一條 PCIe 8-pin 轉 16-pin 的轉接線最多可供 150W,剛好夠用,所以電源供應器只有 8-pin 線也推得動。
別和 SFF 版搞混
另有一款 RTX PRO 4000 Blackwell SFF Edition,同樣是 24GB,但功耗只有 70W、半高雙槽,頻寬約為標準版的三分之二,跑模型也慢三分之一。商品只寫「PRO 4000 24G」時,要問清楚是不是 SFF。
需要 CUDA 12.8 以上
這一代要 CUDA 12.8 以上才支援,PyTorch 也要從 2.7 起才有對應版本。舊的 Docker 映像檔、舊版 vLLM 在這張卡上跑不起來,請先更新驅動程式和框架。
沒有 MIG
RTX PRO 這一代的工作站卡,只有 5000 以上的型號支援 MIG(把一張卡切成好幾份)。想把一張卡分給不同的人或服務使用,這張卡辦不到。
與同級顯卡比較
RTX PRO 4000 與 GeForce RTX 3090、Arc Pro B60、RTX PRO 4500 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 24 GB | 24 GB相同 | 24 GB相同 | 32 GB多 33% |
| 頻寬 | 672 GB/s | 936 GB/s高 39% | 456 GB/s低 32% | 896 GB/s高 33% |
| BF16 / FP16 算力 | 161 TFLOPS | 142 TFLOPS低 12% | 99 TFLOPS低 39% | 211 TFLOPS高 31% |
| INT8 算力 | 323 TOPS | 285 TOPS低 12% | 197 TOPS低 39% | 422 TOPS高 31% |
| Qwen3.8 27B 速度(2-bit) | 47.8 t/s | 64.8 t/s快 36% | 33.1 t/s慢 31% | 62.3 t/s快 30% |
| 最高可跑稠密模型(4-bit) | 37B | 37B相同 | 37B相同 | 51B多 38% |
| 功耗 | 145 W | 350 W高 141% | 200 W高 38% | 200 W高 38% |
| 卡間互連 | 不支援 | NVLink 112.5 GB/s | — | 不支援 |
| 介面 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x8 | PCIe 5.0 x16 |
| 發布 | 2025-03 | 2020-09 | 2025-08 | 2025-03 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX PRO 4000 租用價格
RTX PRO 4000 隨需租用每小時 NT$9.3 起(Vast.ai),每天用 8 小時約 NT$2,273/月。買一張(閒魚中位價 NT$72,066)每天用 4、8、24 小時,分別約 5.5 年、2.8 年、11 個月回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$9.3/小時 | NT$1,136/月 | NT$2,273/月 | NT$6,819/月 | 去租 | |
| NT$18.6/小時 | NT$2,263/月 | NT$4,525/月 | NT$13,576/月 | 去租 | |
| NT$72,066 | 約 5.5 年回本電費 NT$51/月 | 約 2.8 年回本電費 NT$101/月 | 約 11 個月回本電費 NT$304/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 145 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。