本站含聯盟連結。身為 eBay 合作夥伴,你透過本站連結購買時,我們可能獲得佣金。身為 eBay 合作夥伴,我們可能獲得佣金。了解詳情

收錄顯卡57價格追蹤49 天近 24h 價格資料43,400 筆24h 降價最多RTX PRO 5000 72GB-15.9%24h 漲價最多A100 80GB PCIe+9.4%更新於
NT$ TWD

RTX PRO 4000 價格與中古行情:能部署哪些大型語言模型?

RTX PRO 4000 Blackwell 是 NVIDIA 2025 年的單槽 24GB 工作站卡,整卡 145W,跑 30B 級 MoE 約 100 tokens/s。看賣場要分清 70W 的 SFF 版,那款慢三分之一。

閒魚

RTX PRO 4000 價格走勢

目前NT$72,066-1.46%
閒魚
價格更新於
NT$99,859NT$84,671NT$69,482NT$54,293NT$39,105
最低價 NT$47,784最高價 NT$91,180
9月4日9月27日10月21日

部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。

RTX PRO 4000 完整規格

  • 顯存24 GB · GDDR7 ECC
  • 頻寬672 GB/s
  • FP16 / BF16161.3 TFLOPS
  • FP8 / INT8322.5 / 322.5 TOPS
位寬
192-bit
架構
Blackwell (GB203)
核心
8,960
張量核心
280
生態
CUDA
介面
PCIe 5.0 x16
NVLink
不支援
功耗
145 W
槽位
1
長度
241 mm
類型
工作站
發布日期
2025年3月18日

單張 RTX PRO 4000 能跑哪些模型?

單張 PRO 4000 用 4-bit 放得下 35B 以內的模型,吃緊的是上下文,Gemma 4 31B 只能開到約 66K。常丟長文件進去就退到 2-bit。

模型大小能否執行速度 t/s最大上下文
Gemma 4 E4B8B5 GB能跑88.9128K
Qwen3.5 9B9.7B5.7 GB能跑78.6256K
Gemma 4 12B12B7.1 GB能跑64256K
Gemma 4 26B A4B25.2B(啟用 3.8B)16.9 GB能跑99.9256K
Qwen3.6 27B27.8B16.8 GB能跑29117K
Qwen3.8 27B27.8B16.5 GB能跑29.5122K
GLM 4.7 Flash30B(啟用 3B)18.3 GB能跑115.3115K
Gemma 4 31B30.7B18.3 GB能跑26.166K
Qwen3.6 35B A3B36B(啟用 3B)22.1 GB能跑118.5123K

能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。

需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。

跑不了這一檔量化下單卡放不下,借記憶體也不行。

詳細計算規則可在資料方法頁查看。

適合誰

適合

  1. 機殼只剩單槽空間,或想在一台工作站裡多插幾張

    單槽、145W、渦輪散熱

  2. 主要跑啟用參數小的 MoE

    Qwen3.6 35B A3B 和 GLM 4.7 Flash 的 4-bit 都在 115 tokens/s 以上

  3. 想要新卡、ECC 顯示記憶體,以及 FP8、FP4 支援

不太適合

  1. 需要長上下文

    4-bit 的 Gemma 4 31B 只能開到約 66K,Qwen3.8 27B 約 122K

  2. 看重生成速度

    Qwen3.8 27B 的 4-bit 約 30 tokens/s,二手 3090 約 40

  3. 想用 8-bit 跑 27B

    Qwen3.8 27B 的 8-bit 需要 29 GB,放不下

買前須知

  1. 一條 8-pin 就能供電

    卡上是一個 16-pin 供電口,滿載 145W。依 NVIDIA 的電源指南,一條 PCIe 8-pin 轉 16-pin 的轉接線最多可供 150W,剛好夠用,所以電源供應器只有 8-pin 線也推得動。

  2. 別和 SFF 版搞混

    另有一款 RTX PRO 4000 Blackwell SFF Edition,同樣是 24GB,但功耗只有 70W、半高雙槽,頻寬約為標準版的三分之二,跑模型也慢三分之一。商品只寫「PRO 4000 24G」時,要問清楚是不是 SFF。

  3. 需要 CUDA 12.8 以上

    這一代要 CUDA 12.8 以上才支援,PyTorch 也要從 2.7 起才有對應版本。舊的 Docker 映像檔、舊版 vLLM 在這張卡上跑不起來,請先更新驅動程式和框架。

  4. 沒有 MIG

    RTX PRO 這一代的工作站卡,只有 5000 以上的型號支援 MIG(把一張卡切成好幾份)。想把一張卡分給不同的人或服務使用,這張卡辦不到。

與同級顯卡比較

RTX PRO 4000 與 GeForce RTX 3090、Arc Pro B60、RTX PRO 4500 的價格、顯存、頻寬、算力與本地大模型速度比較。

規格RTX PRO 4000GeForce RTX 3090Arc Pro B60RTX PRO 4500
顯存
24 GB
24 GB相同
24 GB相同
32 GB多 33%
頻寬
672 GB/s
936 GB/s高 39%
456 GB/s低 32%
896 GB/s高 33%
BF16 / FP16 算力
161 TFLOPS
142 TFLOPS低 12%
99 TFLOPS低 39%
211 TFLOPS高 31%
INT8 算力
323 TOPS
285 TOPS低 12%
197 TOPS低 39%
422 TOPS高 31%
Qwen3.8 27B 速度(2-bit)
47.8 t/s
64.8 t/s快 36%
33.1 t/s慢 31%
62.3 t/s快 30%
最高可跑稠密模型(4-bit)
37B
37B相同
37B相同
51B多 38%
功耗
145 W
350 W高 141%
200 W高 38%
200 W高 38%
卡間互連
不支援
NVLink 112.5 GB/s
—
不支援
介面
PCIe 5.0 x16
PCIe 4.0 x16
PCIe 5.0 x8
PCIe 5.0 x16
發布
2025-03
2020-09
2025-08
2025-03
閒魚中位價

部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。

RTX PRO 4000 租用價格

RTX PRO 4000 隨需租用每小時 NT$9.3 起(Vast.ai),每天用 8 小時約 NT$2,273/月。買一張(閒魚中位價 NT$72,066)每天用 4、8、24 小時,分別約 5.5 年、2.8 年、11 個月回本。

方案價格每天 4 小時每天 8 小時每天 24 小時去查看
Vast.ai租用50 分鐘前更新NT$9.3/小時NT$1,136/月NT$2,273/月NT$6,819/月去租
RunPod租用50 分鐘前更新NT$18.6/小時NT$2,263/月NT$4,525/月NT$13,576/月去租
閒魚3 小時前更新NT$72,066約 5.5 年回本電費 NT$51/月約 2.8 年回本電費 NT$101/月約 11 個月回本電費 NT$304/月去買

回本依台灣住宅平均電價(每度 NT$2.87)和 145 W 額定功耗估算,不計殘值和整機其他部分。

租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。

其他市場價格

eBay · 美國
NT$97,488
8 筆掛單
去查看
Amazon.jp · 日本
NT$135,078
7 筆掛單
去查看

身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。