RTX PRO 4500 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX PRO 4500 Blackwell 是 NVIDIA 2025 年的 32GB 工作站卡,整卡 200W,適合長時間跑 27B 到 35B 的模型。認明有風扇的工作站版,伺服器版裝不進桌機。
閒魚
RTX PRO 4500 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX PRO 4500 完整規格
- 顯存32 GB · GDDR7 ECC
- 頻寬896 GB/s
- FP16 / BF16210.9 TFLOPS
- FP8 / INT8421.8 / 421.8 TOPS
- 位寬
- 256-bit
- 架構
- Blackwell (GB203)
- 核心
- 10,496
- 張量核心
- 328
- 生態
- CUDA
- 介面
- PCIe 5.0 x16
- NVLink
- 不支援
- 功耗
- 200 W
- 槽位
- 2
- 長度
- 267 mm
- 類型
- 工作站
- 發布日期
- 2025年3月18日
單張 RTX PRO 4500 能跑哪些模型?
單張 PRO 4500 平常用 4-bit,Qwen3.8 27B 近 40 tokens/s,30B 級 MoE 破百。8-bit 只放得下 27B 級,速度和上下文都要打折。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 142 | 128K | |
| 4.1 GB | 能跑 | 132.3 | 256K | |
| 4.7 GB | 能跑 | 116.6 | 256K | |
| 10.5 GB | 能跑 | 137.5 | 256K | |
| 11.8 GB | 能跑 | 52.7 | 256K | |
| 9.8 GB | 能跑 | 62.3 | 256K | |
| 11.9 GB | 能跑 | 148.2 | 198K | |
| 11.8 GB | 能跑 | 50.9 | 246K | |
| 12.3 GB | 能跑 | 158.4 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 113.8 | 128K | |
| 5.7 GB | 能跑 | 101.1 | 256K | |
| 7.1 GB | 能跑 | 82.8 | 256K | |
| 16.9 GB | 能跑 | 115.2 | 256K | |
| 16.8 GB | 能跑 | 38.1 | 245K | |
| 16.5 GB | 能跑 | 38.7 | 250K | |
| 18.3 GB | 能跑 | 130.2 | 198K | |
| 18.3 GB | 能跑 | 34.3 | 168K | |
| 22.1 GB | 能跑 | 133.2 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 74.3 | 128K | |
| 9.5 GB | 能跑 | 64.8 | 256K | |
| 12.7 GB | 能跑 | 49.4 | 256K | |
| 26.9 GB | 能跑 | 92 | 256K | |
| 28.6 GB | 能跑 | 23 | 69K | |
| 29 GB | 能跑 | 22.7 | 63K | |
| 31.8 GB | 能跑 | 103.7 | 26K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 34.6 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 單卡用 4-bit 跑 27B 到 31B,還要長上下文
Qwen3.8 27B 能開到約 250K,Gemma 4 31B 約 168K
- 想用 8-bit 跑 27B
Qwen3.8 27B 的 8-bit 約 23 tokens/s,上下文最多約 63K
- 整機電源和散熱有限
200W、一個 16-pin 供電、渦輪把熱風排出機殼
不太適合
- 看重生成速度
跑同一個模型,和二手 RTX 3090 差不多快
- 要用 8-bit 跑 31B 和 35B
Gemma 4 31B 的 8-bit 放不下,Qwen3.6 35B A3B 的 8-bit 得借用系統記憶體
- 要把一張卡切給多個服務
沒有 MIG,得改用 PRO 5000
買前須知
伺服器版是另一套規格
同名的 RTX PRO 4500 Blackwell Server Edition 也是 32GB,但它是被動散熱的單槽卡,165W,頻寬低一成,沒有影像輸出,只能裝在伺服器裡。挑商品時要認明 Workstation Edition,或是有渦輪風扇的版本。
四張滿載也只有 800W
滿載 200W,只比 5090 的三分之一多一點,用一個 16-pin 供電口。雙槽、長約 267 mm,渦輪從擋板排風;四張並排滿載,顯示卡總功耗也只有 800W。
運算能力數字有待官方確認
NVIDIA 和 PNY 的規格頁都沒有列出這張卡的 AI 運算能力,本站的 BF16、FP8 數字是依第三方彙整的資料換算而來,各家第三方之間也有出入,只能當作參考。生成速度只用頻寬估算,不受影響。
與同級顯卡比較
RTX PRO 4500 與 GeForce RTX 5090、Radeon AI PRO R9700、RTX PRO 5000 48GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | Radeon AI PRO R9700 | |||
|---|---|---|---|---|
| 顯存 | 32 GB | 32 GB相同 | 32 GB相同 | 48 GB多 50% |
| 頻寬 | 896 GB/s | 1,792 GB/s高 100% | 640 GB/s低 29% | 1,344 GB/s高 50% |
| BF16 / FP16 算力 | 211 TFLOPS | 419 TFLOPS高 99% | 191 TFLOPS低 9% | 258 TFLOPS高 22% |
| INT8 算力 | 422 TOPS | 838 TOPS高 99% | 383 TOPS低 9% | 516 TOPS高 22% |
| Qwen3.8 27B 速度(2-bit) | 62.3 t/s | 114.6 t/s快 84% | 45.6 t/s慢 27% | 89.5 t/s快 44% |
| 最高可跑稠密模型(4-bit) | 51B | 51B相同 | 51B相同 | 79B多 55% |
| 功耗 | 200 W | 575 W高 188% | 300 W高 50% | 300 W高 50% |
| 介面 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 5.0 x16 |
| 發布 | 2025-03 | 2025-01 | 2025-07 | 2025-03 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX PRO 4500 租用價格
RTX PRO 4500 在 RunPod 隨需租用每小時 NT$23.5,每天用 8 小時約 NT$5,716/月。買一張(閒魚中位價 NT$119,460)每天用 4、8、24 小時,分別約 3.6 年、1.8 年、7 個月回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$23.5/小時 | NT$2,858/月 | NT$5,716/月 | NT$17,148/月 | 去租 | |
| NT$119,460 | 約 3.6 年回本電費 NT$70/月 | 約 1.8 年回本電費 NT$140/月 | 約 7 個月回本電費 NT$419/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 200 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。