RTX PRO 5000 72GB 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX PRO 5000 Blackwell 72GB 是 NVIDIA 2025 年底出貨的工作站卡,單卡放得下 gpt-oss 120B。兩個版本外觀幾乎相同,到手用 nvidia-smi 確認是 72GB。
閒魚
RTX PRO 5000 72GB 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX PRO 5000 72GB 完整規格
- 顯存72 GB · GDDR7 ECC
- 頻寬1,344 GB/s
- FP16 / BF16258 TFLOPS
- FP8 / INT8516 / 516 TOPS
- 位寬
- 384-bit
- 架構
- Blackwell (GB202)
- 核心
- 14,080
- 張量核心
- 440
- 生態
- CUDA
- 介面
- PCIe 5.0 x16
- NVLink
- 不支援
- 功耗
- 300 W
- 槽位
- 2
- 長度
- 267 mm
- 類型
- 工作站
- 發布日期
- 2025年12月18日
單張 RTX PRO 5000 72GB 能跑哪些模型?
單張 PRO 5000 72GB 能跑 70B 級和 gpt-oss 120B 的 4-bit,35B 以內預設用 8-bit。還能用 MIG 切成兩個 36GB,讓兩個人分著用。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 10.5 GB | 能跑 | 155.9 | 256K | |
| 11.8 GB | 能跑 | 76.3 | 256K | |
| 9.8 GB | 能跑 | 89.5 | 256K | |
| 11.9 GB | 能跑 | 164.9 | 198K | |
| 11.8 GB | 能跑 | 73.7 | 256K | |
| 12.3 GB | 能跑 | 173.1 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 16.9 GB | 能跑 | 136 | 256K | |
| 16.8 GB | 能跑 | 55.7 | 256K | |
| 16.5 GB | 能跑 | 56.6 | 256K | |
| 18.3 GB | 能跑 | 149.5 | 198K | |
| 18.3 GB | 能跑 | 50.3 | 256K | |
| 22.1 GB | 能跑 | 152.2 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 26.9 GB | 能跑 | 113.4 | 256K | |
| 28.6 GB | 能跑 | 34 | 256K | |
| 29 GB | 能跑 | 33.6 | 256K | |
| 31.8 GB | 能跑 | 125 | 198K | |
| 32.6 GB | 能跑 | 29.6 | 256K | |
| 36.9 GB | 能跑 | 128.7 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 RTX PRO 5000 72GB 能跑哪些模型?
兩張 PRO 5000 72GB(144GB)就能用 4-bit 跑 Qwen3.8 Flash Next,約 114 tokens/s;DeepSeek V4 Flash 的 4-bit 要 4 張。沒有 NVLink。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 張 | NT$475,306 | 144 GB | 130 | 600 W | |
| 96.8 GB | 2 張 | NT$475,306 | 144 GB | 110 | 600 W | |
| 107.2 GB | 2 張 | NT$475,306 | 144 GB | 58.1 | 600 W | |
| 108.7 GB | 2 張 | NT$475,306 | 144 GB | 92.5 | 600 W | |
| 253.9 GB | 4 張 | NT$950,611 | 288 GB | 51.7 | 1,200 W | |
| 307.2 GB估 | 8 張 | NT$1,901,222 | 576 GB | 39.9 | 2,400 W | |
| 311.2 GB | 8 張 | NT$1,901,222 | 576 GB | 46.6 | 2,400 W | |
| 339.5 GB | 8 張 | NT$1,901,222 | 576 GB | 61.2 | 2,400 W | |
| 340.5 GB | 8 張 | NT$1,901,222 | 576 GB | 61.1 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 2 張 | NT$475,306 | 144 GB | 114.1 | 600 W | |
| 155.1 GB | 4 張 | NT$950,611 | 288 GB | 85.6 | 1,200 W | |
| 182.2 GB | 4 張 | NT$950,611 | 288 GB | 44.7 | 1,200 W | |
| 199.7 GB | 4 張 | NT$950,611 | 288 GB | 63.4 | 1,200 W | |
| 467.3 GB | 8 張 | NT$1,901,222 | 576 GB | 32.8 | 2,400 W | |
| 467.3 GB | 8 張 | NT$1,901,222 | 576 GB | 28.6 | 2,400 W | |
| 505.5 GB | 8 張 | NT$1,901,222 | 576 GB | 32.1 | 2,400 W | |
| 510.3 GB | 8 張Engram 放記憶體 | NT$1,901,222 | 576 GB | 55.5 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 張 | NT$950,611 | 288 GB | 83.5 | 1,200 W | |
| 188.2 GB | 4 張 | NT$950,611 | 288 GB | 88.4 | 1,200 W | |
| 317.7 GB | 8 張 | NT$1,901,222 | 576 GB | 31.5 | 2,400 W | |
| 341 GB | 8 張 | NT$1,901,222 | 576 GB | 42.6 | 2,400 W |
標「Engram 放記憶體」的另需約 203 GB 系統記憶體。詳細計算規則可在資料方法頁查看。
適合誰
適合
- 單卡跑 70B 級稠密模型
Llama 3.3 70B 的 4-bit 在 48GB 卡上只能開很短的上下文,72GB 寬裕得多
- 單卡跑 gpt-oss 120B
它的專家權重官方就是 4-bit 格式(MXFP4),72GB 放得下還有餘裕
- 整機只能分給顯示卡 300W,又要 70GB 以上的顯示記憶體
雙槽渦輪,功耗和 48GB 版相同
不太適合
- 單卡跑 2-bit 的 Qwen3.8 Flash Next
它需要 78.9 GB,比 72GB 多出一截,得用兩張,或換成 96GB 的 PRO 6000
- 只跑 35B 以內的模型
速度和 48GB 版完全一樣,多出的 VRAM 用不上
- 想要更快
跑同一個模型比 RTX PRO 6000 慢約四分之一
買前須知
確認是 72GB 版
72GB 版到 2025 年 12 月才開始由合作廠商供貨,型號名稱和外觀與 48GB 版幾乎一樣。商品頁標的容量不能全信,拿到後用 nvidia-smi 看顯示記憶體總量是不是約 72GB。
記憶體位寬不是 512-bit
部分零售頁面把 72GB 版寫成 512-bit,這是錯的:512-bit 搭配 3GB 顆粒只湊得出 48GB 或 96GB,湊不出 72GB。它實際上是 384-bit,頻寬和 48GB 版一樣,別以為它比 48GB 版快。
MIG 切法不一樣了
72GB 版的 MIG 能切成兩個 36GB,48GB 版只能切成兩個 24GB。36GB 剛好跨過 27B 級 8-bit 的門檻:每個執行個體都放得下 Qwen3.8 27B 的 8-bit(29 GB),48GB 版的 24GB 執行個體則放不下。
與同級顯卡比較
RTX PRO 5000 72GB 與 RTX PRO 5000 48GB、RTX PRO 6000、A100 80GB PCIe 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 72 GB | 48 GB少 33% | 96 GB多 33% | 80 GB多 11% |
| 頻寬 | 1,344 GB/s | 1,344 GB/s相同 | 1,792 GB/s高 33% | 1,935 GB/s高 44% |
| BF16 / FP16 算力 | 258 TFLOPS | 258 TFLOPS相同 | 500 TFLOPS高 94% | 312 TFLOPS高 21% |
| INT8 算力 | 516 TOPS | 516 TOPS相同 | 1,000 TOPS高 94% | 624 TOPS高 21% |
| Qwen3.8 27B 速度(2-bit) | 89.5 t/s | 89.5 t/s相同 | 114.6 t/s快 28% | 122.2 t/s快 37% |
| 最高可跑稠密模型(4-bit) | 122B | 79B少 35% | 165B多 35% | 136B多 11% |
| 功耗 | 300 W | 300 W相同 | 600 W高 100% | 300 W相同 |
| 卡間互連 | 不支援 | 不支援 | 不支援 | NVLink 600 GB/s |
| 介面 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 發布 | 2025-12 | 2025-03 | 2025-03 | 2021-06 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。