本站含聯盟連結。身為 eBay 合作夥伴,你透過本站連結購買時,我們可能獲得佣金。身為 eBay 合作夥伴,我們可能獲得佣金。了解詳情

收錄顯卡57價格追蹤49 天近 24h 價格資料43,400 筆24h 降價最多RTX PRO 5000 72GB-15.9%24h 漲價最多A100 80GB PCIe+9.4%更新於
NT$ TWD

RTX PRO 5000 72GB 價格與中古行情:能部署哪些大型語言模型?

RTX PRO 5000 Blackwell 72GB 是 NVIDIA 2025 年底出貨的工作站卡,單卡放得下 gpt-oss 120B。兩個版本外觀幾乎相同,到手用 nvidia-smi 確認是 72GB。

閒魚

RTX PRO 5000 72GB 價格走勢

目前NT$237,653-15.86%
閒魚
價格更新於
NT$407,577NT$346,656NT$285,734NT$224,813NT$163,892
最低價 NT$198,704最高價 NT$341,315
9月4日9月27日10月21日

部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。

RTX PRO 5000 72GB 完整規格

  • 顯存72 GB · GDDR7 ECC
  • 頻寬1,344 GB/s
  • FP16 / BF16258 TFLOPS
  • FP8 / INT8516 / 516 TOPS
位寬
384-bit
架構
Blackwell (GB202)
核心
14,080
張量核心
440
生態
CUDA
介面
PCIe 5.0 x16
NVLink
不支援
功耗
300 W
槽位
2
長度
267 mm
類型
工作站
發布日期
2025年12月18日

單張 RTX PRO 5000 72GB 能跑哪些模型?

單張 PRO 5000 72GB 能跑 70B 級和 gpt-oss 120B 的 4-bit,35B 以內預設用 8-bit。還能用 MIG 切成兩個 36GB,讓兩個人分著用。

模型大小能否執行速度 t/s最大上下文
Gemma 4 26B A4B25.2B(啟用 3.8B)16.9 GB能跑136256K
Qwen3.6 27B27.8B16.8 GB能跑55.7256K
Qwen3.8 27B27.8B16.5 GB能跑56.6256K
GLM 4.7 Flash30B(啟用 3B)18.3 GB能跑149.5198K
Gemma 4 31B30.7B18.3 GB能跑50.3256K
Qwen3.6 35B A3B36B(啟用 3B)22.1 GB能跑152.2256K

能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。

需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。

跑不了這一檔量化下單卡放不下,借記憶體也不行。

詳細計算規則可在資料方法頁查看。

多張 RTX PRO 5000 72GB 能跑哪些模型?

兩張 PRO 5000 72GB(144GB)就能用 4-bit 跑 Qwen3.8 Flash Next,約 114 tokens/s;DeepSeek V4 Flash 的 4-bit 要 4 張。沒有 NVLink。

模型大小需要幾張總價總顯示記憶體速度 t/s總功耗
Qwen3.8 Flash Next176B(啟用 6B)111.3 GB2 張NT$475,306144 GB114.1600 W
DeepSeek V4 Flash284B(啟用 13B)155.1 GB4 張NT$950,611288 GB85.61,200 W
Hy3295B(啟用 21B)182.2 GB4 張NT$950,611288 GB44.71,200 W
GLM 5.3 Flash320B(啟用 18B)199.7 GB4 張NT$950,611288 GB63.41,200 W
GLM 5.3744B(啟用 40B)467.3 GB8 張NT$1,901,222576 GB32.82,400 W
Hy4 preview770B(啟用 49B)467.3 GB8 張NT$1,901,222576 GB28.62,400 W
Muse Spark Open816B(啟用 42B)505.5 GB8 張NT$1,901,222576 GB32.12,400 W
DeepSeek V4.1 Flash763B(啟用 8 / 16B)510.3 GB8 張Engram 放記憶體NT$1,901,222576 GB55.52,400 W

標「Engram 放記憶體」的另需約 203 GB 系統記憶體。詳細計算規則可在資料方法頁查看。

適合誰

適合

  1. 單卡跑 70B 級稠密模型

    Llama 3.3 70B 的 4-bit 在 48GB 卡上只能開很短的上下文,72GB 寬裕得多

  2. 單卡跑 gpt-oss 120B

    它的專家權重官方就是 4-bit 格式(MXFP4),72GB 放得下還有餘裕

  3. 整機只能分給顯示卡 300W,又要 70GB 以上的顯示記憶體

    雙槽渦輪,功耗和 48GB 版相同

不太適合

  1. 單卡跑 2-bit 的 Qwen3.8 Flash Next

    它需要 78.9 GB,比 72GB 多出一截,得用兩張,或換成 96GB 的 PRO 6000

  2. 只跑 35B 以內的模型

    速度和 48GB 版完全一樣,多出的 VRAM 用不上

  3. 想要更快

    跑同一個模型比 RTX PRO 6000 慢約四分之一

買前須知

  1. 確認是 72GB 版

    72GB 版到 2025 年 12 月才開始由合作廠商供貨,型號名稱和外觀與 48GB 版幾乎一樣。商品頁標的容量不能全信,拿到後用 nvidia-smi 看顯示記憶體總量是不是約 72GB。

  2. 記憶體位寬不是 512-bit

    部分零售頁面把 72GB 版寫成 512-bit,這是錯的:512-bit 搭配 3GB 顆粒只湊得出 48GB 或 96GB,湊不出 72GB。它實際上是 384-bit,頻寬和 48GB 版一樣,別以為它比 48GB 版快。

  3. MIG 切法不一樣了

    72GB 版的 MIG 能切成兩個 36GB,48GB 版只能切成兩個 24GB。36GB 剛好跨過 27B 級 8-bit 的門檻:每個執行個體都放得下 Qwen3.8 27B 的 8-bit(29 GB),48GB 版的 24GB 執行個體則放不下。

與同級顯卡比較

RTX PRO 5000 72GB 與 RTX PRO 5000 48GB、RTX PRO 6000、A100 80GB PCIe 的價格、顯存、頻寬、算力與本地大模型速度比較。

規格RTX PRO 5000 72GBRTX PRO 5000 48GBRTX PRO 6000A100 80GB PCIe
顯存
72 GB
48 GB少 33%
96 GB多 33%
80 GB多 11%
頻寬
1,344 GB/s
1,344 GB/s相同
1,792 GB/s高 33%
1,935 GB/s高 44%
BF16 / FP16 算力
258 TFLOPS
258 TFLOPS相同
500 TFLOPS高 94%
312 TFLOPS高 21%
INT8 算力
516 TOPS
516 TOPS相同
1,000 TOPS高 94%
624 TOPS高 21%
Qwen3.8 27B 速度(2-bit)
89.5 t/s
89.5 t/s相同
114.6 t/s快 28%
122.2 t/s快 37%
最高可跑稠密模型(4-bit)
122B
79B少 35%
165B多 35%
136B多 11%
功耗
300 W
300 W相同
600 W高 100%
300 W相同
卡間互連
不支援
不支援
不支援
NVLink 600 GB/s
介面
PCIe 5.0 x16
PCIe 5.0 x16
PCIe 5.0 x16
PCIe 4.0 x16
發布
2025-12
2025-03
2025-03
2021-06
閒魚中位價

部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。

其他市場價格

eBay · 美國
NT$349,820
3 筆掛單
去查看
Amazon.jp · 日本
暫無
暫無掛單
去查看

身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。