RTX PRO 6000 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX PRO 6000 Blackwell 是 NVIDIA 2025 年的 96GB 旗艦工作站卡,單卡用 2-bit 跑 176B 的 MoE,約 149 tokens/s。分工作站、Max-Q、伺服器三版,買前要分清。
閒魚
RTX PRO 6000 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX PRO 6000 完整規格
- 顯存96 GB · GDDR7 ECC
- 頻寬1,792 GB/s
- FP16 / BF16500 TFLOPS
- FP8 / INT81,000 / 1,000 TOPS
- 位寬
- 512-bit
- 架構
- Blackwell (GB202)
- 核心
- 24,064
- 張量核心
- 752
- 生態
- CUDA
- 介面
- PCIe 5.0 x16
- NVLink
- 不支援
- 功耗
- 600 W
- 供電介面
- 16-pin 12V-2x6
- 槽位
- 2
- 長度
- 304 mm
- 類型
- 工作站
- 發布日期
- 2025年3月18日
單張 RTX PRO 6000 能跑哪些模型?
單張 PRO 6000 能用 2-bit 跑 Qwen3.8 Flash Next 和 DeepSeek V4 Flash;換 4-bit 要借用系統記憶體,會掉到二十左右。35B 以內用 8-bit 綽綽有餘。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 10.5 GB | 能跑 | 167 | 256K | |
| 11.8 GB | 能跑 | 98.2 | 256K | |
| 9.8 GB | 能跑 | 114.6 | 256K | |
| 11.9 GB | 能跑 | 174.7 | 198K | |
| 11.8 GB | 能跑 | 95 | 256K | |
| 12.3 GB | 能跑 | 181.6 | 256K | |
| 78.9 GB | 能跑 | 148.6 | 256K | |
| 96.8 GB | 能跑 | 125.9 | 918K | |
| 107.2 GB | 需卸載到記憶體 | 10.8 | 256K | |
| 108.7 GB | 需卸載到記憶體 | 15.6 | 1M |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 16.9 GB | 能跑 | 149.5 | 256K | |
| 16.8 GB | 能跑 | 72.3 | 256K | |
| 16.5 GB | 能跑 | 73.5 | 256K | |
| 18.3 GB | 能跑 | 161.5 | 198K | |
| 18.3 GB | 能跑 | 65.5 | 256K | |
| 22.1 GB | 能跑 | 163.9 | 256K | |
| 111.3 GB | 需卸載到記憶體 | 21 | 256K | |
| 155.1 GB | 需卸載到記憶體 | 13.1 | 1M | |
| 182.2 GB | 需卸載到記憶體 | 6.5 | 256K | |
| 199.7 GB | 需卸載到記憶體 | 8.8 | 1M |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 26.9 GB | 能跑 | 128.4 | 256K | |
| 28.6 GB | 能跑 | 44.6 | 256K | |
| 29 GB | 能跑 | 44 | 256K | |
| 31.8 GB | 能跑 | 139.4 | 198K | |
| 32.6 GB | 能跑 | 39 | 256K | |
| 36.9 GB | 能跑 | 142.8 | 256K | |
| 188.2 GB | 需卸載到記憶體 | 13 | 256K | |
| 161.9 GB | 需卸載到記憶體 | 12.6 | 1M | |
| 317.7 GB | 需卸載到記憶體 | 3.8 | 256K | |
| 341 GB | 需卸載到記憶體 | 5.2 | 1M |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 RTX PRO 6000 能跑哪些模型?
兩張 PRO 6000(192GB)能用 4-bit 跑 DeepSeek V4 Flash,約 100 tokens/s;四張起能跑兆級參數模型的 2-bit。不支援 NVLink。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 1 張 | NT$609,491 | 96 GB | 144 | 600 W | |
| 96.8 GB | 2 張 | NT$1,218,982 | 192 GB | 125.1 | 1,200 W | |
| 107.2 GB | 2 張 | NT$1,218,982 | 192 GB | 71 | 1,200 W | |
| 108.7 GB | 2 張 | NT$1,218,982 | 192 GB | 107.7 | 1,200 W | |
| 253.9 GB | 4 張 | NT$2,437,964 | 384 GB | 63.8 | 2,400 W | |
| 307.2 GB估 | 4 張 | NT$2,437,964 | 384 GB | 50 | 2,400 W | |
| 311.2 GB | 4 張 | NT$2,437,964 | 384 GB | 57.9 | 2,400 W | |
| 339.5 GB | 4 張 | NT$2,437,964 | 384 GB | 74.5 | 2,400 W | |
| 340.5 GB | 4 張 | NT$2,437,964 | 384 GB | 74.3 | 2,400 W | |
| 638.4 GB估 | 8 張 | NT$4,875,929 | 768 GB | 52.6 | 4,800 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 2 張 | NT$1,218,982 | 192 GB | 129 | 1,200 W | |
| 155.1 GB | 2 張 | NT$1,218,982 | 192 GB | 100.7 | 1,200 W | |
| 182.2 GB | 4 張 | NT$2,437,964 | 384 GB | 55.7 | 2,400 W | |
| 199.7 GB | 4 張 | NT$2,437,964 | 384 GB | 76.9 | 2,400 W | |
| 467.3 GB | 8 張 | NT$4,875,929 | 768 GB | 41.6 | 4,800 W | |
| 467.3 GB | 8 張 | NT$4,875,929 | 768 GB | 36.5 | 4,800 W | |
| 505.5 GB | 8 張 | NT$4,875,929 | 768 GB | 40.7 | 4,800 W | |
| 510.3 GB | 4 張Engram 放記憶體 | NT$2,437,964 | 384 GB | 68.1 | 2,400 W | |
| 583.7 GB | 8 張 | NT$4,875,929 | 768 GB | 52.3 | 4,800 W | |
| 583.7 GB | 8 張 | NT$4,875,929 | 768 GB | 52.3 | 4,800 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 2 張 | NT$1,218,982 | 192 GB | 98.4 | 1,200 W | |
| 188.2 GB | 4 張 | NT$2,437,964 | 384 GB | 103.5 | 2,400 W | |
| 317.7 GB | 4 張 | NT$2,437,964 | 384 GB | 40 | 2,400 W | |
| 341 GB | 4 張 | NT$2,437,964 | 384 GB | 53.2 | 2,400 W | |
| 594.5 GB | 8 張 | NT$4,875,929 | 768 GB | 51.6 | 4,800 W | |
| 594.5 GB | 8 張 | NT$4,875,929 | 768 GB | 51.6 | 4,800 W |
標「Engram 放記憶體」的另需約 203 GB 系統記憶體。詳細計算規則可在資料方法頁查看。
適合誰
適合
- 單卡跑 2026 年的大型 MoE
2-bit 的 Qwen3.8 Flash Next 約 149 tokens/s,DeepSeek V4 Flash 約 126、上下文能開到約 918K
- 27B 到 35B 的模型要跑最快
Qwen3.8 27B 的 4-bit 約 74 tokens/s,8-bit 約 44
- 一張卡分給幾個人或幾個服務
MIG 最多切成 4 個 24GB 執行個體
- 想在一台塔式工作站裡放進 384GB 顯示記憶體
四張 300W 的 Max-Q 版
不太適合
- 要用 4-bit 跑大型 MoE
Qwen3.8 Flash Next 的 4-bit 得把專家放進系統記憶體,只有約 21 tokens/s;128GB 的 DGX Spark 能整個放下,反而有約 43
- 多卡想用 NVLink
這一代所有版本都沒有,只能走 PCIe 5.0
- 工作站版想多張緊挨著插
600W,風扇會把熱風吹回機殼內,多卡要改用 Max-Q 版
買前須知
先分清三個版本
三個版本都是 96GB,商品頁常常只寫「PRO 6000 96G」,但用途差很多:工作站版 600W、雙軸流風扇,卡身比標準全高卡高出一截;Max-Q 版 300W、渦輪、標準尺寸,顯示記憶體和頻寬與工作站版相同;伺服器版採被動散熱,功耗可在 400W 到 600W 之間調整,頻寬比另外兩版低約一成,影像輸出預設關閉。
600W 的供電
工作站版靠一個 16-pin(12V-2x6)接頭吃滿 600W,最好使用電源原生的 12V-2x6 線。若用轉接線,4 條 PCIe 8-pin 都要插滿:轉接線沒插滿時,會告訴顯示卡可用功率不足(只插一條時只回報 150W),顯示卡就會無法開機。
sm_120 不是 B200
這張卡的架構編號是 sm_120,和資料中心的 B200(sm_100)不同;新模型剛發表時,vLLM 常常要等適配,或套用社群修補程式,才能在它上面跑。例如 GitHub 使用者 Infatoshi 為了用兩張 PRO 6000 跑 DeepSeek V4 Flash,整理了 13 個修補程式,原因是 DeepGEMM 還沒有支援 sm_120 的 kernel。
與同級顯卡比較
RTX PRO 6000 與 GeForce RTX 5090、H100 PCIe、RTX PRO 6000D 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 96 GB | 32 GB少 67% | 80 GB少 17% | 84 GB少 13% |
| 頻寬 | 1,792 GB/s | 1,792 GB/s相同 | 2,000 GB/s高 12% | 1,398 GB/s低 22% |
| BF16 / FP16 算力 | 500 TFLOPS | 419 TFLOPS低 16% | 756 TFLOPS高 51% | 385 TFLOPS低 23% |
| INT8 算力 | 1,000 TOPS | 838 TOPS低 16% | 1,513 TOPS高 51% | 771 TOPS低 23% |
| Qwen3.8 27B 速度(2-bit) | 114.6 t/s | 114.6 t/s相同 | 125.6 t/s快 10% | 92.7 t/s慢 19% |
| 最高可跑稠密模型(4-bit) | 165B | 51B少 69% | 136B少 18% | 143B少 13% |
| 功耗 | 600 W | 575 W低 4% | 350 W低 42% | 600 W相同 |
| 卡間互連 | 不支援 | 不支援 | NVLink 600 GB/s | 不支援 |
| 介面 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 5.0 x16 |
| 發布 | 2025-03 | 2025-01 | 2022-03 | 2025-09 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX PRO 6000 租用價格
RTX PRO 6000 隨需租用每小時 NT$55 起(RunPod),每天用 8 小時約 NT$13,417/月。買一張(閒魚中位價 NT$609,491)每天用 4、8、24 小時,分別約 7.8 年、3.9 年、1.3 年回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$55/小時 | NT$6,709/月 | NT$13,417/月 | NT$40,251/月 | 去租 | |
| NT$61/小時 | NT$7,413/月 | NT$14,826/月 | NT$44,477/月 | 去租 | |
| NT$609,491 | 約 7.8 年回本電費 NT$210/月 | 約 3.9 年回本電費 NT$419/月 | 約 1.3 年回本電費 NT$1,257/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 600 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。