RTX 6000 Ada 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 6000 Ada 是 NVIDIA 2022 年的 48GB 工作站卡,雙槽 300W,30B 級模型用哪一檔量化都放得下。別和舊款 Quadro RTX 6000 搞混,認明「Ada」和 48GB。
閒魚
RTX 6000 Ada 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX 6000 Ada 完整規格
- 顯存48 GB · GDDR6 ECC
- 頻寬960 GB/s
- FP16 / BF16364.3 TFLOPS
- FP8 / INT8728.5 / 728.5 TOPS
- 位寬
- 384-bit
- 架構
- Ada Lovelace (AD102)
- 核心
- 18,176
- 張量核心
- 568
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 不支援
- 功耗
- 300 W
- 供電介面
- 16-pin 12VHPWR
- 槽位
- 2
- 長度
- 267 mm
- 類型
- 工作站
- 發布日期
- 2022年9月20日
單張 RTX 6000 Ada 能跑哪些模型?
單張 RTX 6000 Ada 跑 35B 以內,哪一檔都不必借用系統記憶體。4-bit 最平衡,27B 約 40 tokens/s;8-bit 回答品質更好,稠密模型降到二十幾。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 4.7 GB | 能跑 | 123.5 | 256K | |
| 10.5 GB | 能跑 | 140.8 | 256K | |
| 11.8 GB | 能跑 | 56.2 | 256K | |
| 9.8 GB | 能跑 | 66.3 | 256K | |
| 11.9 GB | 能跑 | 151.2 | 198K | |
| 11.8 GB | 能跑 | 54.2 | 256K | |
| 12.3 GB | 能跑 | 161.1 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 7.1 GB | 能跑 | 88 | 256K | |
| 16.9 GB | 能跑 | 118.8 | 256K | |
| 16.8 GB | 能跑 | 40.7 | 256K | |
| 16.5 GB | 能跑 | 41.4 | 256K | |
| 18.3 GB | 能跑 | 133.7 | 198K | |
| 18.3 GB | 能跑 | 36.7 | 256K | |
| 22.1 GB | 能跑 | 136.7 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 12.7 GB | 能跑 | 52.7 | 256K | |
| 26.9 GB | 能跑 | 95.6 | 256K | |
| 28.6 GB | 能跑 | 24.6 | 256K | |
| 29 GB | 能跑 | 24.3 | 256K | |
| 31.8 GB | 能跑 | 107.3 | 198K | |
| 32.6 GB | 能跑 | 21.4 | 202K | |
| 36.9 GB | 能跑 | 111.2 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 RTX 6000 Ada 能跑哪些模型?
兩張 RTX 6000 Ada(96GB)跑 gpt-oss 120B 約 108 tokens/s,四張能用 4-bit 跑 DeepSeek V4 Flash。沒有 NVLink,但兩張卡能直接互傳資料。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 張 | NT$610,527 | 96 GB | 112.5 | 600 W | |
| 96.8 GB | 4 張 | NT$1,221,054 | 192 GB | 92.2 | 1,200 W | |
| 107.2 GB | 4 張 | NT$1,221,054 | 192 GB | 45 | 1,200 W | |
| 108.7 GB | 4 張 | NT$1,221,054 | 192 GB | 75.4 | 1,200 W | |
| 253.9 GB | 8 張 | NT$2,442,108 | 384 GB | 39.7 | 2,400 W | |
| 307.2 GB估 | 8 張 | NT$2,442,108 | 384 GB | 30.1 | 2,400 W | |
| 311.2 GB | 8 張 | NT$2,442,108 | 384 GB | 35.5 | 2,400 W | |
| 339.5 GB | 8 張 | NT$2,442,108 | 384 GB | 47.6 | 2,400 W | |
| 340.5 GB | 8 張 | NT$2,442,108 | 384 GB | 47.5 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 張 | NT$1,221,054 | 192 GB | 96.2 | 1,200 W | |
| 155.1 GB | 4 張 | NT$1,221,054 | 192 GB | 69.1 | 1,200 W | |
| 182.2 GB | 8 張 | NT$2,442,108 | 384 GB | 33.9 | 2,400 W | |
| 199.7 GB | 8 張 | NT$2,442,108 | 384 GB | 49.5 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 張 | NT$1,221,054 | 192 GB | 67.2 | 1,200 W | |
| 188.2 GB | 8 張 | NT$2,442,108 | 384 GB | 71.7 | 2,400 W | |
| 317.7 GB | 8 張 | NT$2,442,108 | 384 GB | 23.5 | 2,400 W | |
| 341 GB | 8 張 | NT$2,442,108 | 384 GB | 32.2 | 2,400 W |
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 單卡跑 30B 級不必擔心顯示記憶體
Qwen3.8 27B 的 4-bit 約 41 tokens/s,35B 以內的模型都能開到各自的上下文上限
- 要在 vLLM 裡跑 FP8 模型
這一代支援 FP8 運算,上一代 A6000 不支援
- 一台工作站插多張
雙槽渦輪把熱風從擋板排出,單卡 300W
- 多卡做張量平行
Puget Systems 實測兩張 6000 Ada 之間能直接互傳資料,NVIDIA 已證實 4090 不行
不太適合
- 想用 NVLink 把兩張卡連起來
這一代已取消,A6000 還有
- 想用 NVFP4 這類 4-bit 浮點格式
需要 50 系列那一代的卡
買前須知
認清型號
官方全名是 RTX 6000 Ada Generation,市面上常被寫成「A6000 Ada」,而更早的 Quadro RTX 6000 也叫 RTX 6000。看商品時要認明 Ada 和 48GB。
16-pin 轉接線兩條都要插
卡上只有一個 16-pin 供電口,隨卡附一條雙 8-pin 轉接線。兩個 8-pin 都要接上:NVIDIA 的電源指南明確寫到,只插一條時,轉接線會告訴顯示卡只有 150W 可用,300W 的卡就無法開機。
不必買 NVLink 橋接器
這張卡沒有 NVLink 介面,手上 A6000 的橋接器用不上。多卡效率要看主機板平台:Puget Systems 實測兩卡之間直接互傳的頻寬,Threadripper Pro 平台約 51 GB/s,Xeon W 平台約 41 GB/s。
尺寸與散熱
長約 267 mm、雙槽,渦輪風扇把熱風從擋板排出機殼,適合多張卡緊挨著插。
與同級顯卡比較
RTX 6000 Ada 與 RTX A6000、L40S、RTX PRO 5000 48GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 48 GB | 48 GB相同 | 48 GB相同 | 48 GB相同 |
| 頻寬 | 960 GB/s | 768 GB/s低 20% | 864 GB/s低 10% | 1,344 GB/s高 40% |
| BF16 / FP16 算力 | 364 TFLOPS | 155 TFLOPS低 57% | 362 TFLOPS相同 | 258 TFLOPS低 29% |
| INT8 算力 | 729 TOPS | 310 TOPS低 57% | 733 TOPS相同 | 516 TOPS低 29% |
| Qwen3.8 27B 速度(2-bit) | 66.3 t/s | 54.1 t/s慢 18% | 60.3 t/s慢 9% | 89.5 t/s快 35% |
| 最高可跑稠密模型(4-bit) | 79B | 79B相同 | 79B相同 | 79B相同 |
| 功耗 | 300 W | 300 W相同 | 350 W高 17% | 300 W相同 |
| 卡間互連 | 不支援 | NVLink 112.5 GB/s | 不支援 | 不支援 |
| 介面 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 發布 | 2022-09 | 2020-10 | 2023-08 | 2025-03 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
RTX 6000 Ada 租用價格
RTX 6000 Ada 隨需租用每小時 NT$21.8 起(Vast.ai),每天用 8 小時約 NT$5,304/月。買一張(閒魚中位價 NT$305,264)每天用 4、8、24 小時,分別約 10 年、5 年、1.7 年回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$21.8/小時 | NT$2,652/月 | NT$5,304/月 | NT$15,911/月 | 去租 | |
| NT$24.4/小時 | NT$2,963/月 | NT$5,927/月 | NT$17,780/月 | 去租 | |
| NT$305,264 | 約 10 年回本電費 NT$105/月 | 約 5 年回本電費 NT$210/月 | 約 1.7 年回本電費 NT$629/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 300 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。