RTX A6000 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX A6000 有 48GB GDDR6 ECC 顯存,頻寬 768 GB/s。目前閒魚中位價 NT$141,978。4-bit 量化、8K 上下文下最大能裝約 79B 參數的稠密模型,預估 12 tokens/s。
閒魚
RTX A6000 價格走勢
閒魚
購買連結可能含聯盟標記,不影響你支付的價格。
RTX A6000 完整規格
- 顯存48 GB · GDDR6 ECC
- 頻寬768 GB/s
- FP16 / BF16154.9 TFLOPS
- INT8309.7 TOPS
- 位寬
- 384-bit
- 架構
- Ampere (GA102)
- 核心
- 10,752
- 張量核心
- 336
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 112.5 GB/s
- 功耗
- 300 W
- 供電介面
- 8-pin EPS
- 槽位
- 2
- 長度
- 267 mm
- 類型
- 工作站
- 發布日期
- 2020年10月5日
RTX A6000 能跑哪些模型?
單張 RTX A6000 能跑哪些 50B 參數以內的模型,只列 2026 年起發布的版本
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 130.4 | 128K | |
| 4.1 GB | 能跑 | 120.5 | 256K | |
| 4.7 GB | 能跑 | 104.9 | 256K | |
| 10.5 GB | 能跑 | 140.2 | 256K | |
| 11.8 GB | 能跑 | 45.1 | 256K | |
| 9.8 GB | 能跑 | 53.7 | 256K | |
| 11.9 GB | 能跑 | 154 | 198K | |
| 11.8 GB | 能跑 | 43.5 | 256K | |
| 12.3 GB | 能跑 | 167.7 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 102.1 | 128K | |
| 5.7 GB | 能跑 | 89.8 | 256K | |
| 7.1 GB | 能跑 | 72.5 | 256K | |
| 16.9 GB | 能跑 | 113.1 | 256K | |
| 16.8 GB | 能跑 | 32.2 | 256K | |
| 16.5 GB | 能跑 | 32.8 | 256K | |
| 18.3 GB | 能跑 | 131.1 | 198K | |
| 18.3 GB | 能跑 | 29 | 256K | |
| 22.1 GB | 能跑 | 134.9 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 64.7 | 128K | |
| 9.5 GB | 能跑 | 56 | 256K | |
| 12.7 GB | 能跑 | 42.2 | 256K | |
| 26.9 GB | 能跑 | 86.9 | 256K | |
| 28.6 GB | 能跑 | 19.3 | 256K | |
| 29 GB | 能跑 | 19 | 256K | |
| 31.8 GB | 能跑 | 99.8 | 198K | |
| 32.6 GB | 能跑 | 16.7 | 202K | |
| 36.9 GB | 能跑 | 104.2 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
雙卡、四卡、八卡 RTX A6000 能跑哪些大型語言模型?
2026 年起發布的 50B 以上模型,按 vLLM 張量並行、32K 上下文要幾張卡才裝得下
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 張 | NT$283,956 | 96 GB | 105.7 | 600 W | |
| 96.8 GB | 4 張 | NT$567,912 | 192 GB | 83.3 | 1,200 W | |
| 107.2 GB | 4 張 | NT$567,912 | 192 GB | 37.3 | 1,200 W | |
| 108.7 GB | 4 張 | NT$567,912 | 192 GB | 66 | 1,200 W | |
| 253.9 GB | 8 張 | NT$1,135,824 | 384 GB | 32.5 | 2,400 W | |
| 286.1 GB估 | 8 張 | NT$1,135,824 | 384 GB | 24.3 | 2,400 W | |
| 339.5 GB | 8 張 | NT$1,135,824 | 384 GB | 39.6 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 張 | NT$567,912 | 192 GB | 87.6 | 1,200 W | |
| 155.1 GB | 4 張 | NT$567,912 | 192 GB | 59.8 | 1,200 W | |
| 182.2 GB | 8 張 | NT$1,135,824 | 384 GB | 27.6 | 2,400 W | |
| 199.7 GB | 8 張 | NT$1,135,824 | 384 GB | 41.3 | 2,400 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 張 | NT$567,912 | 192 GB | 57.9 | 1,200 W | |
| 188.2 GB | 8 張 | NT$1,135,824 | 384 GB | 62.3 | 2,400 W | |
| 317.7 GB | 8 張 | NT$1,135,824 | 384 GB | 18.7 | 2,400 W | |
| 341 GB | 8 張 | NT$1,135,824 | 384 GB | 26.1 | 2,400 W |
張數取 1 / 2 / 4 / 8 張,每張按 90% 顯存計;速度按單卡頻寬估算,總價只算顯示卡。支援 NVLink(112.5 GB/s)。能否實際執行還要看 vLLM 是否支援。
RTX A6000 租用價格
RTX A6000 隨需租用每小時 NT$10.5 起(RunPod),每天用 8 小時約 NT$2,554/月。買一張(閒魚中位價 NT$141,978)每天用 4、8、24 小時,分別約 10.1 年、5 年、1.7 年回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$10.5/小時 | NT$1,277/月 | NT$2,554/月 | NT$7,663/月 | 去租 | |
| NT$13.5/小時 | NT$1,638/月 | NT$3,277/月 | NT$9,831/月 | 去租 | |
| NT$141,978 | 約 10.1 年回本電費 NT$105/月 | 約 5 年回本電費 NT$210/月 | 約 1.7 年回本電費 NT$629/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 300 W 額定功耗估算,不計殘值和整機其他部分。
其他市場價格
購買連結可能含聯盟標記,不影響你支付的價格。
常見問題
RTX A6000 能跑多大的模型?
單張 RTX A6000 有 48GB GDDR6 ECC 顯示記憶體,在 4-bit 量化、8K 上下文下最大能裝約 79B 參數的稠密模型,8-bit 下約 43B。
RTX A6000 能跑 70B 模型嗎?
能。在 4-bit 量化、8K 上下文下,70B 稠密模型約需 43GB,RTX A6000 的 48GB 裝得下。
RTX A6000 適合跑哪些大型語言模型?
2026 年發布的模型中,4-bit 下能完整放進顯示記憶體的最大稠密模型是 Gemma 4 31B,預估 29 tokens/s。MoE 模型中 Qwen3.6 35B A3B 最快,約 134.9 tokens/s。完整列表見上方「能跑哪些模型」表格。
RTX A6000 跑大型語言模型每秒多少 token?
按顯示記憶體頻寬估算,4-bit、8K 上下文下:8B 稠密模型約 97.9 tokens/s、14B 稠密模型約 59 tokens/s、32B 稠密模型約 27.3 tokens/s、70B 稠密模型約 12.9 tokens/s。MoE 模型每個 token 只讀取啟用參數,會快很多。實測通常在估算值的 70%–100%。
雙卡 RTX A6000 能跑哪些大型語言模型?
按 vLLM 張量並行、4-bit、32K 上下文,兩張 RTX A6000 裝不下 2026 年發布的 50B 以上模型。4-bit、32K 上下文下最少要 4 張,能跑 Qwen3.8 Flash Next、DeepSeek V4 Flash。
RTX A6000 多少錢?
截至 2026年9月29日,eBay 中位價 NT$165,261(19 筆掛單)、Amazon.jp 中位價 NT$282,380(5 筆掛單)、閒魚中位價 NT$141,978(13 筆掛單)。取自平台掛單價的中位數,每 6 小時更新。
RTX A6000 價格在漲還是在跌?
截至 2026年9月29日,閒魚中位價近 7 天下跌 7%,近 30 天下跌 7.7%。
RTX A6000 租一小時多少錢?
截至 2026年9月29日,RunPod 每小時 NT$10.5、Vast.ai 每小時 NT$13.5。皆為單卡隨需價格,不含儲存空間和流量。
每天用 8 小時,RTX A6000 買還是租划算?
以閒魚中位價 NT$141,978、電價每度 NT$2.87 計算,每天用 8 小時,買卡約 5 年回本(對比 RunPod 每小時 NT$10.5)。打算用超過 5 年就買,用不到就租。
RTX A6000 和 Radeon PRO W7900 跑大型語言模型怎麼選?
Radeon PRO W7900 有 48GB 顯示記憶體、864 GB/s 頻寬,RTX A6000 是 48GB、768 GB/s。按閒魚中位價,Radeon PRO W7900 約 NT$97,022,比 RTX A6000(NT$141,978)便宜 31.7%。跑 70B 稠密模型(4-bit)預估 RTX A6000 約 12.9 tokens/s,Radeon PRO W7900 約 10.4 tokens/s。