RTX 6000 Ada 價格與中古行情：能部署哪些大型語言模型？

單張 RTX 6000 Ada 有 48GB GDDR6 ECC 顯示記憶體，在 4-bit 量化、8K 上下文下最大能裝約 79B 參數的稠密模型，8-bit 下約 43B。

能。在 4-bit 量化、8K 上下文下，70B 稠密模型約需 43GB，RTX 6000 Ada 的 48GB 裝得下。

2026 年發布的模型中，4-bit 下能完整放進顯示記憶體的最大稠密模型是 Gemma 4 31B，預估 36 tokens/s。MoE 模型中 Qwen3.6 35B A3B 最快，約 148.6 tokens/s。完整列表見上方「能跑哪些模型」表格。

按顯示記憶體頻寬估算，4-bit、8K 上下文下：8B 稠密模型約 120.1 tokens/s、14B 稠密模型約 72.9 tokens/s、32B 稠密模型約 34 tokens/s、70B 稠密模型約 16.1 tokens/s。MoE 模型每個 token 只讀取啟用參數，會快很多。實測通常在估算值的 70%–100%。

按 vLLM 張量並行、4-bit、32K 上下文，兩張 RTX 6000 Ada 裝不下 2026 年發布的 50B 以上模型。4-bit、32K 上下文下最少要 4 張，能跑 Qwen3.8 Flash Next、DeepSeek V4 Flash。

截至 2026年9月29日，eBay 中位價 NT$235,406（11 筆掛單）、閒魚中位價 NT$309,996（11 筆掛單）。取自平台掛單價的中位數，每 6 小時更新。

截至 2026年9月29日，閒魚中位價近 7 天下跌 0.8%，近 30 天下跌 1.3%。

截至 2026年9月29日，Vast.ai 每小時 NT$20.6、RunPod 每小時 NT$23.5。皆為單卡隨需價格，不含儲存空間和流量。

以閒魚中位價 NT$309,996、電價每度 NT$2.87 計算，每天用 8 小時，買卡約 5.4 年回本（對比 Vast.ai 每小時 NT$20.6）。打算用超過 5.4 年就買，用不到就租。

GeForce RTX 4090D 48GB 有 48GB 顯示記憶體、1,008 GB/s 頻寬，RTX 6000 Ada 是 48GB、960 GB/s。按閒魚中位價，GeForce RTX 4090D 48GB 約 NT$112,166，比 RTX 6000 Ada（NT$309,996）便宜 63.8%。跑 70B 稠密模型（4-bit）預估 RTX 6000 Ada 約 16.1 tokens/s，GeForce RTX 4090D 48GB 約 16.9 tokens/s。