RTX A6000 价格走势、显存规格与本地大模型部署
到价提醒
闲鱼价格到了你设的价，就发邮件提醒你。
RTX A6000 是 NVIDIA 2020 年的 48GB 工作站卡，显存带 ECC，35B 以内能用 8-bit 跑，但带宽偏低，MoE 比稠密模型快得多。供电口是 CPU 8-pin。
闲鱼
RTX A6000 价格走势
闲鱼
部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。
RTX A6000 完整规格
- 显存48 GB · GDDR6 ECC
- 带宽768 GB/s
- FP16 / BF16154.9 TFLOPS
- INT8309.7 TOPS
- 位宽
- 384-bit
- 架构
- Ampere (GA102)
- 核心
- 10,752
- 张量核心
- 336
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 112.5 GB/s
- 功耗
- 300 W
- 供电接口
- 8-pin EPS
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 工作站
- 发布日期
- 2020年10月5日
单张 RTX A6000 能跑哪些模型？
单张 A6000 最值得跑 4-bit 的 30B 级 MoE，约 125 tokens/s。稠密的 Qwen3.8 27B 用 8-bit 只有约 20，4-bit 也才三十出头。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
 Gemma 4 12B12B | 4.7 GB | 能跑 | 102.3 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 10.5 GB | 能跑 | 129.8 | 256K |
 Qwen3.6 27B27.8B | 11.8 GB | 能跑 | 45.7 | 256K |
| Qwen3.8 27B27.8B | 9.8 GB | 能跑 | 54.1 | 256K |
 GLM 4.7 Flash30B（激活 3B） | 11.9 GB | 能跑 | 141 | 198K |
| Gemma 4 31B30.7B | 11.8 GB | 能跑 | 44.1 | 256K |
| Qwen3.6 35B A3B36B（激活 3B） | 12.3 GB | 能跑 | 151.9 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 12B12B | 7.1 GB | 能跑 | 72.2 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 16.9 GB | 能跑 | 107 | 256K |
| Qwen3.6 27B27.8B | 16.8 GB | 能跑 | 32.9 | 256K |
| Qwen3.8 27B27.8B | 16.5 GB | 能跑 | 33.5 | 256K |
| GLM 4.7 Flash30B（激活 3B） | 18.3 GB | 能跑 | 122.3 | 198K |
| Gemma 4 31B30.7B | 18.3 GB | 能跑 | 29.6 | 256K |
| Qwen3.6 35B A3B36B（激活 3B） | 22.1 GB | 能跑 | 125.4 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 12B12B | 12.7 GB | 能跑 | 42.8 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 26.9 GB | 能跑 | 84 | 256K |
| Qwen3.6 27B27.8B | 28.6 GB | 能跑 | 19.8 | 256K |
| Qwen3.8 27B27.8B | 29 GB | 能跑 | 19.6 | 256K |
| GLM 4.7 Flash30B（激活 3B） | 31.8 GB | 能跑 | 95.5 | 198K |
| Gemma 4 31B30.7B | 32.6 GB | 能跑 | 17.2 | 202K |
| Qwen3.6 35B A3B36B（激活 3B） | 36.9 GB | 能跑 | 99.3 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存，速度按显存带宽估算。
需卸载到内存仅 MoE 模型：专家权重放进内存，速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下，借内存也不行。
详细计算规则可在数据方法页查看。
多张 RTX A6000 能跑哪些模型？
两张 A6000（96GB）主要跑 MoE，gpt-oss 120B 约 97 tokens/s；四张能用 4-bit 跑 DeepSeek V4 Flash。支持 NVLink，但只能两两相连。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 78.9 GB | 2 张 | ¥63,000 | 96 GB | 100.6 | 600 W |
 DeepSeek V4 Flash284B（激活 13B） | 96.8 GB | 4 张 | ¥126,000 | 192 GB | 80.8 | 1,200 W |
 Hy3295B（激活 21B） | 107.2 GB | 4 张 | ¥126,000 | 192 GB | 37.6 | 1,200 W |
| GLM 5.3 Flash320B（激活 18B） | 108.7 GB | 4 张 | ¥126,000 | 192 GB | 65 | 1,200 W |
| GLM 5.3744B（激活 40B） | 253.9 GB | 8 张 | ¥252,000 | 384 GB | 33 | 2,400 W |
| Hy4 preview770B（激活 49B） | 307.2 GB估 | 8 张 | ¥252,000 | 384 GB | 24.8 | 2,400 W |
 Muse Spark Open816B（激活 42B） | 311.2 GB | 8 张 | ¥252,000 | 384 GB | 29.4 | 2,400 W |
 Kimi K2.7 Code1,000B（激活 32B） | 339.5 GB | 8 张 | ¥252,000 | 384 GB | 39.9 | 2,400 W |
| Kimi K2.61,000B（激活 32B） | 340.5 GB | 8 张 | ¥252,000 | 384 GB | 39.8 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 111.3 GB | 4 张 | ¥126,000 | 192 GB | 84.6 | 1,200 W |
| DeepSeek V4 Flash284B（激活 13B） | 155.1 GB | 4 张 | ¥126,000 | 192 GB | 59.1 | 1,200 W |
| Hy3295B（激活 21B） | 182.2 GB | 8 张 | ¥252,000 | 384 GB | 28 | 2,400 W |
| GLM 5.3 Flash320B（激活 18B） | 199.7 GB | 8 张 | ¥252,000 | 384 GB | 41.5 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| DeepSeek V4 Flash284B（激活 13B） | 161.9 GB | 4 张 | ¥126,000 | 192 GB | 57.3 | 1,200 W |
| Qwen3.8 Flash Next176B（激活 6B） | 188.2 GB | 8 张 | ¥252,000 | 384 GB | 61.5 | 2,400 W |
| Hy3295B（激活 21B） | 317.7 GB | 8 张 | ¥252,000 | 384 GB | 19.2 | 2,400 W |
| GLM 5.3 Flash320B（激活 18B） | 341 GB | 8 张 | ¥252,000 | 384 GB | 26.6 | 2,400 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 要 48GB 又要完整的 CUDA 生态
Qwen3.8 27B 的 8-bit（29 GB）单卡装得下，约 20 tokens/s
- 主要跑 MoE
带宽短板对它影响小，Qwen3.6 35B A3B 的 4-bit 约 125 tokens/s，是稠密 Qwen3.8 27B 的近四倍
- 打算两张合用
支持 NVLink 桥，两张共 96GB
- 在意整机功耗和体积
300W、双槽，比两张 3090 好塞
不太适合
- 看重生成速度
4-bit 跑 Qwen3.8 27B 约 34 tokens/s，比 3090 和 RTX 6000 Ada 都慢
- 要用 FP8 或 FP4
这一代不支持 FP8 计算，FP8 模型只能省显存、不能提速
买前须知
供电口是 CPU 8-pin
A6000 的供电口是 CPU 8-pin（EPS-12V），不是显卡常见的 PCIe 8-pin，两种插头不通用。NVIDIA 的电源指南允许用「两根 PCIe 8-pin 转一个 CPU 8-pin」的转接线；换机箱、换电源前先确认线材。
NVLink 桥按槽距买
官方桥接器有 2 槽和 3 槽两种间距，只能连两张卡。买桥前量好主板上两条 x16 插槽的间距，间距不对就插不上。
量化格式怎么选
这一代不支持 FP8 计算，vLLM 遇到 FP8 模型只会把权重按 FP8 存着、计算仍用 16 位，省显存但不提速。在这张卡上优先用 GGUF 的 4-bit 到 8-bit，或者 AWQ、GPTQ 这类 4-bit 格式。
和 3090 同一颗芯片
A6000 是满血的 GA102，3090 是同一颗芯片的削减版，但 3090 配的是更快的 GDDR6X，所以跑模型反而更快。A6000 的 48GB 显存带 ECC，能自动纠正显存里的单比特错误。
和同档显卡对比
RTX A6000 和 RTX 6000 Ada、GeForce RTX 3090、GeForce RTX 4090 48GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | RTX A6000 | RTX 6000 Ada | GeForce RTX 3090 | GeForce RTX 4090 48GB |
|---|---|---|---|---|
| 显存 | 48 GB | 48 GB相同 | 24 GB少 50% | 48 GB相同 |
| 带宽 | 768 GB/s | 960 GB/s高 25% | 936 GB/s高 22% | 1,008 GB/s高 31% |
| BF16 / FP16 算力 | 155 TFLOPS | 364 TFLOPS高 135% | 142 TFLOPS低 8% | 330 TFLOPS高 113% |
| INT8 算力 | 310 TOPS | 729 TOPS高 135% | 285 TOPS低 8% | 661 TOPS高 113% |
| Qwen3.8 27B 速度（2-bit） | 54.1 t/s | 66.3 t/s快 23% | 64.8 t/s快 20% | 69.3 t/s快 28% |
| 最高可跑稠密模型（4-bit） | 79B | 79B相同 | 37B少 53% | 79B相同 |
| 功耗 | 300 W | 300 W相同 | 350 W高 17% | 450 W高 50% |
| 卡间互联 | NVLink 112.5 GB/s | 不支持 | NVLink 112.5 GB/s | 不支持 |
| 接口 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 |
| 发布 | 2020-10 | 2022-09 | 2020-09 | 2022-10 |
| 闲鱼中位价 |
部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。
RTX A6000 租用价格
RTX A6000 按需租用每小时 ¥2.21 起（RunPod），每天用 8 小时约 ¥537/月。买一张（闲鱼在售报价中位数 ¥31,500）每天用 4、8、24 小时，分别约 10.7 年、5.4 年、1.8 年回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
 RunPod租用44分钟前更新 | ¥2.21/小时 | ¥268/月 | ¥537/月 | ¥1,610/月 | 去租 |
 Vast.ai租用44分钟前更新 | ¥3.23/小时 | ¥393/月 | ¥787/月 | ¥2,360/月 | 去租 |
 闲鱼1小时前更新 | ¥31,500 | 约 10.7 年回本电费 ¥24/月 | 约 5.4 年回本电费 ¥48/月 | 约 1.8 年回本电费 ¥145/月 | 去买 |
回本按中国大陆居民电价（每度 ¥0.66）和 300 W 额定功耗估算，不计残值和整机其他部分。
租用链接是推荐链接：通过它们注册时，我们可能获得佣金或平台额度。
其他市场价格
eBay
Amazon.jp作为 eBay 合作伙伴，VRAMGlass 可能在你通过 eBay 链接购买时获得佣金，你支付的价格不变。