RTX A6000 价格与二手行情:能部署哪些大模型?
到价提醒
Amazon.jp价格到了你设的价,就发邮件提醒你。
RTX A6000 有 48GB GDDR6 ECC 显存,带宽 768 GB/s。当前Amazon.jp中位价 ¥59,665。4-bit 量化、8K 上下文下最大能装约 79B 参数的稠密模型,预估 12 tokens/s。
Amazon.jp
RTX A6000 价格走势
Amazon.jp
购买链接可能含联盟标记,不影响你支付的价格。
RTX A6000 完整规格
- 显存48 GB · GDDR6 ECC
- 带宽768 GB/s
- FP16 / BF16154.9 TFLOPS
- INT8309.7 TOPS
- 位宽
- 384-bit
- 架构
- Ampere (GA102)
- 核心
- 10,752
- 张量核心
- 336
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 112.5 GB/s
- 功耗
- 300 W
- 供电接口
- 8-pin EPS
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 工作站
- 发布日期
- 2020年10月5日
RTX A6000 能跑哪些模型?
单张 RTX A6000 能跑哪些 50B 参数以内的模型,只列 2026 年起发布的版本
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 130.4 | 128K | |
| 4.1 GB | 能跑 | 120.5 | 256K | |
| 4.7 GB | 能跑 | 104.9 | 256K | |
| 10.5 GB | 能跑 | 140.2 | 256K | |
| 11.8 GB | 能跑 | 45.1 | 256K | |
| 9.8 GB | 能跑 | 53.7 | 256K | |
| 11.9 GB | 能跑 | 154 | 198K | |
| 11.8 GB | 能跑 | 43.5 | 256K | |
| 12.3 GB | 能跑 | 167.7 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 102.1 | 128K | |
| 5.7 GB | 能跑 | 89.8 | 256K | |
| 7.1 GB | 能跑 | 72.5 | 256K | |
| 16.9 GB | 能跑 | 113.1 | 256K | |
| 16.8 GB | 能跑 | 32.2 | 256K | |
| 16.5 GB | 能跑 | 32.8 | 256K | |
| 18.3 GB | 能跑 | 131.1 | 198K | |
| 18.3 GB | 能跑 | 29 | 256K | |
| 22.1 GB | 能跑 | 134.9 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 64.7 | 128K | |
| 9.5 GB | 能跑 | 56 | 256K | |
| 12.7 GB | 能跑 | 42.2 | 256K | |
| 26.9 GB | 能跑 | 86.9 | 256K | |
| 28.6 GB | 能跑 | 19.3 | 256K | |
| 29 GB | 能跑 | 19 | 256K | |
| 31.8 GB | 能跑 | 99.8 | 198K | |
| 32.6 GB | 能跑 | 16.7 | 202K | |
| 36.9 GB | 能跑 | 104.2 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
双卡、四卡、八卡 RTX A6000 能跑哪些大模型?
2026 年起发布的 50B 以上模型,按 vLLM 张量并行、32K 上下文要几张卡才装得下
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 张 | ¥119,330 | 96 GB | 105.7 | 600 W | |
| 96.8 GB | 4 张 | ¥238,660 | 192 GB | 83.3 | 1,200 W | |
| 107.2 GB | 4 张 | ¥238,660 | 192 GB | 37.3 | 1,200 W | |
| 108.7 GB | 4 张 | ¥238,660 | 192 GB | 66 | 1,200 W | |
| 253.9 GB | 8 张 | ¥477,320 | 384 GB | 32.5 | 2,400 W | |
| 286.1 GB估 | 8 张 | ¥477,320 | 384 GB | 24.3 | 2,400 W | |
| 339.5 GB | 8 张 | ¥477,320 | 384 GB | 39.6 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 张 | ¥238,660 | 192 GB | 87.6 | 1,200 W | |
| 155.1 GB | 4 张 | ¥238,660 | 192 GB | 59.8 | 1,200 W | |
| 182.2 GB | 8 张 | ¥477,320 | 384 GB | 27.6 | 2,400 W | |
| 199.7 GB | 8 张 | ¥477,320 | 384 GB | 41.3 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 张 | ¥238,660 | 192 GB | 57.9 | 1,200 W | |
| 188.2 GB | 8 张 | ¥477,320 | 384 GB | 62.3 | 2,400 W | |
| 317.7 GB | 8 张 | ¥477,320 | 384 GB | 18.7 | 2,400 W | |
| 341 GB | 8 张 | ¥477,320 | 384 GB | 26.1 | 2,400 W |
张数取 1 / 2 / 4 / 8 张,每张按 90% 显存计;速度按单卡带宽估算,总价只算显卡。支持 NVLink(112.5 GB/s)。能否实际运行还要看 vLLM 是否支持。
RTX A6000 租用价格
RTX A6000 按需租用每小时 ¥2.22 起(RunPod),每天用 8 小时约 ¥540/月。买一张(Amazon.jp 中位价 ¥59,665)每天用 4、8、24 小时,分别约 20.2 年、10.1 年、3.4 年回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥2.22/小时 | ¥270/月 | ¥540/月 | ¥1,619/月 | 去租 | |
| ¥2.85/小时 | ¥346/月 | ¥692/月 | ¥2,077/月 | 去租 | |
| ¥59,665 | 约 20.2 年回本电费 ¥24/月 | 约 10.1 年回本电费 ¥48/月 | 约 3.4 年回本电费 ¥145/月 | 去买 |
回本按中国大陆居民电价(每度 ¥0.66)和 300 W 额定功耗估算,不计残值和整机其他部分。
其他市场价格
购买链接可能含联盟标记,不影响你支付的价格。
常见问题
RTX A6000 能跑多大的模型?
单张 RTX A6000 有 48GB GDDR6 ECC 显存,在 4-bit 量化、8K 上下文下最大能装约 79B 参数的稠密模型,8-bit 下约 43B。
RTX A6000 能跑 70B 模型吗?
能。在 4-bit 量化、8K 上下文下,70B 稠密模型约需 43GB,RTX A6000 的 48GB 装得下。
RTX A6000 适合跑哪些大模型?
2026 年发布的模型里,4-bit 下能整个放进显存的最大稠密模型是 Gemma 4 31B,预估 29 tokens/s。MoE 模型里 Qwen3.6 35B A3B 最快,约 134.9 tokens/s。完整列表见上方「能跑哪些模型」表。
RTX A6000 跑大模型每秒多少 token?
按显存带宽估算,4-bit、8K 上下文下:8B 稠密模型约 97.9 tokens/s、14B 稠密模型约 59 tokens/s、32B 稠密模型约 27.3 tokens/s、70B 稠密模型约 12.9 tokens/s。MoE 模型每个 token 只读激活参数,会快很多。实测通常在估算值的 70%–100%。
双卡 RTX A6000 能跑哪些大模型?
按 vLLM 张量并行、4-bit、32K 上下文,两张 RTX A6000 装不下 2026 年发布的 50B 以上模型。4-bit、32K 上下文下最少要 4 张,能跑 Qwen3.8 Flash Next、DeepSeek V4 Flash。
RTX A6000 多少钱?
截至 2026年9月29日,eBay 中位价 ¥34,919(19 条挂单)、Amazon.jp 中位价 ¥59,665(5 条挂单)、闲鱼中位价 ¥29,999(13 条挂单)。取自平台挂单价的中位数,每 6 小时更新。
RTX A6000 价格在涨还是在跌?
截至 2026年9月29日,Amazon.jp 中位价近 7 天下跌 1%,近 30 天下跌 6.7%。
RTX A6000 租一小时多少钱?
截至 2026年9月29日,RunPod 每小时 ¥2.22、Vast.ai 每小时 ¥2.85。都是单卡按需价,不含存储和流量。
每天用 8 小时,RTX A6000 买还是租划算?
按 Amazon.jp 中位价 ¥59,665、电价每度 ¥0.66 算,每天用 8 小时,买卡约 10.1 年回本(对比 RunPod 每小时 ¥2.22)。打算用超过 10.1 年就买,用不到就租。
RTX A6000 和 RTX 6000 Ada 跑大模型怎么选?
RTX 6000 Ada 有 48GB 显存、960 GB/s 带宽,RTX A6000 是 48GB、768 GB/s。跑 70B 稠密模型(4-bit)预估 RTX A6000 约 12.9 tokens/s,RTX 6000 Ada 约 16.1 tokens/s。