RTX 6000 Ada 价格走势、显存规格与本地大模型部署
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX 6000 Ada 是 NVIDIA 2022 年的 48GB 工作站卡,双槽 300W,30B 级模型用哪档量化都装得下。别和老款 Quadro RTX 6000 搞混,认准「Ada」和 48GB。
闲鱼
RTX 6000 Ada 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
RTX 6000 Ada 完整规格
- 显存48 GB · GDDR6 ECC
- 带宽960 GB/s
- FP16 / BF16364.3 TFLOPS
- FP8 / INT8728.5 / 728.5 TOPS
- 位宽
- 384-bit
- 架构
- Ada Lovelace (AD102)
- 核心
- 18,176
- 张量核心
- 568
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 不支持
- 功耗
- 300 W
- 供电接口
- 16-pin 12VHPWR
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 工作站
- 发布日期
- 2022年9月20日
单张 RTX 6000 Ada 能跑哪些模型?
单张 RTX 6000 Ada 跑 35B 以内哪一档都不用借内存。4-bit 最平衡,27B 约 40 tokens/s;8-bit 回答更好,稠密模型降到二十几。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 4.7 GB | 能跑 | 123.5 | 256K | |
| 10.5 GB | 能跑 | 140.8 | 256K | |
| 11.8 GB | 能跑 | 56.2 | 256K | |
| 9.8 GB | 能跑 | 66.3 | 256K | |
| 11.9 GB | 能跑 | 151.2 | 198K | |
| 11.8 GB | 能跑 | 54.2 | 256K | |
| 12.3 GB | 能跑 | 161.1 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 7.1 GB | 能跑 | 88 | 256K | |
| 16.9 GB | 能跑 | 118.8 | 256K | |
| 16.8 GB | 能跑 | 40.7 | 256K | |
| 16.5 GB | 能跑 | 41.4 | 256K | |
| 18.3 GB | 能跑 | 133.7 | 198K | |
| 18.3 GB | 能跑 | 36.7 | 256K | |
| 22.1 GB | 能跑 | 136.7 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 12.7 GB | 能跑 | 52.7 | 256K | |
| 26.9 GB | 能跑 | 95.6 | 256K | |
| 28.6 GB | 能跑 | 24.6 | 256K | |
| 29 GB | 能跑 | 24.3 | 256K | |
| 31.8 GB | 能跑 | 107.3 | 198K | |
| 32.6 GB | 能跑 | 21.4 | 202K | |
| 36.9 GB | 能跑 | 111.2 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
多张 RTX 6000 Ada 能跑哪些模型?
两张 RTX 6000 Ada(96GB)跑 gpt-oss 120B 约 108 tokens/s,四张能用 4-bit 跑 DeepSeek V4 Flash。没有 NVLink,但两张卡能直接互传数据。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 张 | ¥124,000 | 96 GB | 112.5 | 600 W | |
| 96.8 GB | 4 张 | ¥248,000 | 192 GB | 92.2 | 1,200 W | |
| 107.2 GB | 4 张 | ¥248,000 | 192 GB | 45 | 1,200 W | |
| 108.7 GB | 4 张 | ¥248,000 | 192 GB | 75.4 | 1,200 W | |
| 253.9 GB | 8 张 | ¥496,000 | 384 GB | 39.7 | 2,400 W | |
| 307.2 GB估 | 8 张 | ¥496,000 | 384 GB | 30.1 | 2,400 W | |
| 311.2 GB | 8 张 | ¥496,000 | 384 GB | 35.5 | 2,400 W | |
| 339.5 GB | 8 张 | ¥496,000 | 384 GB | 47.6 | 2,400 W | |
| 340.5 GB | 8 张 | ¥496,000 | 384 GB | 47.5 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 张 | ¥248,000 | 192 GB | 96.2 | 1,200 W | |
| 155.1 GB | 4 张 | ¥248,000 | 192 GB | 69.1 | 1,200 W | |
| 182.2 GB | 8 张 | ¥496,000 | 384 GB | 33.9 | 2,400 W | |
| 199.7 GB | 8 张 | ¥496,000 | 384 GB | 49.5 | 2,400 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 张 | ¥248,000 | 192 GB | 67.2 | 1,200 W | |
| 188.2 GB | 8 张 | ¥496,000 | 384 GB | 71.7 | 2,400 W | |
| 317.7 GB | 8 张 | ¥496,000 | 384 GB | 23.5 | 2,400 W | |
| 341 GB | 8 张 | ¥496,000 | 384 GB | 32.2 | 2,400 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 单卡跑 30B 级不愁显存
Qwen3.8 27B 的 4-bit 约 41 tokens/s,35B 以内的模型都能开到各自的上下文上限
- 要在 vLLM 里跑 FP8 模型
这一代支持 FP8 计算,上一代 A6000 不支持
- 一台工作站插多张
双槽涡轮把热风从挡板排出,单卡 300W
- 多卡做张量并行
Puget Systems 测得两张 6000 Ada 之间能直接互传数据,NVIDIA 已确认 4090 不行
不太适合
- 想用 NVLink 把两张卡连起来
这一代取消了,A6000 还有
- 想用 NVFP4 这类 4-bit 浮点格式
要 50 系那一代的卡
买前须知
认清型号
官方全名 RTX 6000 Ada Generation,市面上常被写成「A6000 Ada」,还有更老的 Quadro RTX 6000 也叫 RTX 6000。挂单要认准 Ada 和 48GB。
16-pin 转接线两根都要插
卡上是一个 16-pin 供电口,随卡附一根双 8-pin 转接线。两个 8-pin 都要接上:NVIDIA 的电源指南写明,只插一根时转接线会告诉显卡只有 150W 可用,300W 的卡就开不了机。
不用买 NVLink 桥
这张卡没有 NVLink 接口,手里 A6000 的桥接器用不上。多卡效率看主板平台:Puget Systems 测得两卡之间直接互传的带宽,Threadripper Pro 平台约 51 GB/s,Xeon W 平台约 41 GB/s。
尺寸与散热
长约 267 mm、双槽,涡轮风扇把热风从挡板排出机箱,适合几张卡紧挨着插。
和同档显卡对比
RTX 6000 Ada 和 RTX A6000、L40S、RTX PRO 5000 48GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 48 GB | 48 GB相同 | 48 GB相同 | 48 GB相同 |
| 带宽 | 960 GB/s | 768 GB/s低 20% | 864 GB/s低 10% | 1,344 GB/s高 40% |
| BF16 / FP16 算力 | 364 TFLOPS | 155 TFLOPS低 57% | 362 TFLOPS相同 | 258 TFLOPS低 29% |
| INT8 算力 | 729 TOPS | 310 TOPS低 57% | 733 TOPS相同 | 516 TOPS低 29% |
| Qwen3.8 27B 速度(2-bit) | 66.3 t/s | 54.1 t/s慢 18% | 60.3 t/s慢 9% | 89.5 t/s快 35% |
| 最高可跑稠密模型(4-bit) | 79B | 79B相同 | 79B相同 | 79B相同 |
| 功耗 | 300 W | 300 W相同 | 350 W高 17% | 300 W相同 |
| 卡间互联 | 不支持 | NVLink 112.5 GB/s | 不支持 | 不支持 |
| 接口 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 发布 | 2022-09 | 2020-10 | 2023-08 | 2025-03 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
RTX 6000 Ada 租用价格
RTX 6000 Ada 按需租用每小时 ¥4.43 起(Vast.ai),每天用 8 小时约 ¥1,077/月。买一张(闲鱼在售报价中位数 ¥62,000)每天用 4、8、24 小时,分别约 10 年、5 年、1.7 年回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥4.43/小时 | ¥539/月 | ¥1,077/月 | ¥3,232/月 | 去租 | |
| ¥4.95/小时 | ¥602/月 | ¥1,204/月 | ¥3,611/月 | 去租 | |
| ¥62,000 | 约 10 年回本电费 ¥24/月 | 约 5 年回本电费 ¥48/月 | 约 1.7 年回本电费 ¥145/月 | 去买 |
回本按中国大陆居民电价(每度 ¥0.66)和 300 W 额定功耗估算,不计残值和整机其他部分。
租用链接是推荐链接:通过它们注册时,我们可能获得佣金或平台额度。
其他市场价格
作为 eBay 合作伙伴,VRAMGlass 可能在你通过 eBay 链接购买时获得佣金,你支付的价格不变。