GeForce RTX 3090 价格与二手行情:能部署哪些大模型?
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX 3090 是 NVIDIA 2020 年的旗舰游戏卡,24GB 显存,4-bit 跑 Qwen3.8 27B 约 40 tokens/s,现在基本只有二手。不少挖过矿,验货看满载时的显存温度。
闲鱼
GeForce RTX 3090 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 3090 完整规格
- 显存24 GB · GDDR6X
- 带宽936 GB/s
- FP16 / BF16142.3 TFLOPS
- INT8284.7 TOPS
- 位宽
- 384-bit
- 架构
- Ampere (GA102)
- 核心
- 10,496
- 张量核心
- 328
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 112.5 GB/s
- 功耗
- 350 W
- 供电接口
- 12-pin (Founders Edition)
- 槽位
- 3
- 长度
- 313 mm
- 类型
- 消费卡
- 发布日期
- 2020年9月24日
- 官方定价
- ¥10,030
单张 GeForce RTX 3090 能跑哪些模型?
单张 RTX 3090 只有 4-bit 能装到 35B 级:27B 到 31B 稠密模型 35 到 40 tokens/s,30B 级 MoE 超过 130。8-bit 只放得下 12B 级。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 147 | 128K | |
| 4.1 GB | 能跑 | 137.1 | 256K | |
| 4.7 GB | 能跑 | 120.9 | 256K | |
| 10.5 GB | 能跑 | 139.6 | 256K | |
| 11.8 GB | 能跑 | 54.9 | 192K | |
| 9.8 GB | 能跑 | 64.8 | 221K | |
| 11.9 GB | 能跑 | 150.1 | 198K | |
| 11.8 GB | 能跑 | 53 | 143K | |
| 12.3 GB | 能跑 | 160.1 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 118 | 128K | |
| 5.7 GB | 能跑 | 105 | 256K | |
| 7.1 GB | 能跑 | 86.1 | 256K | |
| 16.9 GB | 能跑 | 117.5 | 256K | |
| 16.8 GB | 能跑 | 39.7 | 117K | |
| 16.5 GB | 能跑 | 40.4 | 122K | |
| 18.3 GB | 能跑 | 132.4 | 115K | |
| 18.3 GB | 能跑 | 35.8 | 66K | |
| 22.1 GB | 能跑 | 135.4 | 123K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 77.3 | 128K | |
| 9.5 GB | 能跑 | 67.5 | 256K | |
| 12.7 GB | 能跑 | 51.5 | 256K | |
| 26.9 GB | 需卸载到内存 | 26.3 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸载到内存 | 22.8 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸载到内存 | 34.7 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
多张 GeForce RTX 3090 能跑哪些模型?
两张 3090(48GB)适合 48B 级 MoE,四张(96GB)能用 4-bit 跑 Llama 3.3 70B 和 gpt-oss 120B。支持 NVLink 桥,vLLM 双卡时能明显提速。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 张 | ¥34,000 | 96 GB | 111.1 | 1,400 W | |
| 96.8 GB | 8 张 | ¥68,000 | 192 GB | 90.9 | 2,800 W | |
| 107.2 GB | 8 张 | ¥68,000 | 192 GB | 44.1 | 2,800 W | |
| 108.7 GB | 8 张 | ¥68,000 | 192 GB | 74.2 | 2,800 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 8 张 | ¥68,000 | 192 GB | 94.9 | 2,800 W | |
| 155.1 GB | 8 张 | ¥68,000 | 192 GB | 67.9 | 2,800 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 张 | ¥68,000 | 192 GB | 66 | 2,800 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 单卡跑 Qwen3.8 27B、Gemma 4 31B 这类 27B 到 31B 的稠密模型
4-bit 装得下,约 36 到 40 tokens/s
- 跑 Qwen3.6 35B A3B、GLM 4.7 Flash 这类 MoE
每个字只用 3B 参数,单卡能到 130 tokens/s 以上
- 想少折腾软件
CUDA 生态最完整,vLLM、ExLlamaV2 都能直接用
- 打算以后再加一张卡
30 系里只有 3090 和 3090 Ti 能用 NVLink 桥连双卡
不太适合
- 要单卡跑 70B 级稠密模型
24GB 装不下 4-bit,至少要两张
- 长时间满载又在意电费和噪音
整卡 350W,背面显存夏天很烫
- 需要 FP8
这一代芯片不支持 FP8 计算,FP8 模型在它上面快不起来
买前须知
先查背面显存温度
3090 有一半显存颗粒(24 颗里的 12 颗)焊在电路板背面,只靠背板散热,挖矿时这些颗粒常年在 100°C 到 110°C。验货时跑十分钟满载,用 HWiNFO 看 Memory Junction Temperature:稳定在 100°C 以下比较放心;逼近 110°C 说明导热垫老化了,换一套通常能降 10°C 到 20°C。
电源留足余量
3090 满载时有瞬时功耗尖峰,电源余量不够或者老化,会触发保护直接断电重启。NVIDIA 官方建议整机 750W,只装这一张卡我们也建议上 850W。公版用 12-pin 接口并附转接线,非公版多是两到三个 8-pin。
机箱放不放得下
公版长 313 mm、厚三槽,不少非公版超过 320 mm。打算上双卡的话,先确认主板两条显卡插槽之间至少隔三个槽位,否则上面那张卡会被闷住。
软件
软件基本不用操心,llama.cpp、Ollama、vLLM、ExLlamaV2 都能直接用。唯一要注意的是它不支持 FP8:下载模型时选 GGUF 的 4-bit、5-bit,或 AWQ、GPTQ 这类 4-bit 格式,别下 FP8 版。
和同档显卡对比
GeForce RTX 3090 和 GeForce RTX 4090、Radeon RX 7900 XTX、GeForce RTX 5070 Ti 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | Radeon RX 7900 XTX | |||
|---|---|---|---|---|
| 显存 | 24 GB | 24 GB相同 | 24 GB相同 | 16 GB少 33% |
| 带宽 | 936 GB/s | 1,008 GB/s高 8% | 960 GB/s相同 | 896 GB/s低 4% |
| BF16 / FP16 算力 | 142 TFLOPS | 330 TFLOPS高 132% | 123 TFLOPS低 14% | 176 TFLOPS高 23% |
| INT8 算力 | 285 TOPS | 661 TOPS高 132% | 123 TOPS低 57% | 352 TOPS高 23% |
| Qwen3.8 27B 速度(2-bit) | 64.8 t/s | 69.3 t/s快 7% | 66.3 t/s相同 | 62.3 t/s慢 4% |
| 最高可跑稠密模型(4-bit) | 37B | 37B相同 | 37B相同 | 23B少 38% |
| 功耗 | 350 W | 450 W高 29% | 355 W相同 | 300 W低 14% |
| 卡间互联 | NVLink 112.5 GB/s | 不支持 | — | 不支持 |
| 接口 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 发布 | 2020-09 | 2022-10 | 2022-12 | 2025-02 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 3090 租用价格
GeForce RTX 3090 在优云智算按需租用每小时 ¥1.13,每天用 8 小时约 ¥275/月。买一张(闲鱼中位价 ¥8,500)每天用 4、8、24 小时,分别约 6.5 年、3.2 年、1.1 年回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥1.13/小时 | ¥137/月 | ¥275/月 | ¥825/月 | 去租 | |
| ¥8,500 | 约 6.5 年回本电费 ¥28/月 | 约 3.2 年回本电费 ¥56/月 | 约 1.1 年回本电费 ¥169/月 | 去买 |
回本按中国大陆居民电价(每度 ¥0.66)和 350 W 额定功耗估算,不计残值和整机其他部分。
租用链接是推荐链接:通过它们注册时,我们可能获得佣金或平台额度。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。