GeForce RTX 4090 价格与二手行情:能部署哪些大模型?
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX 4090 是 NVIDIA 2022 年的旗舰游戏卡,24GB 显存,4-bit 跑 Qwen3.8 27B 约 43 tokens/s。二手有被拆走核心的空卡,验货必须亮机跑满载。
闲鱼
GeForce RTX 4090 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 4090 完整规格
- 显存24 GB · GDDR6X
- 带宽1,008 GB/s
- FP16 / BF16330.3 TFLOPS
- FP8 / INT8660.6 / 660.6 TOPS
- 位宽
- 384-bit
- 架构
- Ada Lovelace (AD102)
- 核心
- 16,384
- 张量核心
- 512
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 不支持
- 功耗
- 450 W
- 供电接口
- 16-pin 12VHPWR
- 槽位
- 3
- 长度
- 304 mm
- 类型
- 消费卡
- 发布日期
- 2022年10月12日
- 官方定价
- ¥10,699
单张 GeForce RTX 4090 能跑哪些模型?
单张 RTX 4090 用 4-bit 能装到 35B 级,27B 约 43 tokens/s,但留给上下文的空间不多。8-bit 只放得下 12B 级。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 155.8 | 128K | |
| 4.1 GB | 能跑 | 145.4 | 256K | |
| 4.7 GB | 能跑 | 128.5 | 256K | |
| 10.5 GB | 能跑 | 143.1 | 256K | |
| 11.8 GB | 能跑 | 58.8 | 192K | |
| 9.8 GB | 能跑 | 69.3 | 221K | |
| 11.9 GB | 能跑 | 153.4 | 198K | |
| 11.8 GB | 能跑 | 56.7 | 143K | |
| 12.3 GB | 能跑 | 163 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 125.5 | 128K | |
| 5.7 GB | 能跑 | 111.8 | 256K | |
| 7.1 GB | 能跑 | 91.9 | 256K | |
| 16.9 GB | 能跑 | 121.4 | 256K | |
| 16.8 GB | 能跑 | 42.6 | 117K | |
| 16.5 GB | 能跑 | 43.3 | 122K | |
| 18.3 GB | 能跑 | 136.1 | 115K | |
| 18.3 GB | 能跑 | 38.4 | 66K | |
| 22.1 GB | 能跑 | 139 | 123K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 82.6 | 128K | |
| 9.5 GB | 能跑 | 72.1 | 256K | |
| 12.7 GB | 能跑 | 55.1 | 256K | |
| 26.9 GB | 需卸载到内存 | 26.4 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸载到内存 | 22.9 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸载到内存 | 35 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
多张 GeForce RTX 4090 能跑哪些模型?
两张 4090 适合 48B 级 MoE;四张(96GB)才装得下 2-bit 的 Qwen3.8 Flash Next,DeepSeek V4 Flash 要 8 张。4090 没有 NVLink。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 张 | ¥100,000 | 96 GB | 115.1 | 1,800 W | |
| 96.8 GB | 8 张 | ¥200,000 | 192 GB | 94.8 | 3,600 W | |
| 107.2 GB | 8 张 | ¥200,000 | 192 GB | 46.8 | 3,600 W | |
| 108.7 GB | 8 张 | ¥200,000 | 192 GB | 77.8 | 3,600 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 8 张 | ¥200,000 | 192 GB | 98.8 | 3,600 W | |
| 155.1 GB | 8 张 | ¥200,000 | 192 GB | 71.4 | 3,600 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 张 | ¥200,000 | 192 GB | 69.4 | 3,600 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 单卡跑 27B 到 31B 稠密模型
4-bit 的 Qwen3.8 27B 约 43 tokens/s、上下文 122K,Gemma 4 31B 约 38
- 30B 级 MoE 要整卡装下
4-bit 的 Qwen3.6 35B A3B 约 139 tokens/s,GLM 4.7 Flash 约 136
- 常喂长文档、跑批量请求
算力是 3090 的 2.3 倍,还支持 FP8
不太适合
- 只做单人对话
生成速度看带宽,它只比 3090 高 8%,同一个稠密模型快 7% 左右
- 要 8-bit 跑 27B
Qwen3.8 27B 的 8-bit 要 29 GB,得换 32GB 的 5090
- 双卡想用 NVLink
40 系取消了 NVLink,卡间只能走 PCIe
买前须知
当心被拆走核心的空卡
国内大量 4090 被拆下核心和显存,改装成双槽涡轮卡或 48GB 卡,二手市场随之出现只剩空板、甚至换上假芯片的 4090,海外维修店多次报道过。验货一定要亮机跑满载,用 nvidia-smi 核对型号和 24GB 显存,别只看照片。
12VHPWR 要插到底
2022 年底 NVIDIA 收到约 50 起插头熔化报告,调查认为主要是插头没插到底。Gamers Nexus 的测试也发现,没插到底,或插上后线缆被斜着拉扯,插头会松出几毫米而发热。所以装机时要插到四周没有缝隙,插头根部别急弯,也别反复拔插检查,那样反而更容易松;二手卡先看接口有没有发黄、烧黑。
电源和尺寸
NVIDIA 给 450W 的 4090 建议配 850W 电源。公版三槽、长 304 mm,不少非公版更厚,最多占到四个槽位,装机前量好机箱和主板的槽间距。
国内还有 4090 D
2023 年底在国内上市的 4090 D 是降规版:核心少约一成,功耗 425W,显存同样是 24GB、带宽一样。生成速度和 4090 基本一样,读长提示词稍慢;挂单要看清是哪一版。
和同档显卡对比
GeForce RTX 4090 和 GeForce RTX 3090、GeForce RTX 5090、GeForce RTX 4090 48GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 24 GB | 24 GB相同 | 32 GB多 33% | 48 GB多 100% |
| 带宽 | 1,008 GB/s | 936 GB/s低 7% | 1,792 GB/s高 78% | 1,008 GB/s相同 |
| BF16 / FP16 算力 | 330 TFLOPS | 142 TFLOPS低 57% | 419 TFLOPS高 27% | 330 TFLOPS相同 |
| INT8 算力 | 661 TOPS | 285 TOPS低 57% | 838 TOPS高 27% | 661 TOPS相同 |
| Qwen3.8 27B 速度(2-bit) | 69.3 t/s | 64.8 t/s慢 6% | 114.6 t/s快 65% | 69.3 t/s相同 |
| 最高可跑稠密模型(4-bit) | 37B | 37B相同 | 51B多 38% | 79B多 114% |
| 功耗 | 450 W | 350 W低 22% | 575 W高 28% | 450 W相同 |
| 卡间互联 | 不支持 | NVLink 112.5 GB/s | 不支持 | 不支持 |
| 接口 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 发布 | 2022-10 | 2020-09 | 2025-01 | 2022-10 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 4090 租用价格
GeForce RTX 4090 在优云智算按需租用每小时 ¥2.05,每天用 8 小时约 ¥499/月。买一张(闲鱼中位价 ¥25,000)每天用 4、8、24 小时,分别约 9.8 年、4.9 年、1.6 年回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥2.05/小时 | ¥249/月 | ¥499/月 | ¥1,497/月 | 去租 | |
| ¥25,000 | 约 9.8 年回本电费 ¥36/月 | 约 4.9 年回本电费 ¥72/月 | 约 1.6 年回本电费 ¥217/月 | 去买 |
回本按中国大陆居民电价(每度 ¥0.66)和 450 W 额定功耗估算,不计残值和整机其他部分。
租用链接是推荐链接:通过它们注册时,我们可能获得佣金或平台额度。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。