GeForce RTX 4080 价格与二手行情:能部署哪些大模型?
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX 4080 是 NVIDIA 2022 年的高端游戏卡,16GB 显存,12B 级模型连 8-bit 都装得下,约 40 tokens/s。它的 12VHPWR 供电口出过熔化事故,一定要插到底。
闲鱼
GeForce RTX 4080 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 4080 完整规格
- 显存16 GB · GDDR6X
- 带宽717 GB/s
- FP16 / BF16195 TFLOPS
- FP8 / INT8389.9 / 389.9 TOPS
- 位宽
- 256-bit
- 架构
- Ada Lovelace (AD103)
- 核心
- 9,728
- 张量核心
- 304
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 不支持
- 功耗
- 320 W
- 供电接口
- 16-pin 12VHPWR
- 类型
- 消费卡
- 发布日期
- 2022年11月16日
- 官方定价
- ¥8,023
单张 GeForce RTX 4080 能跑哪些模型?
单张 RTX 4080 用 4-bit 跑 12B 以内,七十到九十多 tokens/s。27B 以上要降到 2-bit,其中 Qwen3.6 35B A3B 约 149 tokens/s,最值得跑。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 118.3 | 128K | |
| 4.1 GB | 能跑 | 109.9 | 256K | |
| 4.7 GB | 能跑 | 96.4 | 256K | |
| 10.5 GB | 能跑 | 126.3 | 256K | |
| 11.8 GB | 能跑 | 42.8 | 64K | |
| 9.8 GB | 能跑 | 50.7 | 93K | |
| 11.9 GB | 能跑 | 137.7 | 75K | |
| 11.8 GB | 能跑 | 41.3 | 41K | |
| 12.3 GB | 能跑 | 148.9 | 181K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 94 | 128K | |
| 5.7 GB | 能跑 | 83.2 | 256K | |
| 7.1 GB | 能跑 | 67.8 | 256K | |
| 16.9 GB | 需卸载到内存 | 37.7 | 256K | |
| 16.8 GB | 跑不了 | — | — | |
| 16.5 GB | 跑不了 | — | — | |
| 18.3 GB | 需卸载到内存 | 36 | 198K | |
| 18.3 GB | 跑不了 | — | — | |
| 22.1 GB | 需卸载到内存 | 50.7 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 60.7 | 128K | |
| 9.5 GB | 能跑 | 52.8 | 196K | |
| 12.7 GB | 能跑 | 40.1 | 183K | |
| 26.9 GB | 需卸载到内存 | 25.5 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸载到内存 | 22.5 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸载到内存 | 33.7 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
适合谁
适合
- 12B 模型想用 8-bit
Gemma 4 12B 的 8-bit(12.7 GB)约 40 tokens/s,4-bit 约 68
- 读长提示词比 5070 Ti 略快
BF16 算力高一成,带宽低的劣势只在生成时体现
- 要 FP8 又不想为软件版本操心
这一代支持 FP8,CUDA 11.8 起就支持,不像 50 系要 CUDA 12.8 以上
不太适合
- 想用 FP4
FP4 是 50 系才有的
- 机箱小
公版三槽、长 304 mm,比 5080 公版厚一槽
- 在意功耗
320W,比更快的 5070 Ti 还多 20W
买前须知
4080 还是 4080 SUPER
2024 年 1 月出的 4080 SUPER 核心多 5%,显存同样是 16GB,带宽略高,跑模型只差几个百分点。挂单常把两者混写,看清型号就行,能装的模型没有区别。
12VHPWR 接口
4080 和 4090 用的都是第一代 16-pin 12VHPWR。4090 出过插头熔化的事,NVIDIA 调查认为主要是插头没插到底,所以要先把转接线插进显卡、确认插到底,再接电源线;插法和验货要点见 RTX 4090 页。
公版尺寸和电源
公版三槽、长 304 mm,和 4090 公版一样大,NVIDIA 建议整机 750W 电源。以后想加第二张卡,普通主板上很难并排放两张三槽卡。
和同档显卡对比
GeForce RTX 4080 和 GeForce RTX 5070 Ti、GeForce RTX 3090、GeForce RTX 4080 SUPER 32GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 16 GB | 16 GB相同 | 24 GB多 50% | 32 GB多 100% |
| 带宽 | 717 GB/s | 896 GB/s高 25% | 936 GB/s高 31% | 736 GB/s相同 |
| BF16 / FP16 算力 | 195 TFLOPS | 176 TFLOPS低 10% | 142 TFLOPS低 27% | 209 TFLOPS高 7% |
| INT8 算力 | 390 TOPS | 352 TOPS低 10% | 285 TOPS低 27% | 418 TOPS高 7% |
| Qwen3.8 27B 速度(2-bit) | 50.7 t/s | 62.3 t/s快 23% | 64.8 t/s快 28% | 52 t/s相同 |
| 最高可跑稠密模型(4-bit) | 23B | 23B相同 | 37B多 61% | 51B多 122% |
| 功耗 | 320 W | 300 W低 6% | 350 W高 9% | 320 W相同 |
| 卡间互联 | 不支持 | 不支持 | NVLink 112.5 GB/s | 不支持 |
| 接口 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 |
| 发布 | 2022-11 | 2025-02 | 2020-09 | 2024-01 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 4080 租用价格
GeForce RTX 4080 按需租用每小时 ¥1.81 起(RunPod),每天用 8 小时约 ¥440/月。买一张(闲鱼中位价 ¥7,990)每天用 4、8、24 小时,分别约 3.4 年、1.7 年、7 个月回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥1.81/小时 | ¥220/月 | ¥440/月 | ¥1,319/月 | 去租 | |
| ¥2.88/小时 | ¥351/月 | ¥702/月 | ¥2,106/月 | 去租 | |
| ¥7,990 | 约 3.4 年回本电费 ¥26/月 | 约 1.7 年回本电费 ¥51/月 | 约 7 个月回本电费 ¥154/月 | 去买 |
回本按中国大陆居民电价(每度 ¥0.66)和 320 W 额定功耗估算,不计残值和整机其他部分。
租用链接是推荐链接:通过它们注册时,我们可能获得佣金或平台额度。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。