GeForce RTX 4090 48GB 价格与二手行情:能部署哪些大模型?
RTX 4090 48GB 是把 4090 核心移到新板、显存翻倍的改装卡,35B 以内的模型都能用 8-bit 跑。NVIDIA 没有这个型号,买前问清保修和能否先测再收货。
闲鱼
GeForce RTX 4090 48GB 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 4090 48GB 完整规格
- 显存48 GB · GDDR6X
- 带宽1,008 GB/s
- FP16 / BF16330.3 TFLOPS
- FP8 / INT8660.6 / 660.6 TOPS
- 位宽
- 384-bit
- 架构
- Ada Lovelace (AD102)
- 核心
- 16,384
- 张量核心
- 512
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 不支持
- 功耗
- 450 W
- 供电接口
- 16-pin 12VHPWR
- 槽位
- 2
- 类型
- 消费卡
- 发布日期
- 2022年10月12日
单张 GeForce RTX 4090 48GB 能跑哪些模型?
单张 4090 48GB 最适合 8-bit:Qwen3.8 27B 约 26 tokens/s,30B 级 MoE 约 110。4-bit 在短上下文下还能塞下 70B 级。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 4.7 GB | 能跑 | 128.5 | 256K | |
| 10.5 GB | 能跑 | 143.1 | 256K | |
| 11.8 GB | 能跑 | 58.8 | 256K | |
| 9.8 GB | 能跑 | 69.3 | 256K | |
| 11.9 GB | 能跑 | 153.4 | 198K | |
| 11.8 GB | 能跑 | 56.7 | 256K | |
| 12.3 GB | 能跑 | 163 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 7.1 GB | 能跑 | 91.9 | 256K | |
| 16.9 GB | 能跑 | 121.4 | 256K | |
| 16.8 GB | 能跑 | 42.6 | 256K | |
| 16.5 GB | 能跑 | 43.3 | 256K | |
| 18.3 GB | 能跑 | 136.1 | 198K | |
| 18.3 GB | 能跑 | 38.4 | 256K | |
| 22.1 GB | 能跑 | 139 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 12.7 GB | 能跑 | 55.1 | 256K | |
| 26.9 GB | 能跑 | 98.1 | 256K | |
| 28.6 GB | 能跑 | 25.8 | 256K | |
| 29 GB | 能跑 | 25.5 | 256K | |
| 31.8 GB | 能跑 | 109.9 | 198K | |
| 32.6 GB | 能跑 | 22.4 | 202K | |
| 36.9 GB | 能跑 | 113.7 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
多张 GeForce RTX 4090 48GB 能跑哪些模型?
两张 4090 48GB(96GB)能用 2-bit 跑 Qwen3.8 Flash Next,约 115 tokens/s;四张能用 4-bit 跑 DeepSeek V4 Flash。没有 NVLink。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 张 | 暂无 | 96 GB | 115.1 | 900 W | |
| 96.8 GB | 4 张 | 暂无 | 192 GB | 94.8 | 1,800 W | |
| 107.2 GB | 4 张 | 暂无 | 192 GB | 46.8 | 1,800 W | |
| 108.7 GB | 4 张 | 暂无 | 192 GB | 77.8 | 1,800 W | |
| 253.9 GB | 8 张 | 暂无 | 384 GB | 41.3 | 3,600 W | |
| 307.2 GB估 | 8 张 | 暂无 | 384 GB | 31.4 | 3,600 W | |
| 311.2 GB | 8 张 | 暂无 | 384 GB | 37 | 3,600 W | |
| 339.5 GB | 8 张 | 暂无 | 384 GB | 49.5 | 3,600 W | |
| 340.5 GB | 8 张 | 暂无 | 384 GB | 49.4 | 3,600 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 张 | 暂无 | 192 GB | 98.8 | 1,800 W | |
| 155.1 GB | 4 张 | 暂无 | 192 GB | 71.4 | 1,800 W | |
| 182.2 GB | 8 张 | 暂无 | 384 GB | 35.4 | 3,600 W | |
| 199.7 GB | 8 张 | 暂无 | 384 GB | 51.4 | 3,600 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 张 | 暂无 | 192 GB | 69.4 | 1,800 W | |
| 188.2 GB | 8 张 | 暂无 | 384 GB | 74 | 3,600 W | |
| 317.7 GB | 8 张 | 暂无 | 384 GB | 24.5 | 3,600 W | |
| 341 GB | 8 张 | 暂无 | 384 GB | 33.6 | 3,600 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 单卡跑 70B 级稠密模型
Llama 3.3 70B 的 4-bit 在 8K 下要 46.3 GB,装得下
- 27B 到 35B 要 8-bit 精度
Qwen3.8 27B 的 8-bit 约 26 tokens/s,Qwen3.6 35B A3B 的 8-bit 约 114
- 要 48GB 又要 FP8 和完整的 CUDA 生态,还要双槽
好塞进普通机箱或多卡服务器
不太适合
- 要安静
评测里单风扇涡轮跑分时最高到 65 dB
- 要保修或 7×24 长期跑
核心可能来自拆机卡,BIOS 据报道是用流出的 NVIDIA 内部工具改的
- 只想让同一个模型跑得更快
带宽和 24GB 原版一样,速度也一样
买前须知
它是怎么改出来的
原版 4090 的显存只贴在电路板正面。改装方把核心移到一块正反两面都能贴颗粒的新电路板上(布局接近 RTX 3090),正反各 12 颗 2GB 显存,再刷一份改过容量的 BIOS。hardware-corner 认为改装方用的是流出的 NVIDIA 内部工具,BIOS 签名没被破坏,所以装官方驱动就能认到 48GB。
背面显存的温度
一半显存在电路板背面,只靠背板散热。俄罗斯频道 МК 的评测里,核心约 70°C,显存却到了 86°C,是全卡最热的部分。到手后跑十分钟满载,用 HWiNFO 看显存温度;装进机箱后,背板一侧最好有风吹过。
噪音、功耗和槽位
评测的这张卡是双槽单风扇涡轮,适合多卡并排;代价是噪音,跑分时最高约 65 dB,放在书桌下会很明显。供电是 16-pin 12VHPWR,按 450W 准备电源。
来源和保修
来源因卖家而异:评测里那张卡的核心看得出用过,显存颗粒是新的、批次一致;PC Gamer 报道的个人改装则用了手头的旧显存。没有 NVIDIA 或板卡厂保修,只能靠卖家,要问清保修期、能不能先测试再确认收货。24 颗显存都是重新焊的,用 memtest_vulkan 测要覆盖满 48GB,只测一部分发现不了坏颗粒。
和同档显卡对比
GeForce RTX 4090 48GB 和 GeForce RTX 4090D 48GB、RTX 6000 Ada、RTX PRO 5000 48GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 48 GB | 48 GB相同 | 48 GB相同 | 48 GB相同 |
| 带宽 | 1,008 GB/s | 1,008 GB/s相同 | 960 GB/s低 5% | 1,344 GB/s高 33% |
| BF16 / FP16 算力 | 330 TFLOPS | 294 TFLOPS低 11% | 364 TFLOPS高 10% | 258 TFLOPS低 22% |
| INT8 算力 | 661 TOPS | 589 TOPS低 11% | 729 TOPS高 10% | 516 TOPS低 22% |
| Qwen3.8 27B 速度(2-bit) | 69.3 t/s | 69.3 t/s相同 | 66.3 t/s慢 4% | 89.5 t/s快 29% |
| 最高可跑稠密模型(4-bit) | 79B | 79B相同 | 79B相同 | 79B相同 |
| 功耗 | 450 W | 425 W低 6% | 300 W低 33% | 300 W低 33% |
| 接口 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 发布 | 2022-10 | 2023-12 | 2022-09 | 2025-03 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 4090 48GB 租用价格
GeForce RTX 4090 48GB 在优云智算按需租用每小时 ¥3.61,每天用 8 小时约 ¥878/月。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥3.61/小时 | ¥439/月 | ¥878/月 | ¥2,635/月 | 去租 |
租用链接是推荐链接:通过它们注册时,我们可能获得佣金或平台额度。
其他市场价格
作为 eBay 合作伙伴,你通过本页的 eBay 链接购买时,VRAMGlass 可能获得佣金,你支付的价格不变。