GeForce RTX 5090 价格与二手行情：能部署哪些大模型？

RTX 5090 是 NVIDIA 2025 年的旗舰游戏卡，32GB 显存，35B 以内的模型 4-bit 都装得下，是跑本地大模型最快的消费卡。整卡 575W，电源要留足。

闲鱼

GeForce RTX 5090 价格走势

¥49,000-9.26%

闲鱼

价格更新于 2026/10/21 14:19

¥72,850¥59,112¥45,374¥31,636¥17,898

最低价 ¥25,748最高价 ¥65,000

9月4日9月27日10月21日

部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。

单张 RTX 5090 用 4-bit 能装下 35B 以内的全部模型，Qwen3.8 27B 约 74 tokens/s。8-bit 最大到 27B 级。

模型	大小	能否运行	速度 t/s	最大上下文
Gemma 4 E4B8B	3.8 GB	能跑	236.9	128K
Qwen3.5 9B9.7B	4.1 GB	能跑	223.2	256K
Gemma 4 12B12B	4.7 GB	能跑	200.4	256K
Gemma 4 26B A4B25.2B（激活 3.8B）	10.5 GB	能跑	167	256K
Qwen3.6 27B27.8B	11.8 GB	能跑	98.2	256K
Qwen3.8 27B27.8B	9.8 GB	能跑	114.6	256K
GLM 4.7 Flash30B（激活 3B）	11.9 GB	能跑	174.7	198K
Gemma 4 31B30.7B	11.8 GB	能跑	95	246K
Qwen3.6 35B A3B36B（激活 3B）	12.3 GB	能跑	181.6	256K

模型	大小	能否运行	速度 t/s	最大上下文
Gemma 4 E4B8B	5 GB	能跑	196.3	128K
Qwen3.5 9B9.7B	5.7 GB	能跑	177.1	256K
Gemma 4 12B12B	7.1 GB	能跑	148.5	256K
Gemma 4 26B A4B25.2B（激活 3.8B）	16.9 GB	能跑	149.5	256K
Qwen3.6 27B27.8B	16.8 GB	能跑	72.3	245K
Qwen3.8 27B27.8B	16.5 GB	能跑	73.5	250K
GLM 4.7 Flash30B（激活 3B）	18.3 GB	能跑	161.5	198K
Gemma 4 31B30.7B	18.3 GB	能跑	65.5	168K
Qwen3.6 35B A3B36B（激活 3B）	22.1 GB	能跑	163.9	256K

模型	大小	能否运行	速度 t/s	最大上下文
Gemma 4 E4B8B	8.2 GB	能跑	134.7	128K
Qwen3.5 9B9.7B	9.5 GB	能跑	118.9	256K
Gemma 4 12B12B	12.7 GB	能跑	92.5	256K
Gemma 4 26B A4B25.2B（激活 3.8B）	26.9 GB	能跑	128.4	256K
Qwen3.6 27B27.8B	28.6 GB	能跑	44.6	69K
Qwen3.8 27B27.8B	29 GB	能跑	44	63K
GLM 4.7 Flash30B（激活 3B）	31.8 GB	能跑	139.4	26K
Gemma 4 31B30.7B	32.6 GB	跑不了	—	—
Qwen3.6 35B A3B36B（激活 3B）	36.9 GB	需卸载到内存	36.5	256K

能跑权重、KV 缓存和运行开销都装得进显存，速度按显存带宽估算。

需卸载到内存仅 MoE 模型：专家权重放进内存，速度按内存带宽 70 GB/s 估算。

跑不了这一档量化下单卡装不下，借内存也不行。

详细计算规则可在数据方法页查看。

两张 RTX 5090（64GB）能跑 70B 级稠密模型，约 28 tokens/s；2026 年的大型 MoE 要 4 张起。5090 不支持 NVLink。

模型	大小	需要几张	总价	总显存	速度 t/s	总功耗
Qwen3.8 Flash Next176B（激活 6B）	78.9 GB	4 张	¥196,000	128 GB	144	2,300 W
DeepSeek V4 Flash284B（激活 13B）	96.8 GB	4 张	¥196,000	128 GB	125.1	2,300 W
Hy3295B（激活 21B）	107.2 GB	4 张	¥196,000	128 GB	71	2,300 W
GLM 5.3 Flash320B（激活 18B）	108.7 GB	4 张	¥196,000	128 GB	107.7	2,300 W

模型	大小	需要几张	总价	总显存	速度 t/s	总功耗
Qwen3.8 Flash Next176B（激活 6B）	111.3 GB	4 张	¥196,000	128 GB	129	2,300 W
DeepSeek V4 Flash284B（激活 13B）	155.1 GB	8 张	¥392,000	256 GB	100.7	4,600 W
Hy3295B（激活 21B）	182.2 GB	8 张	¥392,000	256 GB	55.7	4,600 W
GLM 5.3 Flash320B（激活 18B）	199.7 GB	8 张	¥392,000	256 GB	76.9	4,600 W

模型	大小	需要几张	总价	总显存	速度 t/s	总功耗
DeepSeek V4 Flash284B（激活 13B）	161.9 GB	8 张	¥392,000	256 GB	98.4	4,600 W
Qwen3.8 Flash Next176B（激活 6B）	188.2 GB	8 张	¥392,000	256 GB	103.5	4,600 W

详细计算规则可在数据方法页查看。

12V-2x6 接口仍会熔化
der8auer 测过公版：线缆里的电流分配不均，单根线超过 22 A，电源一端的插头热点到 150°C。原因是参考设计不分别检测每根针脚的电流，某几根针脚接触不好时，电流就全挤到其他针脚上。所以要用电源厂的原生 12V-2x6 线、插到底，长时间满载跑模型时留意插头温度。
电源和散热
整卡 575W，NVIDIA 建议整机 1000W。公版双槽、长 304 mm；核心用液态金属导热，不建议自己拆开换硅脂。
国内挂单先分清三种 5090
国内还有特供的 5090 D（32GB，AI 算力被限）和 5090 D V2（24GB），标题里写「5090」的不一定是这张卡。用 GPU-Z 看型号和显存：5090 是 32GB、512-bit。

GeForce RTX 5090 和 GeForce RTX 4090、GeForce RTX 5090 D、RTX PRO 6000 的价格、显存、带宽、算力与本地大模型速度对比。

规格	GeForce RTX 5090	GeForce RTX 4090	GeForce RTX 5090 D	RTX PRO 6000
显存	32 GB	24 GB少 25%	32 GB相同	96 GB多 200%
带宽	1,792 GB/s	1,008 GB/s低 44%	1,792 GB/s相同	1,792 GB/s相同
BF16 / FP16 算力	419 TFLOPS	330 TFLOPS低 21%	297 TFLOPS低 29%	500 TFLOPS高 19%
INT8 算力	838 TOPS	661 TOPS低 21%	594 TOPS低 29%	1,000 TOPS高 19%
Qwen3.8 27B 速度（2-bit）	114.6 t/s	69.3 t/s慢 40%	114.6 t/s相同	114.6 t/s相同
最高可跑稠密模型（4-bit）	51B	37B少 27%	51B相同	165B多 224%
功耗	575 W	450 W低 22%	575 W相同	600 W高 4%
接口	PCIe 5.0 x16	PCIe 4.0 x16	PCIe 5.0 x16	PCIe 5.0 x16
发布	2025-01	2022-10	2025-01	2025-03
闲鱼中位价	¥49,000去购买 GeForce RTX 5090	¥25,000去购买 GeForce RTX 4090	¥37,500去购买 GeForce RTX 5090 D	¥125,000去购买 RTX PRO 6000

部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。

GeForce RTX 5090 在优云智算按需租用每小时 ¥3.79，每天用 8 小时约 ¥922/月。买一张（闲鱼中位价 ¥49,000）每天用 4、8、24 小时，分别约 9.8 年、4.9 年、1.6 年回本。

方案	价格	每天 4 小时	每天 8 小时	每天 24 小时	去查看
优云智算租用46分钟前更新	¥3.79/小时	¥461/月	¥922/月	¥2,767/月	去租
闲鱼3小时前更新	¥49,000	约 9.8 年回本电费 ¥46/月	约 4.9 年回本电费 ¥92/月	约 1.6 年回本电费 ¥277/月	去买