GeForce RTX 3090 能跑什么模型?24GB 显存 · 二手价 · 速度
查价
GeForce RTX 3090 有 24GB GDDR6X 显存,带宽 936 GB/s。当前闲鱼二手中位价 ¥8,049。Q4 量化下最大能跑到 32B 参数的模型,预估 33 tokens/s。
GeForce RTX 3090 完整规格
核心10,496
张量核心328
架构Ampere (GA102)
显存24 GB · GDDR6X
位宽384-bit
带宽936 GB/s
BF16 / FP8 / INT8142.3 / — / 284.7
生态CUDA
别名RTX 3090 · 3090
闲鱼二手¥8,0498 条挂牌 · +2.5%
类型消费卡
功耗350 W
供电接口12-pin (Founders Edition)
槽位3
长度313 mm
接口PCIe 4.0 x16
发布日期2020年9月24日
官方定价¥10,087
GeForce RTX 3090 能跑哪些模型?
参考模型取每个家族的主力版本| 模型 | Q4_K_M | Q8_0 | FP16 | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 装得下 | 速度 t/s | 上下文 | 装得下 | 速度 t/s | 上下文 | 装得下 | 速度 t/s | 上下文 | |
| DeepSeekDeepSeek R1 Qwen3 8B | ✓ | 113.9 | 128K | ✓ | 67.1 | 32K | ✓ | 37.5 | 32K |
| GemmaGemma 4 31B | ✗ | — | — | ✗ | — | — | ✗ | — | — |
| GLMGLM 4.7 Flash | ✓ | 144.4 | 32K | 卸载 | 22.1 | — | 卸载 | 12.3 | — |
| gpt-ossgpt-oss 20B | ✓ | 134.8 | 128K | ✓ | 98.9 | 8K | 卸载 | 9.2 | — |
| KimiKimi Linear 48B A3B | 卸载 | 44.1 | — | 卸载 | 25.9 | — | 卸载 | 14.4 | — |
| LlamaLlama 3.1 8B | ✓ | 117 | 128K | ✓ | 68.7 | 32K | ✓ | 38.4 | 32K |
| MistralMistral 7B v0.3 | ✓ | 127.1 | 32K | ✓ | 75.2 | 32K | ✓ | 42.2 | 32K |
| QwenQwen3 8B | ✓ | 113.9 | 32K | ✓ | 67.1 | 32K | ✓ | 37.5 | 32K |
判定口径:权重 + KV cache + 运行开销 ≤ 可用显存,单卡。MoE 模型标「卸载」表示把专家权重放进系统内存后能跑(显存只放注意力层与 KV cache),速度按内存带宽 70 GB/s 估算。上下文列给的是能装下的最大档位。
GeForce RTX 3090 二手价走势
闲鱼二手
2026年9月3日2026年9月3日2026年9月4日2026年9月5日
各平台价格
常见问题
GeForce RTX 3090 有多大显存?
GeForce RTX 3090 有 24GB GDDR6X 显存,带宽 936 GB/s。
GeForce RTX 3090 能跑 70B 模型吗?
单卡跑不了。在 Q4_K_M 量化、8K 上下文下,70B 稠密模型约需 43GB,超过 GeForce RTX 3090 的 24GB。
GeForce RTX 3090 二手多少钱?
当前闲鱼二手中位价 ¥8,049。取自平台挂牌价的中位数,每 6 小时更新。