GeForce RTX 3060 12GB 价格走势、显存规格与本地大模型部署
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX 3060 12GB 是 NVIDIA 2021 年的入门游戏卡,12GB 显存适合跑 12B 以内的模型,整卡只要 170W。买前让卖家截图,确认不是带宽少三分之一的 8GB 版。
闲鱼
GeForce RTX 3060 12GB 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 3060 12GB 完整规格
- 显存12 GB · GDDR6
- 带宽360 GB/s
- FP16 / BF1651 TFLOPS
- INT8101.9 TOPS
- 位宽
- 192-bit
- 架构
- Ampere (GA106)
- 核心
- 3,584
- 张量核心
- 112
- 生态
- CUDA
- 接口
- PCIe 4.0 x16
- NVLink
- 不支持
- 功耗
- 170 W
- 类型
- 消费卡
- 发布日期
- 2021年2月25日
- 官方定价
- ¥2,199
单张 GeForce RTX 3060 12GB 能跑哪些模型?
单张 RTX 3060 12GB 用 4-bit 跑 12B 以内最合适,Gemma 4 12B 约 36 tokens/s。30B 级 MoE 借内存也能跑,约 45 tokens/s,前提是内存装得下。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 64.7 | 128K | |
| 4.1 GB | 能跑 | 59.8 | 229K | |
| 4.7 GB | 能跑 | 51.9 | 256K | |
| 10.5 GB | 能跑 | 90 | 52K | |
| 11.8 GB | 跑不了 | — | — | |
| 9.8 GB | 能跑 | 26.4 | 29K | |
| 11.9 GB | 需卸载到内存 | 47.4 | 185K | |
| 11.8 GB | 跑不了 | — | — | |
| 12.3 GB | 需卸载到内存 | 69.1 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 50.5 | 128K | |
| 5.7 GB | 能跑 | 44.4 | 182K | |
| 7.1 GB | 能跑 | 35.8 | 256K | |
| 16.9 GB | 需卸载到内存 | 33.6 | 256K | |
| 16.8 GB | 跑不了 | — | — | |
| 16.5 GB | 跑不了 | — | — | |
| 18.3 GB | 需卸载到内存 | 33.9 | 180K | |
| 18.3 GB | 跑不了 | — | — | |
| 22.1 GB | 需卸载到内存 | 45.4 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 31.9 | 128K | |
| 9.5 GB | 能跑 | 27.5 | 68K | |
| 12.7 GB | 跑不了 | — | — | |
| 26.9 GB | 需卸载到内存 | 22.7 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸载到内存 | 21.2 | 170K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸载到内存 | 29.9 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
GeForce RTX 3060 12GB 用 Strata 能跑多大的模型?
GeForce RTX 3060 12GB 配合 Strata 也能跑显存远远装不下的大模型。Strata 把模型主体放在内存和硬盘里,显卡只存最常用的专家。实测数据来自 Strata 作者和社区,多卡配置标了张数,价格由 VRAMGlass 按现价补上。
Strata 把模型分三处放
Qwen3.8 Flash Next Q2_0 · 66.4 GB- 显存 12 GB:每个字都要用的部分,加最常用的专家
- 内存约 40 GB:全部专家,显卡没存的由 CPU 现算
- 硬盘 28.8 GB:查找表,每个字只读几行
2.00 bpw · 257 GB实测
Qwen3.8 Flash Next
IQ3_XXS · 75.8 GB实测
Qwen3.8 Flash Next
IQ2_XS · 68 GB实测
Qwen3.8 Flash Next
IQ2_XS · 68 GB实测
Qwen3.8 Flash Next
Q2_0 · 66.4 GB实测
Qwen3.8 Flash Next
IQ3_XXS · 75.8 GB实测
Qwen3.8 Flash Next
IQ3_S · 83.6 GB实测
Qwen3.8 Flash Next
IQ3_S · 83.6 GB实测部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
适合谁
适合
- 跑 12B 以内的模型
Gemma 4 12B、Qwen3.5 9B 的 4-bit 整卡装下,约 36 到 44 tokens/s,上下文能开到 180K 以上
- 想试 30B 级 MoE
Qwen3.6 35B A3B 的 4-bit 把专家放进内存约 45 tokens/s,比整卡跑的 Gemma 4 12B 还快
- 老电脑换卡
整卡 170W,NVIDIA 建议 550W 电源,插在 PCIe 3.0 老主板上也有满 16 条通道
- 想用 Strata 跑 Qwen3.8 Flash Next
12GB 正好是它的最低显存,配 64GB 内存所有版本都能跑(Strata 还没公布 3060 的实测)
不太适合
- 看重生成速度
同样跑 Gemma 4 12B,RTX 5060 Ti 16GB 约 44、RTX 5070 约 64 tokens/s
- 要 8-bit 跑 12B
Gemma 4 12B 的 8-bit 要 12.7 GB,只超出一点,还是装不下
- 想跑 27B 到 31B 的稠密模型
4-bit 都在 16.5 GB 以上;只有 2-bit 的 Qwen3.8 27B 装得下,上下文 29K、约 26 tokens/s
买前须知
认准 12GB 台式机版
RTX 3060 还有一个 8GB 版,显存位宽从 192-bit 砍到 128-bit,带宽少三分之一;名字更大的 RTX 3060 Ti 也只有 8GB。挂单只写「3060」的,让卖家发 GPU-Z 截图,确认显存 12GB、位宽 192-bit。
没有公版
NVIDIA 没做 3060 公版,市面上全是合作厂商的卡,长度、厚度和供电接口都要按具体型号查。
老主板也不缺通道
3060 接满 16 条 PCIe 通道,插在 PCIe 3.0 老主板上还有 3.0 x16;RTX 4060 Ti 16GB 和 RTX 5060 Ti 16GB 只接 8 条,在同样的主板上带宽只有 3060 的一半。模型整个放进显存后,PCIe 主要影响加载速度。
跑 MoE 先看内存
12GB 卡跑 30B 级 MoE 要靠内存装专家:4-bit 的 Qwen3.6 35B A3B 共 22.1 GB,显存放不下的部分都在内存里,内存不够就启动不了。这时生成速度也取决于内存带宽,DDR5 平台比 DDR4 快。
和同档显卡对比
GeForce RTX 3060 12GB 和 GeForce RTX 5070、GeForce RTX 4060 Ti 16GB、GeForce RTX 2080 Ti 22GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 12 GB | 12 GB相同 | 16 GB多 33% | 22 GB多 83% |
| 带宽 | 360 GB/s | 672 GB/s高 87% | 288 GB/s低 20% | 616 GB/s高 71% |
| BF16 / FP16 算力 | 51 TFLOPS | 124 TFLOPS高 142% | 88 TFLOPS高 73% | 108 TFLOPS高 111% |
| INT8 算力 | 102 TOPS | 247 TOPS高 142% | 177 TOPS高 73% | 215 TOPS高 111% |
| Qwen3.8 27B 速度(2-bit) | 26.4 t/s | 47.8 t/s快 81% | 21.3 t/s慢 19% | 44 t/s快 67% |
| 最高可跑稠密模型(4-bit) | 16B | 16B相同 | 23B多 44% | 34B多 113% |
| 功耗 | 170 W | 250 W高 47% | 165 W相同 | 250 W高 47% |
| 卡间互联 | 不支持 | 不支持 | 不支持 | NVLink 100 GB/s |
| 接口 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x8 | PCIe 3.0 x16 |
| 发布 | 2021-02 | 2025-03 | 2023-07 | 2018-09 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
其他市场价格
作为 eBay 合作伙伴,VRAMGlass 可能在你通过 eBay 链接购买时获得佣金,你支付的价格不变。