GeForce RTX 4060 价格走势、显存规格与本地大模型部署
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
RTX 4060 是 NVIDIA 2023 年的入门游戏卡,8GB 显存,适合 4-bit 跑 9B 以内的模型,12B 要降到 2-bit。整卡只有 115W,NVIDIA 建议整机 550W 电源。
闲鱼
GeForce RTX 4060 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
GeForce RTX 4060 完整规格
- 显存8 GB · GDDR6
- 带宽272 GB/s
- FP16 / BF1660.5 TFLOPS
- FP8 / INT8121 / 121 TOPS
- 位宽
- 128-bit
- 架构
- Ada Lovelace (AD107)
- 核心
- 3,072
- 张量核心
- 96
- 生态
- CUDA
- 接口
- PCIe 4.0 x8
- NVLink
- 不支持
- 功耗
- 115 W
- 供电接口
- 1× 8-pin
- 类型
- 消费卡
- 发布日期
- 2023年6月29日
- 官方定价
- ¥1,999
单张 GeForce RTX 4060 能跑哪些模型?
单张 RTX 4060 用 4-bit 跑 9B 以内的模型最合适,Qwen3.5 9B 约 34 tokens/s,上下文 54K。30B 级 MoE 把专家放进内存,2-bit 反而比整卡跑的 9B 还快,前提是内存装得下。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 50 | 128K | |
| 4.1 GB | 能跑 | 46.1 | 101K | |
| 4.7 GB | 能跑 | 39.9 | 147K | |
| 10.5 GB | 需卸载到内存 | 45.7 | 250K | |
| 11.9 GB | 需卸载到内存 | 45.7 | 107K | |
| 12.3 GB | 需卸载到内存 | 65.2 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 38.8 | 128K | |
| 5.7 GB | 能跑 | 34 | 54K | |
| 7.1 GB | 跑不了 | — | — | |
| 16.9 GB | 需卸载到内存 | 31.4 | 221K | |
| 18.3 GB | 需卸载到内存 | 32.7 | 102K | |
| 22.1 GB | 需卸载到内存 | 42.5 | 250K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 跑不了 | — | — | |
| 9.5 GB | 跑不了 | — | — | |
| 12.7 GB | 跑不了 | — | — | |
| 26.9 GB | 需卸载到内存 | 21.1 | 176K | |
| 31.8 GB | 需卸载到内存 | 20.4 | 93K | |
| 36.9 GB | 需卸载到内存 | 27.9 | 212K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
适合谁
适合
- 小模型日常用
Gemma 4 E4B 的 4-bit 只占 5 GB,上下文能开满 128K
- 想试 30B 级 MoE
2-bit 的 Qwen3.6 35B A3B 把专家放进内存约 65 tokens/s,速度主要看内存
- 办公机、小主机加卡
功耗低,一个 8-pin 供电就够
不太适合
- 看重生成速度
显存带宽只有 272 GB/s,同一个模型生成明显偏慢
- 想跑 12B 以上
Gemma 4 12B 的 4-bit 要 7.1 GB,加上上下文就放不进 8GB;27B 级稠密模型完全装不下
买前须知
带宽比 3060 12GB 还低
跑模型时生成速度几乎只看显存带宽。4060 的位宽砍到 128-bit,带宽 272 GB/s,比上一代 RTX 3060 12GB 的 360 GB/s 还低,显存也少 4GB。它的长处是功耗低、发热小。
4060 和 4060 Ti 别看混
名字多一个 Ti 的 4060 Ti 有 8GB、16GB 两版,核心更多,带宽 288 GB/s;想要多一倍显存,看 RTX 4060 Ti 16GB。挂单只写「4060」的,让卖家发 GPU-Z 截图,确认核心数是 3072。
笔记本 4060 另算
笔记本里的 RTX 4060 Laptop 核心数和台式机一样是 3072,也是 8GB,但功耗由笔记本厂商设定,跑模型的速度不能按这一页估算。
和同档显卡对比
GeForce RTX 4060 和 GeForce RTX 5060、GeForce RTX 3060 12GB、GeForce RTX 4060 Ti 16GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | ||||
|---|---|---|---|---|
| 显存 | 8 GB | 8 GB相同 | 12 GB多 50% | 16 GB多 100% |
| 带宽 | 272 GB/s | 448 GB/s高 65% | 360 GB/s高 32% | 288 GB/s高 6% |
| BF16 / FP16 算力 | 61 TFLOPS | 77 TFLOPS高 27% | 51 TFLOPS低 16% | 88 TFLOPS高 46% |
| INT8 算力 | 121 TOPS | 154 TOPS高 27% | 102 TOPS低 16% | 177 TOPS高 46% |
| Qwen3.8 27B 速度(2-bit) | 不支持 | 不支持 | 26.4 t/s | 21.3 t/s |
| 最高可跑稠密模型(4-bit) | 10B | 10B相同 | 16B多 60% | 23B多 130% |
| 功耗 | 115 W | 145 W高 26% | 170 W高 48% | 165 W高 43% |
| 接口 | PCIe 4.0 x8 | PCIe 5.0 x8 | PCIe 4.0 x16 | PCIe 4.0 x8 |
| 发布 | 2023-06 | 2025-05 | 2021-02 | 2023-07 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
其他市场价格
作为 eBay 合作伙伴,VRAMGlass 可能在你通过 eBay 链接购买时获得佣金,你支付的价格不变。