GeForce RTX 3060 12GB 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 3060 12GB 是 NVIDIA 2021 年的入門遊戲卡,12GB 顯示記憶體適合跑 12B 以內的模型,整卡只要 170W。買之前請賣家截圖,確認不是頻寬少三分之一的 8GB 版。
閒魚
GeForce RTX 3060 12GB 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 3060 12GB 完整規格
- 顯存12 GB · GDDR6
- 頻寬360 GB/s
- FP16 / BF1651 TFLOPS
- INT8101.9 TOPS
- 位寬
- 192-bit
- 架構
- Ampere (GA106)
- 核心
- 3,584
- 張量核心
- 112
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 不支援
- 功耗
- 170 W
- 類型
- 消費卡
- 發布日期
- 2021年2月25日
- 官方定價
- NT$10,829
單張 GeForce RTX 3060 12GB 能跑哪些模型?
單張 RTX 3060 12GB 用 4-bit 跑 12B 以內最合適,Gemma 4 12B 約 36 tokens/s。30B 級 MoE 借用系統記憶體也能跑,約 45 tokens/s,前提是記憶體夠大。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 64.7 | 128K | |
| 4.1 GB | 能跑 | 59.8 | 229K | |
| 4.7 GB | 能跑 | 51.9 | 256K | |
| 10.5 GB | 能跑 | 90 | 52K | |
| 11.8 GB | 跑不了 | — | — | |
| 9.8 GB | 能跑 | 26.4 | 29K | |
| 11.9 GB | 需卸載到記憶體 | 47.4 | 185K | |
| 11.8 GB | 跑不了 | — | — | |
| 12.3 GB | 需卸載到記憶體 | 69.1 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 50.5 | 128K | |
| 5.7 GB | 能跑 | 44.4 | 182K | |
| 7.1 GB | 能跑 | 35.8 | 256K | |
| 16.9 GB | 需卸載到記憶體 | 33.6 | 256K | |
| 16.8 GB | 跑不了 | — | — | |
| 16.5 GB | 跑不了 | — | — | |
| 18.3 GB | 需卸載到記憶體 | 33.9 | 180K | |
| 18.3 GB | 跑不了 | — | — | |
| 22.1 GB | 需卸載到記憶體 | 45.4 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 31.9 | 128K | |
| 9.5 GB | 能跑 | 27.5 | 68K | |
| 12.7 GB | 跑不了 | — | — | |
| 26.9 GB | 需卸載到記憶體 | 22.7 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸載到記憶體 | 21.2 | 170K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 29.9 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
GeForce RTX 3060 12GB 用 Strata 能跑多大的模型?
Strata 把模型主體放在記憶體和硬碟裡,顯示卡只存最常用的專家,所以 GeForce RTX 3060 12GB 也能跑顯示記憶體遠遠裝不下的大模型。以下是 Strata 作者和社群在這張卡上的實測,多卡的標了張數,價格由本站依現價補上。
Strata 把模型分三處放
Qwen3.8 Flash Next Q2_0 · 66.4 GB- 顯示記憶體 12 GB:每個字都要用的部分,加上最常用的專家
- 記憶體約 40 GB:全部專家,顯示卡沒存的由 CPU 即時計算
- 硬碟 28.8 GB:查找表,每個字只讀幾行
2.00 bpw · 257 GB實測
Qwen3.8 Flash Next
IQ3_XXS · 75.8 GB實測
Qwen3.8 Flash Next
IQ2_XS · 68 GB實測
Qwen3.8 Flash Next
IQ2_XS · 68 GB實測
Qwen3.8 Flash Next
Q2_0 · 66.4 GB實測
Qwen3.8 Flash Next
IQ3_XXS · 75.8 GB實測
Qwen3.8 Flash Next
IQ3_S · 83.6 GB實測
Qwen3.8 Flash Next
IQ3_S · 83.6 GB實測部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
適合誰
適合
- 跑 12B 以內的模型
Gemma 4 12B、Qwen3.5 9B 的 4-bit 整卡放得下,約 36 到 44 tokens/s,上下文能開到 180K 以上
- 想試試 30B 級 MoE
Qwen3.6 35B A3B 的 4-bit 把專家放到系統記憶體約 45 tokens/s,比整卡跑的 Gemma 4 12B 還快
- 老電腦換卡
整卡 170W,NVIDIA 建議 550W 電源供應器,插在 PCIe 3.0 的舊主機板上也有完整 16 條通道
- 想用 Strata 跑 Qwen3.8 Flash Next
12GB 正好是它的最低顯示記憶體需求,搭配 64GB 記憶體所有版本都能跑(Strata 還沒公布 3060 的實測)
不太適合
- 重視生成速度
同樣跑 Gemma 4 12B,RTX 5060 Ti 16GB 約 44、RTX 5070 約 64 tokens/s
- 要用 8-bit 跑 12B
Gemma 4 12B 的 8-bit 要 12.7 GB,只差一點,還是放不下
- 想跑 27B 到 31B 的稠密模型
4-bit 都在 16.5 GB 以上;只有 2-bit 的 Qwen3.8 27B 放得下,上下文 29K、約 26 tokens/s
買前須知
認明 12GB 桌機版
RTX 3060 還有一個 8GB 版,記憶體位寬從 192-bit 砍到 128-bit,頻寬少了三分之一;名字聽起來更高階的 RTX 3060 Ti 也只有 8GB。商品刊登只寫「3060」的,請賣家提供 GPU-Z 截圖,確認顯示記憶體是 12GB、位寬 192-bit。
沒有公版
NVIDIA 沒有推出 3060 公版,市面上全是合作廠商的卡,長度、厚度和供電接頭都要依個別型號確認。
舊主機板也不缺通道
3060 接滿 16 條 PCIe 通道,插在 PCIe 3.0 的舊主機板上仍有 3.0 x16;RTX 4060 Ti 16GB 和 RTX 5060 Ti 16GB 只接 8 條,在同樣的主機板上頻寬只有 3060 的一半。模型整個放進顯示記憶體之後,PCIe 主要影響的是載入速度。
跑 MoE 先看系統記憶體
12GB 的卡跑 30B 級 MoE 要靠系統記憶體裝專家:4-bit 的 Qwen3.6 35B A3B 共 22.1 GB,顯示記憶體放不下的部分都在系統記憶體裡,記憶體不夠就無法啟動。這時生成速度也取決於系統記憶體頻寬,DDR5 平台比 DDR4 快。
與同級顯卡比較
GeForce RTX 3060 12GB 與 GeForce RTX 5070、GeForce RTX 4060 Ti 16GB、GeForce RTX 2080 Ti 22GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 12 GB | 12 GB相同 | 16 GB多 33% | 22 GB多 83% |
| 頻寬 | 360 GB/s | 672 GB/s高 87% | 288 GB/s低 20% | 616 GB/s高 71% |
| BF16 / FP16 算力 | 51 TFLOPS | 124 TFLOPS高 142% | 88 TFLOPS高 73% | 108 TFLOPS高 111% |
| INT8 算力 | 102 TOPS | 247 TOPS高 142% | 177 TOPS高 73% | 215 TOPS高 111% |
| Qwen3.8 27B 速度(2-bit) | 26.4 t/s | 47.8 t/s快 81% | 21.3 t/s慢 19% | 44 t/s快 67% |
| 最高可跑稠密模型(4-bit) | 16B | 16B相同 | 23B多 44% | 34B多 113% |
| 功耗 | 170 W | 250 W高 47% | 165 W相同 | 250 W高 47% |
| 卡間互連 | 不支援 | 不支援 | 不支援 | NVLink 100 GB/s |
| 介面 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x8 | PCIe 3.0 x16 |
| 發布 | 2021-02 | 2025-03 | 2023-07 | 2018-09 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。