GeForce RTX 4060 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 4060 是 NVIDIA 2023 年的入門遊戲卡,8GB 顯示記憶體,適合用 4-bit 跑 9B 以內的模型,12B 要降到 2-bit。整卡只有 115W,NVIDIA 建議整機 550W 電源供應器。
閒魚
GeForce RTX 4060 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4060 完整規格
- 顯存8 GB · GDDR6
- 頻寬272 GB/s
- FP16 / BF1660.5 TFLOPS
- FP8 / INT8121 / 121 TOPS
- 位寬
- 128-bit
- 架構
- Ada Lovelace (AD107)
- 核心
- 3,072
- 張量核心
- 96
- 生態
- CUDA
- 介面
- PCIe 4.0 x8
- NVLink
- 不支援
- 功耗
- 115 W
- 供電介面
- 1× 8-pin
- 類型
- 消費卡
- 發布日期
- 2023年6月29日
- 官方定價
- NT$9,841
單張 GeForce RTX 4060 能跑哪些模型?
單張 RTX 4060 用 4-bit 跑 9B 以內的模型最合適,Qwen3.5 9B 約 34 tokens/s,上下文 54K。30B 級 MoE 把專家放到系統記憶體,2-bit 反而比整卡跑的 9B 還快,前提是記憶體放得下。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 50 | 128K | |
| 4.1 GB | 能跑 | 46.1 | 101K | |
| 4.7 GB | 能跑 | 39.9 | 147K | |
| 10.5 GB | 需卸載到記憶體 | 45.7 | 250K | |
| 11.9 GB | 需卸載到記憶體 | 45.7 | 107K | |
| 12.3 GB | 需卸載到記憶體 | 65.2 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 38.8 | 128K | |
| 5.7 GB | 能跑 | 34 | 54K | |
| 7.1 GB | 跑不了 | — | — | |
| 16.9 GB | 需卸載到記憶體 | 31.4 | 221K | |
| 18.3 GB | 需卸載到記憶體 | 32.7 | 102K | |
| 22.1 GB | 需卸載到記憶體 | 42.5 | 250K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 跑不了 | — | — | |
| 9.5 GB | 跑不了 | — | — | |
| 12.7 GB | 跑不了 | — | — | |
| 26.9 GB | 需卸載到記憶體 | 21.1 | 176K | |
| 31.8 GB | 需卸載到記憶體 | 20.4 | 93K | |
| 36.9 GB | 需卸載到記憶體 | 27.9 | 212K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 日常使用小模型
Gemma 4 E4B 的 4-bit 只佔 5 GB,上下文能開滿 128K
- 想試試 30B 級 MoE
2-bit 的 Qwen3.6 35B A3B 把專家放到系統記憶體約 65 tokens/s,速度主要看記憶體
- 文書機、小型主機加裝顯示卡
功耗低,一個 8-pin 供電就夠
不太適合
- 重視生成速度
顯示記憶體頻寬只有 272 GB/s,跑同一個模型,生成明顯偏慢
- 想跑 12B 以上
Gemma 4 12B 的 4-bit 要 7.1 GB,加上上下文就放不進 8GB 顯示記憶體;27B 級稠密模型完全放不下
買前須知
頻寬比 3060 12GB 還低
跑模型時,生成速度幾乎只看顯示記憶體頻寬。4060 的位寬砍到 128-bit,頻寬 272 GB/s,比上一代 RTX 3060 12GB 的 360 GB/s 還低,顯示記憶體也少 4GB。它的長處是功耗低、發熱小。
4060 和 4060 Ti 別搞混
名稱多一個 Ti 的 4060 Ti 有 8GB、16GB 兩個版本,核心更多,頻寬 288 GB/s;想要多一倍顯示記憶體,可以看 RTX 4060 Ti 16GB。商品刊登只寫「4060」的,請賣家提供 GPU-Z 截圖,確認核心數是 3072。
筆電的 4060 另當別論
筆電裡的 RTX 4060 Laptop 核心數和桌機版一樣是 3072,也是 8GB,但功耗由筆電廠商設定,跑模型的速度不能拿這一頁來估算。
與同級顯卡比較
GeForce RTX 4060 與 GeForce RTX 5060、GeForce RTX 3060 12GB、GeForce RTX 4060 Ti 16GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 8 GB | 8 GB相同 | 12 GB多 50% | 16 GB多 100% |
| 頻寬 | 272 GB/s | 448 GB/s高 65% | 360 GB/s高 32% | 288 GB/s高 6% |
| BF16 / FP16 算力 | 61 TFLOPS | 77 TFLOPS高 27% | 51 TFLOPS低 16% | 88 TFLOPS高 46% |
| INT8 算力 | 121 TOPS | 154 TOPS高 27% | 102 TOPS低 16% | 177 TOPS高 46% |
| Qwen3.8 27B 速度(2-bit) | 不支援 | 不支援 | 26.4 t/s | 21.3 t/s |
| 最高可跑稠密模型(4-bit) | 10B | 10B相同 | 16B多 60% | 23B多 130% |
| 功耗 | 115 W | 145 W高 26% | 170 W高 48% | 165 W高 43% |
| 介面 | PCIe 4.0 x8 | PCIe 5.0 x8 | PCIe 4.0 x16 | PCIe 4.0 x8 |
| 發布 | 2023-06 | 2025-05 | 2021-02 | 2023-07 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。