GeForce RTX 4070 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 4070 是 NVIDIA 2023 年的中階遊戲卡,12GB 顯示記憶體,4-bit 跑 Gemma 4 12B 約 49 tokens/s。2024 年 8 月以後出廠的有一部分改用 GDDR6 顯示記憶體,生成會慢一點。
閒魚
GeForce RTX 4070 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4070 完整規格
- 顯存12 GB · GDDR6X
- 頻寬504 GB/s
- FP16 / BF16116.8 TFLOPS
- FP8 / INT8233.6 / 233.6 TOPS
- 位寬
- 192-bit
- 架構
- Ada Lovelace (AD104)
- 核心
- 5,888
- 張量核心
- 184
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 不支援
- 功耗
- 200 W
- 供電介面
- 公版 16-pin 12VHPWR(附转接线);多数非公版 1× 8-pin
- 槽位
- 2
- 長度
- 244 mm
- 類型
- 消費卡
- 發布日期
- 2023年4月13日
- 官方定價
- NT$19,715
單張 GeForce RTX 4070 能跑哪些模型?
單張 RTX 4070 最適合用 4-bit 跑 9B 到 12B 的模型,Gemma 4 12B 約 49 tokens/s。再往上,2-bit 的 Gemma 4 26B A4B 還能整卡放下;稠密模型只剩 2-bit 的 Qwen3.8 27B,上下文很吃緊。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 87.5 | 128K | |
| 4.1 GB | 能跑 | 81 | 229K | |
| 4.7 GB | 能跑 | 70.6 | 256K | |
| 10.5 GB | 能跑 | 107.8 | 52K | |
| 11.8 GB | 跑不了 | — | — | |
| 9.8 GB | 能跑 | 36.4 | 29K | |
| 11.9 GB | 需卸載到記憶體 | 49.1 | 185K | |
| 11.8 GB | 跑不了 | — | — | |
| 12.3 GB | 需卸載到記憶體 | 73 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 68.8 | 128K | |
| 5.7 GB | 能跑 | 60.6 | 182K | |
| 7.1 GB | 能跑 | 49.1 | 256K | |
| 16.9 GB | 需卸載到記憶體 | 35.9 | 256K | |
| 16.8 GB | 跑不了 | — | — | |
| 16.5 GB | 跑不了 | — | — | |
| 18.3 GB | 需卸載到記憶體 | 35.1 | 180K | |
| 18.3 GB | 跑不了 | — | — | |
| 22.1 GB | 需卸載到記憶體 | 48.3 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 43.8 | 128K | |
| 9.5 GB | 能跑 | 38 | 68K | |
| 12.7 GB | 跑不了 | — | — | |
| 26.9 GB | 需卸載到記憶體 | 24.2 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸載到記憶體 | 21.9 | 170K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 32 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 跑 9B 到 12B 的模型
4-bit 的 Qwen3.5 9B 約 61 tokens/s,上下文能開到 180K 以上
- 用 2-bit 跑 26B 級 MoE
Gemma 4 26B A4B 只佔 10.5 GB,整卡約 108 tokens/s,上下文 52K
- 老電腦換卡
整卡 200W,NVIDIA 建議整機 650W 電源供應器,不少非公版只要一個 8-pin 供電
不太適合
- 想用 8-bit 跑 12B
Gemma 4 12B 的 8-bit 權重 12.7 GB,加上上下文和執行時的額外開銷,就放不進 12GB 顯示記憶體
- 跑 27B 級稠密模型
4-bit 起步就要 16.5 GB;只有 2-bit 的 Qwen3.8 27B 放得下,上下文 29K、約 36 tokens/s
- 想整卡跑 30B 級 MoE
Qwen3.6 35B A3B 的 2-bit 也有 12.3 GB,加上上下文就放不進 12GB 顯示記憶體,得把專家放到系統記憶體,這樣跑約 73 tokens/s
買前須知
GDDR6 版生成慢 5% 左右
2024 年 8 月起 NVIDIA 多推出一款採用 GDDR6 顯示記憶體的 4070,其他規格不變,頻寬從 504 降到 480 GB/s。遊戲裡只慢 1% 左右,跑模型時生成速度跟著頻寬走,大約慢 5%。包裝盒和 GPU-Z 上都看得到顯示記憶體類型。
四款 4070 別搞混
4070、4070 SUPER、4070 Ti 都是 12GB、192-bit,放得下的模型都一樣;只有 4070 Ti SUPER 是 16GB。二手拍賣簡寫成「4070S」的是 4070 SUPER,不是這張卡。下單前請賣家提供 GPU-Z 截圖,確認核心數是 5888。
筆電的 4070 只有 8GB
筆電裡的 RTX 4070 Laptop 只有 8GB 顯示記憶體、128-bit 位寬,跑模型的能力差很多。看到「4070 筆電」時,別拿這一頁的資料來估算。
公版雙槽,小機殼也放得下
NVIDIA 有推出公版:雙槽、長 244 mm,供電是 16-pin 接頭,盒內附轉接線;不少非公版直接用一個 8-pin。尺寸以個別型號為準。
與同級顯卡比較
GeForce RTX 4070 與 GeForce RTX 5070、GeForce RTX 3060 12GB、GeForce RTX 4060 Ti 16GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 12 GB | 12 GB相同 | 12 GB相同 | 16 GB多 33% |
| 頻寬 | 504 GB/s | 672 GB/s高 33% | 360 GB/s低 29% | 288 GB/s低 43% |
| BF16 / FP16 算力 | 117 TFLOPS | 124 TFLOPS高 6% | 51 TFLOPS低 56% | 88 TFLOPS低 24% |
| INT8 算力 | 234 TOPS | 247 TOPS高 6% | 102 TOPS低 56% | 177 TOPS低 24% |
| Qwen3.8 27B 速度(2-bit) | 36.4 t/s | 47.8 t/s快 31% | 26.4 t/s慢 27% | 21.3 t/s慢 41% |
| 最高可跑稠密模型(4-bit) | 16B | 16B相同 | 16B相同 | 23B多 44% |
| 功耗 | 200 W | 250 W高 25% | 170 W低 15% | 165 W低 18% |
| 介面 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x8 |
| 發布 | 2023-04 | 2025-03 | 2021-02 | 2023-07 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。