GeForce RTX 4080 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 4080 是 NVIDIA 2022 年的高階遊戲卡,16GB 顯示記憶體,12B 級模型連 8-bit 都放得下,約 40 tokens/s。它的 12VHPWR 接頭出過熔毀事故,務必插到底。
閒魚
GeForce RTX 4080 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4080 完整規格
- 顯存16 GB · GDDR6X
- 頻寬717 GB/s
- FP16 / BF16195 TFLOPS
- FP8 / INT8389.9 / 389.9 TOPS
- 位寬
- 256-bit
- 架構
- Ada Lovelace (AD103)
- 核心
- 9,728
- 張量核心
- 304
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 不支援
- 功耗
- 320 W
- 供電介面
- 16-pin 12VHPWR
- 類型
- 消費卡
- 發布日期
- 2022年11月16日
- 官方定價
- NT$39,119
單張 GeForce RTX 4080 能跑哪些模型?
單張 RTX 4080 用 4-bit 跑 12B 以內,七十到九十多 tokens/s。27B 以上要降到 2-bit,其中 Qwen3.6 35B A3B 約 149 tokens/s,最值得跑。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 118.3 | 128K | |
| 4.1 GB | 能跑 | 109.9 | 256K | |
| 4.7 GB | 能跑 | 96.4 | 256K | |
| 10.5 GB | 能跑 | 126.3 | 256K | |
| 11.8 GB | 能跑 | 42.8 | 64K | |
| 9.8 GB | 能跑 | 50.7 | 93K | |
| 11.9 GB | 能跑 | 137.7 | 75K | |
| 11.8 GB | 能跑 | 41.3 | 41K | |
| 12.3 GB | 能跑 | 148.9 | 181K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 94 | 128K | |
| 5.7 GB | 能跑 | 83.2 | 256K | |
| 7.1 GB | 能跑 | 67.8 | 256K | |
| 16.9 GB | 需卸載到記憶體 | 37.7 | 256K | |
| 16.8 GB | 跑不了 | — | — | |
| 16.5 GB | 跑不了 | — | — | |
| 18.3 GB | 需卸載到記憶體 | 36 | 198K | |
| 18.3 GB | 跑不了 | — | — | |
| 22.1 GB | 需卸載到記憶體 | 50.7 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 60.7 | 128K | |
| 9.5 GB | 能跑 | 52.8 | 196K | |
| 12.7 GB | 能跑 | 40.1 | 183K | |
| 26.9 GB | 需卸載到記憶體 | 25.5 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸載到記憶體 | 22.5 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 33.7 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 12B 模型想用 8-bit
Gemma 4 12B 的 8-bit(12.7 GB)約 40 tokens/s,4-bit 約 68
- 處理長提示詞比 5070 Ti 略快
BF16 算力高一成,頻寬低的劣勢只在生成時才顯現
- 要 FP8 又不想為軟體版本操心
這一代支援 FP8,從 CUDA 11.8 起就支援,不像 50 系列要 CUDA 12.8 以上
不太適合
- 想用 FP4
FP4 是 50 系列才有的
- 機殼小
公版三槽、長 304 mm,比 5080 公版厚一槽
- 在意功耗
320W,比更快的 5070 Ti 還多 20W
買前須知
4080 還是 4080 SUPER
2024 年 1 月推出的 4080 SUPER 核心多 5%,顯示記憶體同樣是 16GB,頻寬略高,跑模型只差幾個百分點。商品刊登常把兩者混著寫,看清楚型號即可,能放的模型沒有差別。
12VHPWR 接頭
4080 和 4090 用的都是第一代 16-pin 12VHPWR。4090 發生過接頭熔化的事件,NVIDIA 調查認為主因是接頭沒有插到底,所以要先把轉接線插進顯示卡、確認插到底,再接電源線;插法和驗貨重點請見 RTX 4090 頁面。
公版尺寸和電源
公版三槽、長 304 mm,和 4090 公版一樣大,NVIDIA 建議整機 750W 電源供應器。之後如果想加第二張卡,一般主機板很難並排放兩張三槽卡。
與同級顯卡比較
GeForce RTX 4080 與 GeForce RTX 5070 Ti、GeForce RTX 3090、GeForce RTX 4080 SUPER 32GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 16 GB | 16 GB相同 | 24 GB多 50% | 32 GB多 100% |
| 頻寬 | 717 GB/s | 896 GB/s高 25% | 936 GB/s高 31% | 736 GB/s相同 |
| BF16 / FP16 算力 | 195 TFLOPS | 176 TFLOPS低 10% | 142 TFLOPS低 27% | 209 TFLOPS高 7% |
| INT8 算力 | 390 TOPS | 352 TOPS低 10% | 285 TOPS低 27% | 418 TOPS高 7% |
| Qwen3.8 27B 速度(2-bit) | 50.7 t/s | 62.3 t/s快 23% | 64.8 t/s快 28% | 52 t/s相同 |
| 最高可跑稠密模型(4-bit) | 23B | 23B相同 | 37B多 61% | 51B多 122% |
| 功耗 | 320 W | 300 W低 6% | 350 W高 9% | 320 W相同 |
| 卡間互連 | 不支援 | 不支援 | NVLink 112.5 GB/s | 不支援 |
| 介面 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 |
| 發布 | 2022-11 | 2025-02 | 2020-09 | 2024-01 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4080 租用價格
GeForce RTX 4080 隨需租用每小時 NT$8.8 起(RunPod),每天用 8 小時約 NT$2,144/月。買一張(閒魚中位價 NT$38,959)每天用 4、8、24 小時,分別約 3.4 年、1.7 年、7 個月回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$8.8/小時 | NT$1,072/月 | NT$2,144/月 | NT$6,431/月 | 去租 | |
| NT$14.1/小時 | NT$1,711/月 | NT$3,423/月 | NT$10,268/月 | 去租 | |
| NT$38,959 | 約 3.4 年回本電費 NT$112/月 | 約 1.7 年回本電費 NT$223/月 | 約 7 個月回本電費 NT$670/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 320 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。