GeForce RTX 4090 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 4090 是 NVIDIA 2022 年的旗艦遊戲卡,24GB 顯示記憶體,4-bit 跑 Qwen3.8 27B 約 43 tokens/s。二手市場有核心被拆走的空板,驗貨一定要開機跑滿載。
閒魚
GeForce RTX 4090 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4090 完整規格
- 顯存24 GB · GDDR6X
- 頻寬1,008 GB/s
- FP16 / BF16330.3 TFLOPS
- FP8 / INT8660.6 / 660.6 TOPS
- 位寬
- 384-bit
- 架構
- Ada Lovelace (AD102)
- 核心
- 16,384
- 張量核心
- 512
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 不支援
- 功耗
- 450 W
- 供電介面
- 16-pin 12VHPWR
- 槽位
- 3
- 長度
- 304 mm
- 類型
- 消費卡
- 發布日期
- 2022年10月12日
- 官方定價
- NT$52,170
單張 GeForce RTX 4090 能跑哪些模型?
單張 RTX 4090 用 4-bit 能放到 35B 級,27B 約 43 tokens/s,但留給上下文的空間不多。8-bit 只放得下 12B 級。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 155.8 | 128K | |
| 4.1 GB | 能跑 | 145.4 | 256K | |
| 4.7 GB | 能跑 | 128.5 | 256K | |
| 10.5 GB | 能跑 | 143.1 | 256K | |
| 11.8 GB | 能跑 | 58.8 | 192K | |
| 9.8 GB | 能跑 | 69.3 | 221K | |
| 11.9 GB | 能跑 | 153.4 | 198K | |
| 11.8 GB | 能跑 | 56.7 | 143K | |
| 12.3 GB | 能跑 | 163 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 125.5 | 128K | |
| 5.7 GB | 能跑 | 111.8 | 256K | |
| 7.1 GB | 能跑 | 91.9 | 256K | |
| 16.9 GB | 能跑 | 121.4 | 256K | |
| 16.8 GB | 能跑 | 42.6 | 117K | |
| 16.5 GB | 能跑 | 43.3 | 122K | |
| 18.3 GB | 能跑 | 136.1 | 115K | |
| 18.3 GB | 能跑 | 38.4 | 66K | |
| 22.1 GB | 能跑 | 139 | 123K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 82.6 | 128K | |
| 9.5 GB | 能跑 | 72.1 | 256K | |
| 12.7 GB | 能跑 | 55.1 | 256K | |
| 26.9 GB | 需卸載到記憶體 | 26.4 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸載到記憶體 | 22.9 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 35 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 GeForce RTX 4090 能跑哪些模型?
兩張 4090 適合 48B 級 MoE;四張(96GB)才放得下 2-bit 的 Qwen3.8 Flash Next,DeepSeek V4 Flash 要 8 張。4090 沒有 NVLink。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 張 | NT$487,593 | 96 GB | 115.1 | 1,800 W | |
| 96.8 GB | 8 張 | NT$975,186 | 192 GB | 94.8 | 3,600 W | |
| 107.2 GB | 8 張 | NT$975,186 | 192 GB | 46.8 | 3,600 W | |
| 108.7 GB | 8 張 | NT$975,186 | 192 GB | 77.8 | 3,600 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 8 張 | NT$975,186 | 192 GB | 98.8 | 3,600 W | |
| 155.1 GB | 8 張 | NT$975,186 | 192 GB | 71.4 | 3,600 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 張 | NT$975,186 | 192 GB | 69.4 | 3,600 W |
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 想用一張卡跑 27B 到 31B 稠密模型
4-bit 的 Qwen3.8 27B 約 43 tokens/s、上下文可開到 122K,Gemma 4 31B 約 38
- 30B 級 MoE 要整張卡放得下
4-bit 的 Qwen3.6 35B A3B 約 139 tokens/s,GLM 4.7 Flash 約 136
- 經常丟長文件進去、跑批次請求
運算能力是 3090 的 2.3 倍,還支援 FP8
不太適合
- 只拿來一個人聊天
生成速度取決於頻寬,它只比 3090 高 8%,同一個稠密模型大約快 7%
- 想用 8-bit 跑 27B
Qwen3.8 27B 的 8-bit 需要 29 GB,得換成 32GB 的 5090
- 雙卡想走 NVLink
40 系列已取消 NVLink,卡與卡之間只能透過 PCIe
買前須知
當心核心被拆走的空卡
中國大陸有大量 4090 被拆下核心和顯示記憶體,改裝成雙槽渦輪卡或 48GB 卡,二手市場也跟著出現只剩空板、甚至換上假晶片的 4090,海外維修店已多次公開這類案例。驗貨時務必開機跑滿載,用 nvidia-smi 核對型號和 24GB 的 VRAM,不要只看照片。
12VHPWR 一定要插到底
2022 年底 NVIDIA 接獲約 50 起插頭熔毀通報,調查認為主因是插頭沒有插到底。Gamers Nexus 的測試也發現,插頭沒插到底,或插上後線材被斜向拉扯,都會讓插頭鬆脫幾公釐而發熱。因此組裝時要插到四周完全沒有縫隙,插頭根部不要急彎,也別一再拔插檢查,那樣反而更容易鬆脫;買二手卡則先看接頭有沒有發黃或燒黑。
電源供應器與尺寸
NVIDIA 建議 450W 的 4090 搭配 850W 電源供應器。公版為三槽、長 304 mm,不少非公版更厚,最多會佔掉四個插槽,組裝前先量好機殼和主機板的插槽間距。
中國大陸另有 4090 D
2023 年底在中國大陸上市的 4090 D 是降規版:核心少了約一成,功耗 425W,顯示記憶體同樣是 24GB,頻寬也相同。生成速度和 4090 幾乎一樣,處理長提示詞稍慢;看賣場時要確認是哪一版。
與同級顯卡比較
GeForce RTX 4090 與 GeForce RTX 3090、GeForce RTX 5090、GeForce RTX 4090 48GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 24 GB | 24 GB相同 | 32 GB多 33% | 48 GB多 100% |
| 頻寬 | 1,008 GB/s | 936 GB/s低 7% | 1,792 GB/s高 78% | 1,008 GB/s相同 |
| BF16 / FP16 算力 | 330 TFLOPS | 142 TFLOPS低 57% | 419 TFLOPS高 27% | 330 TFLOPS相同 |
| INT8 算力 | 661 TOPS | 285 TOPS低 57% | 838 TOPS高 27% | 661 TOPS相同 |
| Qwen3.8 27B 速度(2-bit) | 69.3 t/s | 64.8 t/s慢 6% | 114.6 t/s快 65% | 69.3 t/s相同 |
| 最高可跑稠密模型(4-bit) | 37B | 37B相同 | 51B多 38% | 79B多 114% |
| 功耗 | 450 W | 350 W低 22% | 575 W高 28% | 450 W相同 |
| 卡間互連 | 不支援 | NVLink 112.5 GB/s | 不支援 | 不支援 |
| 介面 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 發布 | 2022-10 | 2020-09 | 2025-01 | 2022-10 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4090 租用價格
GeForce RTX 4090 在優雲智算隨需租用每小時 NT$10,每天用 8 小時約 NT$2,432/月。買一張(閒魚中位價 NT$121,898)每天用 4、8、24 小時,分別約 9.6 年、4.8 年、1.6 年回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$10/小時 | NT$1,216/月 | NT$2,432/月 | NT$7,297/月 | 去租 | |
| NT$121,898 | 約 9.6 年回本電費 NT$157/月 | 約 4.8 年回本電費 NT$314/月 | 約 1.6 年回本電費 NT$943/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 450 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。