GeForce RTX 3090 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 3090 是 NVIDIA 2020 年的旗艦遊戲卡,24GB 顯示記憶體,4-bit 跑 Qwen3.8 27B 約 40 tokens/s,現在幾乎只有二手。不少挖過礦,驗貨要看滿載時的記憶體溫度。
閒魚
GeForce RTX 3090 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 3090 完整規格
- 顯存24 GB · GDDR6X
- 頻寬936 GB/s
- FP16 / BF16142.3 TFLOPS
- INT8284.7 TOPS
- 位寬
- 384-bit
- 架構
- Ampere (GA102)
- 核心
- 10,496
- 張量核心
- 328
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 112.5 GB/s
- 功耗
- 350 W
- 供電介面
- 12-pin (Founders Edition)
- 槽位
- 3
- 長度
- 313 mm
- 類型
- 消費卡
- 發布日期
- 2020年9月24日
- 官方定價
- NT$48,584
單張 GeForce RTX 3090 能跑哪些模型?
單張 RTX 3090 只有 4-bit 能放到 35B 級:27B 到 31B 稠密模型 35 到 40 tokens/s,30B 級 MoE 超過 130。8-bit 只放得下 12B 級。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 147 | 128K | |
| 4.1 GB | 能跑 | 137.1 | 256K | |
| 4.7 GB | 能跑 | 120.9 | 256K | |
| 10.5 GB | 能跑 | 139.6 | 256K | |
| 11.8 GB | 能跑 | 54.9 | 192K | |
| 9.8 GB | 能跑 | 64.8 | 221K | |
| 11.9 GB | 能跑 | 150.1 | 198K | |
| 11.8 GB | 能跑 | 53 | 143K | |
| 12.3 GB | 能跑 | 160.1 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 118 | 128K | |
| 5.7 GB | 能跑 | 105 | 256K | |
| 7.1 GB | 能跑 | 86.1 | 256K | |
| 16.9 GB | 能跑 | 117.5 | 256K | |
| 16.8 GB | 能跑 | 39.7 | 117K | |
| 16.5 GB | 能跑 | 40.4 | 122K | |
| 18.3 GB | 能跑 | 132.4 | 115K | |
| 18.3 GB | 能跑 | 35.8 | 66K | |
| 22.1 GB | 能跑 | 135.4 | 123K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 77.3 | 128K | |
| 9.5 GB | 能跑 | 67.5 | 256K | |
| 12.7 GB | 能跑 | 51.5 | 256K | |
| 26.9 GB | 需卸載到記憶體 | 26.3 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸載到記憶體 | 22.8 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 34.7 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 GeForce RTX 3090 能跑哪些模型?
兩張 3090(48GB)適合 48B 級 MoE,四張(96GB)能用 4-bit 跑 Llama 3.3 70B 和 gpt-oss 120B。支援 NVLink 橋接器,vLLM 雙卡時能明顯加速。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 張 | NT$170,551 | 96 GB | 111.1 | 1,400 W | |
| 96.8 GB | 8 張 | NT$341,103 | 192 GB | 90.9 | 2,800 W | |
| 107.2 GB | 8 張 | NT$341,103 | 192 GB | 44.1 | 2,800 W | |
| 108.7 GB | 8 張 | NT$341,103 | 192 GB | 74.2 | 2,800 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 8 張 | NT$341,103 | 192 GB | 94.9 | 2,800 W | |
| 155.1 GB | 8 張 | NT$341,103 | 192 GB | 67.9 | 2,800 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 張 | NT$341,103 | 192 GB | 66 | 2,800 W |
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 單卡跑 Qwen3.8 27B、Gemma 4 31B 這類 27B 到 31B 的稠密模型
4-bit 放得下,約 36 到 40 tokens/s
- 跑 Qwen3.6 35B A3B、GLM 4.7 Flash 這類 MoE
每個字只動用 3B 參數,單卡能到 130 tokens/s 以上
- 想少花心思在軟體上
CUDA 生態系最完整,vLLM、ExLlamaV2 都能直接用
- 打算之後再加一張卡
30 系列裡只有 3090 和 3090 Ti 能用 NVLink 橋接器連接雙卡
不太適合
- 要單卡跑 70B 級稠密模型
24GB 放不下 4-bit,至少要兩張
- 長時間滿載又在意電費和噪音
整卡 350W,背面的記憶體在夏天很燙
- 需要 FP8
這一代晶片不支援 FP8 運算,FP8 模型在它上面快不起來
買前須知
先查背面記憶體溫度
3090 有一半的記憶體顆粒(24 顆裡的 12 顆)焊在電路板背面,只靠背板散熱,挖礦時這些顆粒長年處在 100°C 到 110°C。驗貨時跑十分鐘滿載,用 HWiNFO 看 Memory Junction Temperature:穩定在 100°C 以下比較放心;逼近 110°C 代表導熱墊老化了,換一套通常能降 10°C 到 20°C。
電源要留足餘裕
3090 滿載時有瞬間功耗尖峰,電源供應器餘裕不夠或老化的話,會觸發保護直接斷電重開機。NVIDIA 官方建議整機 750W,就算只裝這一張卡,我們也建議用 850W。公版使用 12-pin 接頭並附轉接線,非公版多半是兩到三個 8-pin。
機殼放不放得下
公版長 313 mm、厚三槽,不少非公版超過 320 mm。打算上雙卡的話,先確認主機板兩條顯示卡插槽之間至少隔三個槽位,不然上面那張卡會被悶住。
軟體
軟體基本上不用操心,llama.cpp、Ollama、vLLM、ExLlamaV2 都能直接用。唯一要注意的是它不支援 FP8:下載模型時選 GGUF 的 4-bit、5-bit,或 AWQ、GPTQ 這類 4-bit 格式,別下載 FP8 版。
與同級顯卡比較
GeForce RTX 3090 與 GeForce RTX 4090、Radeon RX 7900 XTX、GeForce RTX 5070 Ti 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | Radeon RX 7900 XTX | |||
|---|---|---|---|---|
| 顯存 | 24 GB | 24 GB相同 | 24 GB相同 | 16 GB少 33% |
| 頻寬 | 936 GB/s | 1,008 GB/s高 8% | 960 GB/s相同 | 896 GB/s低 4% |
| BF16 / FP16 算力 | 142 TFLOPS | 330 TFLOPS高 132% | 123 TFLOPS低 14% | 176 TFLOPS高 23% |
| INT8 算力 | 285 TOPS | 661 TOPS高 132% | 123 TOPS低 57% | 352 TOPS高 23% |
| Qwen3.8 27B 速度(2-bit) | 64.8 t/s | 69.3 t/s快 7% | 66.3 t/s相同 | 62.3 t/s慢 4% |
| 最高可跑稠密模型(4-bit) | 37B | 37B相同 | 37B相同 | 23B少 38% |
| 功耗 | 350 W | 450 W高 29% | 355 W相同 | 300 W低 14% |
| 卡間互連 | NVLink 112.5 GB/s | 不支援 | — | 不支援 |
| 介面 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 發布 | 2020-09 | 2022-10 | 2022-12 | 2025-02 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 3090 租用價格
GeForce RTX 3090 在優雲智算隨需租用每小時 NT$5.5,每天用 8 小時約 NT$1,332/月。買一張(閒魚中位價 NT$42,638)每天用 4、8、24 小時,分別約 6.5 年、3.3 年、1.1 年回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$5.5/小時 | NT$666/月 | NT$1,332/月 | NT$3,997/月 | 去租 | |
| NT$42,638 | 約 6.5 年回本電費 NT$122/月 | 約 3.3 年回本電費 NT$244/月 | 約 1.1 年回本電費 NT$733/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 350 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。