GeForce RTX 3090 能跑什麼模型?24GB 記憶體 · 二手價 · 速度
查價
GeForce RTX 3090 有 24GB GDDR6X 顯存,頻寬 936 GB/s。目前閒魚二手中位價 NT$37,836。Q4 量化下最大能跑到 32B 參數的模型,預估 33 tokens/s。
GeForce RTX 3090 完整規格
核心10,496
張量核心328
架構Ampere (GA102)
顯存24 GB · GDDR6X
位寬384-bit
頻寬936 GB/s
BF16 / FP8 / INT8142.3 / — / 284.7
生態CUDA
別名RTX 3090 · 3090
閒魚二手NT$37,8368 筆掛牌 · +2.5%
類型消費卡
功耗350 W
供電介面12-pin (Founders Edition)
槽位3
長度313 mm
介面PCIe 4.0 x16
發布日期2020年9月24日
官方定價NT$47,413
GeForce RTX 3090 能跑哪些模型?
參考模型取每個家族的主力版本| 模型 | Q4_K_M | Q8_0 | FP16 | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | |
| DeepSeekDeepSeek R1 Qwen3 8B | ✓ | 113.9 | 128K | ✓ | 67.1 | 32K | ✓ | 37.5 | 32K |
| GemmaGemma 4 31B | ✗ | — | — | ✗ | — | — | ✗ | — | — |
| GLMGLM 4.7 Flash | ✓ | 144.4 | 32K | 卸載 | 22.1 | — | 卸載 | 12.3 | — |
| gpt-ossgpt-oss 20B | ✓ | 134.8 | 128K | ✓ | 98.9 | 8K | 卸載 | 9.2 | — |
| KimiKimi Linear 48B A3B | 卸載 | 44.1 | — | 卸載 | 25.9 | — | 卸載 | 14.4 | — |
| LlamaLlama 3.1 8B | ✓ | 117 | 128K | ✓ | 68.7 | 32K | ✓ | 38.4 | 32K |
| MistralMistral 7B v0.3 | ✓ | 127.1 | 32K | ✓ | 75.2 | 32K | ✓ | 42.2 | 32K |
| QwenQwen3 8B | ✓ | 113.9 | 32K | ✓ | 67.1 | 32K | ✓ | 37.5 | 32K |
判定口徑:權重 + KV cache + 執行開銷 ≤ 可用記憶體,單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑(顯存只放注意力層與 KV cache),速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。
GeForce RTX 3090 二手價走勢
閒魚二手
2026年9月3日2026年9月3日2026年9月4日2026年9月5日
各平台價格
常見問題
GeForce RTX 3090 有多大顯存?
GeForce RTX 3090 有 24GB GDDR6X 顯存,頻寬 936 GB/s。
GeForce RTX 3090 能跑 70B 模型嗎?
單卡跑不了。在 Q4_K_M 量化、8K 上下文下,70B 稠密模型約需 43GB,超過 GeForce RTX 3090 的 24GB。
GeForce RTX 3090 二手多少錢?
目前閒魚二手中位價 NT$37,836。取自平台掛牌價的中位數,每 6 小時更新。