GeForce RTX 4090 48GB 價格與中古行情:能部署哪些大型語言模型?
RTX 4090 48GB 是把 4090 核心移到新板、顯示記憶體加倍的改裝卡,35B 以內的模型都能用 8-bit 跑。NVIDIA 沒有這個型號,買前問清保固、能否先測再收貨。
閒魚
GeForce RTX 4090 48GB 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4090 48GB 完整規格
- 顯存48 GB · GDDR6X
- 頻寬1,008 GB/s
- FP16 / BF16330.3 TFLOPS
- FP8 / INT8660.6 / 660.6 TOPS
- 位寬
- 384-bit
- 架構
- Ada Lovelace (AD102)
- 核心
- 16,384
- 張量核心
- 512
- 生態
- CUDA
- 介面
- PCIe 4.0 x16
- NVLink
- 不支援
- 功耗
- 450 W
- 供電介面
- 16-pin 12VHPWR
- 槽位
- 2
- 類型
- 消費卡
- 發布日期
- 2022年10月12日
單張 GeForce RTX 4090 48GB 能跑哪些模型?
單張 4090 48GB 最適合 8-bit:Qwen3.8 27B 約 26 tokens/s,30B 級 MoE 約 110。4-bit 在短上下文下還塞得進 70B 級。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 4.7 GB | 能跑 | 128.5 | 256K | |
| 10.5 GB | 能跑 | 143.1 | 256K | |
| 11.8 GB | 能跑 | 58.8 | 256K | |
| 9.8 GB | 能跑 | 69.3 | 256K | |
| 11.9 GB | 能跑 | 153.4 | 198K | |
| 11.8 GB | 能跑 | 56.7 | 256K | |
| 12.3 GB | 能跑 | 163 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 7.1 GB | 能跑 | 91.9 | 256K | |
| 16.9 GB | 能跑 | 121.4 | 256K | |
| 16.8 GB | 能跑 | 42.6 | 256K | |
| 16.5 GB | 能跑 | 43.3 | 256K | |
| 18.3 GB | 能跑 | 136.1 | 198K | |
| 18.3 GB | 能跑 | 38.4 | 256K | |
| 22.1 GB | 能跑 | 139 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 12.7 GB | 能跑 | 55.1 | 256K | |
| 26.9 GB | 能跑 | 98.1 | 256K | |
| 28.6 GB | 能跑 | 25.8 | 256K | |
| 29 GB | 能跑 | 25.5 | 256K | |
| 31.8 GB | 能跑 | 109.9 | 198K | |
| 32.6 GB | 能跑 | 22.4 | 202K | |
| 36.9 GB | 能跑 | 113.7 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 GeForce RTX 4090 48GB 能跑哪些模型?
兩張 4090 48GB(96GB)能用 2-bit 跑 Qwen3.8 Flash Next,約 115 tokens/s;四張能用 4-bit 跑 DeepSeek V4 Flash。沒有 NVLink。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 張 | 暫無 | 96 GB | 115.1 | 900 W | |
| 96.8 GB | 4 張 | 暫無 | 192 GB | 94.8 | 1,800 W | |
| 107.2 GB | 4 張 | 暫無 | 192 GB | 46.8 | 1,800 W | |
| 108.7 GB | 4 張 | 暫無 | 192 GB | 77.8 | 1,800 W | |
| 253.9 GB | 8 張 | 暫無 | 384 GB | 41.3 | 3,600 W | |
| 307.2 GB估 | 8 張 | 暫無 | 384 GB | 31.4 | 3,600 W | |
| 311.2 GB | 8 張 | 暫無 | 384 GB | 37 | 3,600 W | |
| 339.5 GB | 8 張 | 暫無 | 384 GB | 49.5 | 3,600 W | |
| 340.5 GB | 8 張 | 暫無 | 384 GB | 49.4 | 3,600 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 張 | 暫無 | 192 GB | 98.8 | 1,800 W | |
| 155.1 GB | 4 張 | 暫無 | 192 GB | 71.4 | 1,800 W | |
| 182.2 GB | 8 張 | 暫無 | 384 GB | 35.4 | 3,600 W | |
| 199.7 GB | 8 張 | 暫無 | 384 GB | 51.4 | 3,600 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 張 | 暫無 | 192 GB | 69.4 | 1,800 W | |
| 188.2 GB | 8 張 | 暫無 | 384 GB | 74 | 3,600 W | |
| 317.7 GB | 8 張 | 暫無 | 384 GB | 24.5 | 3,600 W | |
| 341 GB | 8 張 | 暫無 | 384 GB | 33.6 | 3,600 W |
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 單卡跑 70B 級稠密模型
Llama 3.3 70B 的 4-bit 在 8K 下要 46.3 GB,放得下
- 27B 到 35B 要 8-bit 精度
Qwen3.8 27B 的 8-bit 約 26 tokens/s,Qwen3.6 35B A3B 的 8-bit 約 114
- 要 48GB 又要 FP8 和完整的 CUDA 生態系,還要雙槽
容易塞進一般機殼或多卡伺服器
不太適合
- 要安靜
評測中單風扇渦輪跑分時最高達 65 dB
- 要保固或 7×24 長期運作
核心可能來自拆機卡,BIOS 據報導是用外流的 NVIDIA 內部工具修改的
- 只想讓同一個模型跑得更快
頻寬和 24GB 原版一樣,速度也一樣
買前須知
它是怎麼改出來的
原版 4090 的記憶體只貼在電路板正面。改裝方把核心移到一塊正反兩面都能貼顆粒的新電路板上(布局接近 RTX 3090),正反面各 12 顆 2GB 記憶體,再刷一份改過容量的 BIOS。hardware-corner 認為改裝方用的是外流的 NVIDIA 內部工具,BIOS 簽章沒有被破壞,所以裝官方驅動程式就能認到 48GB。
背面記憶體的溫度
一半的記憶體在電路板背面,只靠背板散熱。在俄羅斯頻道 МК 的評測中,核心約 70°C,記憶體卻到了 86°C,是全卡最熱的部分。拿到後跑十分鐘滿載,用 HWiNFO 看記憶體溫度;裝進機殼後,背板那一側最好有風吹過。
噪音、功耗和槽位
評測的這張卡是雙槽單風扇渦輪,適合多卡並排;代價是噪音,跑分時最高約 65 dB,放在書桌下會很明顯。供電是 16-pin 12VHPWR,電源供應器要以 450W 來準備。
來源和保固
來源因賣家而異:評測中那張卡的核心看得出用過,記憶體顆粒則是全新的、批次一致;PC Gamer 報導的個人改裝則用了手邊的舊記憶體。沒有 NVIDIA 或板卡廠的保固,只能靠賣家,要問清楚保固期、到手測出問題能不能退貨。24 顆記憶體都是重新焊上的,用 memtest_vulkan 測試時要涵蓋完整 48GB,只測一部分抓不到壞顆粒。
與同級顯卡比較
GeForce RTX 4090 48GB 與 GeForce RTX 4090D 48GB、RTX 6000 Ada、RTX PRO 5000 48GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 48 GB | 48 GB相同 | 48 GB相同 | 48 GB相同 |
| 頻寬 | 1,008 GB/s | 1,008 GB/s相同 | 960 GB/s低 5% | 1,344 GB/s高 33% |
| BF16 / FP16 算力 | 330 TFLOPS | 294 TFLOPS低 11% | 364 TFLOPS高 10% | 258 TFLOPS低 22% |
| INT8 算力 | 661 TOPS | 589 TOPS低 11% | 729 TOPS高 10% | 516 TOPS低 22% |
| Qwen3.8 27B 速度(2-bit) | 69.3 t/s | 69.3 t/s相同 | 66.3 t/s慢 4% | 89.5 t/s快 29% |
| 最高可跑稠密模型(4-bit) | 79B | 79B相同 | 79B相同 | 79B相同 |
| 功耗 | 450 W | 425 W低 6% | 300 W低 33% | 300 W低 33% |
| 介面 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 發布 | 2022-10 | 2023-12 | 2022-09 | 2025-03 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 4090 48GB 租用價格
GeForce RTX 4090 48GB 在優雲智算隨需租用每小時 NT$17.6,每天用 8 小時約 NT$4,283/月。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$17.6/小時 | NT$2,142/月 | NT$4,283/月 | NT$12,850/月 | 去租 |
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。