顯示卡價格怎麼統計
價格取目前在售報價的中位數,而非成交價。三個市場各自獨立統計,每一輪記錄中位數、四分位數和有效樣本數:
| 市場 | 統計對象 | 幣別 | 去重複方式 |
|---|---|---|---|
| 閒魚 | 在售刊登 | 人民幣 | 每位賣家計一次 |
| eBay | 在售刊登(美國站),不含零件機 | 美元 | 每位賣家計一次 |
| Amazon.co.jp | 商品主要報價,配送至日本境內,不含運費 | 日圓 | 每項商品(ASIN)計一次 |
每台裝置都有獨立的型號比對規則,候選報價再經過自研演算法審核:核對型號與顯示記憶體,排除礦卡、配件、代購、整機和標錯型號的商品,並剔除離群價格。價格、賣家或庫存不明確的報價不計入。
有效樣本少於 3 筆時,該輪價格不予發布,頁面顯示為空。發布前還會做一致性校驗,明顯異常的結果不進入價格歷史,沿用上一次的有效價格。價格每 6 小時更新一次,走勢圖保留完整歷史。
價格指數怎麼算
顯卡大盤指數依各市場的原幣價格分別計算,納入所有具有效歷史報價的裝置,每個型號計一台。基期設為 100,指數等於目前各型號中位價總和除以基期總和,再乘以 100。
新型號依加入當時的價格銜接進指數,不會被算成漲價;某個型號暫時缺少報價時,沿用它上一次的有效價格。圖表選擇的時間範圍只影響顯示,不會重設基期;缺少 24 小時前的對應資料時,不顯示 24 小時漲跌。
記憶體價格怎麼統計
記憶體依規格檔位追蹤,不追品牌型號。一個檔位是「世代 × 速度 × 單條容量 × 是否為伺服器條」,例如 DDR5-6000 32GB。記憶體是標準化商品,同規格不同品牌的價差遠小於規格之間的差別,依檔位彙總比依型號更穩定。
榜上的價格一律是單條價。套裝先依條數折算,例如「32GB(16GB×2)」算兩條 16GB,計入 16GB 檔位。條數無法確定的報價直接排除,不預設按一條計算,以免套裝總價被當成單條價、拉高中位數。ECC 不單獨分檔:DDR5 標題裡只寫 ECC 的,多半是晶片內建 ECC,按一般記憶體條處理。
桌機條與伺服器條(RDIMM / LRDIMM)分屬不同檔位:兩者插不進同一類主機板,也不是同一個市場。
| 參考配置 | 通道數 | 條數 |
|---|---|---|
| 桌上型電腦 | 2 | 4 |
| DDR4 伺服器(單路) | 8 | 8 |
| DDR5 伺服器(單路) | 12 | 12 |
最大記憶體 = 單條容量 × 條數,是參考配置下的容量,不代表所有主機板的上限。頻寬為理論值,實際受 CPU、主機板和插法限制,插滿也不保證能跑到標稱速率。三個市場的資料蒐集、發布門檻、24 小時漲跌和匯率口徑都與顯示卡一致。
大型語言模型需要多少顯示記憶體:計算公式
一張卡能不能跑某個模型,要看三部分加起來能否放進顯示記憶體:模型權重、KV cache,以及推論框架本身的執行開銷。
每參數位元組由量化檔位決定,係數 1.05 用來涵蓋 GGUF 中繼資料、未量化的嵌入層等固定開銷。各檔位取值如下:
| 量化檔位 | IQ1_M | Q2_K_XL | Q3_K_XL | Q4_K_M | Q5_K_M | Q8_0 | BF16/FP16 |
|---|---|---|---|---|---|---|---|
| 每參數位元組 | 0.24 | 0.38 | 0.49 | 0.57 | 0.69 | 1.06 | 2 |
倉庫裡有這一檔 GGUF 檔案時,直接按檔案實際大小計算,不用上面的公式;公式只用於沒有檔案的檔位。專家層原生 4-bit 的模型(DeepSeek V4、Kimi K2.6 起、gpt-oss)8-bit 檔案只有公式估算的一半左右,按檔案算才準;生成速度裡每 token 的讀取量按同一比例換算。
模型頁顯示記憶體表裡,標「GGUF」的權重是倉庫裡實測的檔案大小,標「估」的按上面的公式由參數量估算。只按已核實檔案列出的模型,沒有核實檔案的檔位顯示「—」,不按參數量補估。
KV cache 佔多少顯示記憶體
式中的 2 代表 K 與 V 兩份,每個元素以 FP16 計 2 位元組。這個公式假定每一層都為每個 token 存一份完整的 K 和 V,只適用於一般的多頭注意力(MHA / GQA);混合注意力、MLA、滑動視窗等架構見下一節。
KV cache 的例外:混合注意力、MLA 與滑動視窗
不少新模型並不是每一層都存完整的 KV,直接套用上面的公式,會把 KV cache 高估數倍到數十倍。本站依每個模型官方的 config.json 逐層推算,只計算隨上下文增長的部分,分四類處理:
- 混合線性注意力:大部分層是線性注意力(Gated DeltaNet、KDA 等),每層只保留一份固定大小的狀態,不隨上下文增長;只有少數全注意力層(常見是每 4 層 1 層)存 KV。本站只按全注意力層計算,線性層的固定狀態一般只有幾百 MB,算在執行開銷裡。
- MLA 潛在注意力:每層每個 token 只快取一個壓縮後的潛在向量(通常 512 維,外加 64 維位置編碼),不按注意力頭數分別存 K 和 V。本站按潛在向量的維度計算,DeepSeek 稀疏注意力(DSA)也歸在這一類。
- 壓縮注意力:DeepSeek V4 系列把相鄰的 4 個或 128 個 token 壓成一條 KV,只有最近 128 個 token 保留原樣。本站按每層的壓縮比例計算,最近 128 個 token 只佔幾 MB,忽略不計;官方公布了數值的版本直接採用官方數值。
- 滑動視窗:大部分層只看最近固定長度的一段 token(視窗,Llama 4 的分塊注意力也算在內),這些層的 KV 到視窗長度就不再增長,只有少數全域層隨上下文增長。本站把兩部分分開計算。llama.cpp、Ollama 和 vLLM 預設都只按視窗長度為這些層配置顯示記憶體。
| 模型 | 32K 上下文 KV cache | 套用通用公式 |
|---|---|---|
| 0.4 GB | 96.6 GB | |
| 0.3 GB | 8.2 GB | |
| 0.9 GB | 224.7 GB | |
| 1.1 GB | 4.3 GB | |
| 2.1 GB | 8.6 GB | |
| 0.7 GB | 2.7 GB | |
| 2.1 GB | 8.6 GB | |
| 0.8 GB | 3.2 GB | |
| 3.1 GB | 12.3 GB | |
| 2.3 GB | 196.5 GB | |
| 1.8 GB | 31.5 GB | |
| 2.9 GB | 125.6 GB | |
| 2.9 GB | 125.6 GB | |
| 2.9 GB | 5.2 GB | |
| 2.3 GB | 98.2 GB | |
| 2.3 GB | 98.2 GB | |
| 2.3 GB | 98.2 GB | |
| 2.3 GB | 98.2 GB | |
| 0.2 GB | 2.9 GB | |
| 0.3 GB | 4.1 GB | |
| < 0.1 GB | 2.7 GB | |
| 0.6 GB | 2.8 GB | |
| 0.9 GB | 12.9 GB | |
| 0.9 GB | 8.1 GB | |
| 3.5 GB | 32.2 GB | |
| gpt-oss 20B滑動視窗 128 token | 0.8 GB | 1.6 GB |
| gpt-oss 120B滑動視窗 128 token | 1.2 GB | 2.4 GB |
| gpt-oss Safeguard 20B滑動視窗 128 token | 0.8 GB | 1.6 GB |
| 2.8 GB | 6.4 GB | |
| 2.5 GB | 8.3 GB |
「套用通用公式」一欄是把 config.json 裡的層數、KV 頭數和頭維度直接代入上面公式的結果,放在這裡對照。本站的 KV cache 以 FP16 計;部署時開啟 FP8 或 4-bit KV 量化,實際佔用還會更小。
怎麼判斷裝不裝得下
按單卡、不做 CPU 卸載計算;統一記憶體裝置按記憶體總量計算,不扣除 macOS 對 GPU 的佔用上限。
模型體積和顯示記憶體需求按十進位 GB(10⁹ 位元組)寫,和 Hugging Face 下載頁的檔案大小對得上;顯示卡和記憶體的標稱容量按 1024³ 位元組算,24GB 的顯示卡約合 25.8 GB。判斷裝不裝得下時先換成同一單位再比,所以需求比標稱數字略大時也可能裝得下。
顯示卡頁和模型頁的表格用三種狀態:
- 能跑:權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
- 需卸載到記憶體:僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
- 跑不了:這一檔量化下單卡放不下,借記憶體也不行。
推論速度(tokens/s)怎麼估算
生成速度主要受顯示記憶體頻寬限制:每生成一個 token,都要把啟用的權重和一部分 KV cache 從顯示記憶體讀取一遍。以 llama.cpp 單一使用者(單流)情境估算:
頻寬利用率取 0.73,所有裝置通用;固定開銷:稠密模型 1.4 毫秒,MoE 模型 4.7 毫秒。
係數依公開的 llama.cpp 實測結果校準。這是估算值,實際速度會因軟體版本、驅動程式和設定不同而有出入;上下文越長,實際速度越慢。這裡估算的是生成(decode)速度,不含處理提示詞(prefill)的時間。
多卡和多台怎麼算
多卡按 vLLM 張量並行估算:張數取 1 / 2 / 4 / 8 張同型號顯示卡,模型權重和 32K 上下文的 KV cache 平均分到每張卡上,每張卡另加 1.1GB 執行開銷,再和這張卡 90% 的顯示記憶體比較(vLLM 預設值)。只按顯示記憶體判斷,不考慮注意力頭能否被張數整除,所以是初篩結果;能否實際執行還要看 vLLM 是否支援這個模型。
速度按單卡頻寬估算,不按張數疊加,也不計卡間通訊的損耗。總價是單卡中位價乘以張數,只算顯示卡,不含主機板、電源和機殼。卡間互連只作參考:支援 NVLink 的卡在規格表裡標出頻寬,其餘走 PCIe。顯示卡頁的多卡區塊只列 2026 年起發布、50B 參數以上的模型;模型頁的多卡表只列常用來多卡部署的顯示卡和能聯機的整機,按總價從低到高排。
統一記憶體的整機插不了第二張卡,大多只按一台算;能聯機的整機按台數算,每台按 90% 記憶體計,速度按單台頻寬估算,總價只算主機。DGX Spark 透過網路埠串接,最多三台可以直連,四台要經交換器;512GB 的 Mac Studio M3 Ultra 用 Thunderbolt 5 線互連,跑的是 MLX 或 exo 這類分散式推論,不是 vLLM。
專家卸載的整機配置怎麼選
模型詳情頁「用整機跑 X 要什麼配置」一節分五類給配置:家用(RTX 5070 + DDR5 桌機)、E5 雙路(V100 32G)、EPYC DDR4(RTX 3090 或 4090)、EPYC DDR5(RTX 5090),以及超大模型用的多卡 RTX PRO 6000 + 雙路 EPYC DDR5。每類在顯示卡型號、張數(最多 8 張)和單路還是雙路裡,挑每塊錢換來的生成速度最高的一套;超大模型那一類先挑最快的,一樣快的再挑性價比高的。顯示卡先放注意力、共享專家和 KV cache,剩下的顯示記憶體盡量多放專家層,其餘專家放記憶體;記憶體取裝得下的最便宜插法,插滿後要比需要的多留 10% 餘量。顯示卡能把整個模型裝下的,不算專家卸載,看模型頁的單卡、多卡表。
生成速度按 ktransformers、ik_llama.cpp 這類針對 CPU + GPU 混合推論最佳化的軟體估算,直接用頁面上的 llama.cpp 指令會慢一些。雙路平台按單路的 1.6 倍估算:SGLang + KTransformers 把專家分給兩顆 CPU、各讀本地記憶體,實測最多快約 63%;直接用 llama.cpp,雙路幾乎不比單路快。
整機參考價 = 顯示卡和記憶體的即時中位價 + CPU、主機板、電源的參考價。參考價按市場分別記錄:eBay 和閒魚按二手價,日亞按新品價,電源一律按新品;某個市場查不到時,按 eBay 的美元價換算。參考價每月複核一次。
DDR4、DDR5 記憶體頁的整機卡寫的是理論頻寬:雙路是兩顆 CPU 相加;家用電腦插滿 4 條時,不少主機板要降頻才穩定,實際頻寬會低於理論值。
試算:把 Qwen3.8 27B 放進 GeForce RTX 4090
以 Qwen3.8 27B 的 Q4_K_M 版本、GeForce RTX 4090(24 GB 顯示記憶體,頻寬 1,008 GB/s)為例,依上面的公式逐項計算:
| 上下文 | 權重 | KV cache | 執行開銷 | 合計 | 能否裝下 |
|---|---|---|---|---|---|
| 8K | 16.5 GB | 0.5 GB | 1.1 GB | 18.1 GB | 裝得下 |
| 32K | 16.5 GB | 2.1 GB | 1.1 GB | 19.7 GB | 裝得下 |
| 128K | 16.5 GB | 8.6 GB | 1.1 GB | 26.2 GB | 裝不下 |
Qwen3.8 27B 屬於上面的「混合線性注意力」架構,KV cache 只按隨上下文增長的層計算,所以比同樣大小的一般模型小得多。
同一個模型、同一張卡,裝不裝得下常常取決於上下文長度:上下文越長,KV cache 越大。8K 上下文下,預估生成速度約 43 tokens/s。
各量化檔位的完整結果:Qwen3.8 27B · GeForce RTX 4090
每 GB 單價
每 GB 單價 = 中位價 ÷ 容量,單位是「幣別 / GB」:顯示卡按顯示記憶體容量計算,記憶體按單條容量計算,用於記憶體價格榜。計算時先把價格換算成美元再相除,結果與先相除再換算相同。
匯率
價格按原幣別記錄,顯示時按當日匯率換算,基準幣別為美元。匯率每日更新;當日匯率暫不可用時沿用最近一次有效匯率,並在頁尾標註。本頁目前使用的匯率日期為 2026年10月21日,來源:open.er-api.com。
規格與模型資料來源
顯示卡規格取自廠商官方規格頁和規格書,並與維基百科的顯示卡列表交叉核對;算力一律採稠密(不含稀疏加速)數值。廠商未公開的個別數值依公開規格推算,並在裝置說明中註明。目前收錄 57 台裝置。
模型參數來自 Hugging Face 官方儲存庫的公開設定,量化權重大小以 GGUF 實際檔案大小為準,Ollama 標籤取自官方模型庫。目前已收錄 9 個家族、45 個版本,新模型經核驗後定期更新。
更新紀錄
價格每 6 小時更新,匯率每日更新,頁面顯示的更新時間為最近一次成功更新的時間。新收錄的顯示卡、新推出的功能和計算方法的修正紀錄如下:
- 整機配置改版:分項列出顯示卡、記憶體、CPU、主機板和電源,模型頁按五類平台各推薦一套性價比最高的配置。
- 模型詳情頁的單卡、多卡表按模型大小換了一批推薦設備,啟動指令新增 NVFP4 和 MLX 兩種跑法。
- 優化閒魚採集:熱門顯示卡在閒魚上收錄到的在售掛單明顯增加,報價更穩定。
- 新增 DDR4、DDR5 記憶體價格頁:桌機與伺服器記憶體共 22 種規格的單條價、每 GB 單價與走勢,以及用伺服器加記憶體跑本地大模型的三套配置。
- 新增 Mac Studio M5 Ultra 96GB。Mac 的規格表補上 CPU / GPU 核心數、記憶體速度、儲存空間選項、重量、機型識別碼和零件編號。
- 顯示卡頁的「分享」選單新增「分享圖片」:一鍵產生這張卡的價格走勢圖,可以複製或下載,手機上可以直接儲存。
- 優化顯示卡詳情頁、模型詳情頁和家族頁的文案。
- 依公開的 llama.cpp 實測資料重新校準生成速度的估算,所有設備改用同一套係數。
- 模型大小和顯示記憶體需求改按十進位 GB 顯示,和 Hugging Face 下載頁一致。
- 顯示卡頁選擇 eBay 市場時,價格走勢下方新增「eBay 好價精選」:精選評價良好的賣家正在販售的商品,點擊即可直接前往 eBay 購買。
- 新增 Tesla T10。
- 上線帳戶功能:可以用 Google 或電子郵件驗證碼登入;在首頁排行榜把顯示卡加入自選;在顯示卡頁設定到價提醒,價格到達你設定的價位時寄信通知你。
- 模型詳情頁改版:新增單卡、多卡和專家卸載的整機配置;家族頁新增各版本的顯示記憶體需求表。
- 修正顯示記憶體演算法:有 GGUF 實測檔案的量化檔位,改按檔案實際大小計算需求。
- 修正 KV cache 演算法:不再把不存 KV 的層算進去,部分模型長上下文下的顯示記憶體需求下調。
- 顯示卡詳情頁新增租用價格:按需租用每小時價格、每天 4、8、24 小時的月租,以及買卡多久回本。
- 新增 RTX 3060 12GB、RTX 4060 Ti 16GB 和 Tesla P40。
- 新增 A100 80GB PCIe、L40S 和 H100 PCIe。
- 新增 RTX PRO 5500、RTX A6000、RTX 6000 Ada 和 RTX 4090D 48GB 改裝卡。
- 推出價格指數頁面。
- 開始追蹤 DDR4、DDR5 記憶體價格。
- 新增 Amazon.co.jp 日本價格。
- VRAMGlass 上線,開始追蹤閒魚與 eBay 的顯示卡價格。
勘誤與回報
如發現價格、規格或公式有誤,歡迎來信告知,並附上對應頁面與來源連結。經核實後我們會盡快修正,並在本頁記錄變更。