顯示卡價格怎麼統計

價格取目前在售報價的中位數,而非成交價。三個市場各自獨立統計,每一輪記錄中位數、四分位數和有效樣本數:

市場統計對象幣別去重複方式
閒魚在售刊登人民幣每位賣家計一次
eBay在售刊登(美國站),不含零件機美元每位賣家計一次
Amazon.co.jp商品主要報價,配送至日本境內,不含運費日圓每項商品(ASIN)計一次

每台裝置都有獨立的型號比對規則,候選報價再經過自研演算法審核:核對型號與顯示記憶體,排除礦卡、配件、代購、整機和標錯型號的商品,並剔除離群價格。價格、賣家或庫存不明確的報價不計入。

有效樣本少於 3 筆時,該輪價格不予發布,頁面顯示為空。發布前還會做一致性校驗,明顯異常的結果不進入價格歷史,沿用上一次的有效價格。價格每 6 小時更新一次,走勢圖保留完整歷史。

價格指數怎麼算

顯卡大盤指數依各市場的原幣價格分別計算,納入所有具有效歷史報價的裝置,每個型號計一台。基期設為 100,指數等於目前各型號中位價總和除以基期總和,再乘以 100。

新型號依加入當時的價格銜接進指數,不會被算成漲價;某個型號暫時缺少報價時,沿用它上一次的有效價格。圖表選擇的時間範圍只影響顯示,不會重設基期;缺少 24 小時前的對應資料時,不顯示 24 小時漲跌。

查看顯卡大盤指數

記憶體價格怎麼統計

記憶體依規格檔位追蹤,不追品牌型號。一個檔位是「世代 × 速度 × 單條容量 × 是否為伺服器條」,例如 DDR5-6000 32GB。記憶體是標準化商品,同規格不同品牌的價差遠小於規格之間的差別,依檔位彙總比依型號更穩定。

榜上的價格一律是單條價。套裝先依條數折算,例如「32GB(16GB×2)」算兩條 16GB,計入 16GB 檔位。條數無法確定的報價直接排除,不預設按一條計算,以免套裝總價被當成單條價、拉高中位數。ECC 不單獨分檔:DDR5 標題裡只寫 ECC 的,多半是晶片內建 ECC,按一般記憶體條處理。

桌機條與伺服器條(RDIMM / LRDIMM)分屬不同檔位:兩者插不進同一類主機板,也不是同一個市場。

最大頻寬(GB/s)= 通道數 × 標稱速率(MT/s)× 8 ÷ 1000
參考配置通道數條數
桌上型電腦24
DDR4 伺服器(單路)88
DDR5 伺服器(單路)1212

最大記憶體 = 單條容量 × 條數,是參考配置下的容量,不代表所有主機板的上限。頻寬為理論值,實際受 CPU、主機板和插法限制,插滿也不保證能跑到標稱速率。三個市場的資料蒐集、發布門檻、24 小時漲跌和匯率口徑都與顯示卡一致。

大型語言模型需要多少顯示記憶體:計算公式

一張卡能不能跑某個模型,要看三部分加起來能否放進顯示記憶體:模型權重、KV cache,以及推論框架本身的執行開銷。

權重所需顯示記憶體(GB)= 參數量(B)× 每參數位元組 × 1.05

每參數位元組由量化檔位決定,係數 1.05 用來涵蓋 GGUF 中繼資料、未量化的嵌入層等固定開銷。各檔位取值如下:

量化檔位IQ1_MQ2_K_XLQ3_K_XLQ4_K_MQ5_K_MQ8_0BF16/FP16
每參數位元組0.240.380.490.570.691.062

倉庫裡有這一檔 GGUF 檔案時,直接按檔案實際大小計算,不用上面的公式;公式只用於沒有檔案的檔位。專家層原生 4-bit 的模型(DeepSeek V4、Kimi K2.6 起、gpt-oss)8-bit 檔案只有公式估算的一半左右,按檔案算才準;生成速度裡每 token 的讀取量按同一比例換算。

模型頁顯示記憶體表裡,標「GGUF」的權重是倉庫裡實測的檔案大小,標「估」的按上面的公式由參數量估算。只按已核實檔案列出的模型,沒有核實檔案的檔位顯示「—」,不按參數量補估。

KV cache 佔多少顯示記憶體

KV cache(位元組)= 2 × 層數 × KV 頭數 × 頭維度 × 上下文長度 × 2

式中的 2 代表 K 與 V 兩份,每個元素以 FP16 計 2 位元組。這個公式假定每一層都為每個 token 存一份完整的 K 和 V,只適用於一般的多頭注意力(MHA / GQA);混合注意力、MLA、滑動視窗等架構見下一節。

KV cache 的例外:混合注意力、MLA 與滑動視窗

不少新模型並不是每一層都存完整的 KV,直接套用上面的公式,會把 KV cache 高估數倍到數十倍。本站依每個模型官方的 config.json 逐層推算,只計算隨上下文增長的部分,分四類處理:

  • 混合線性注意力:大部分層是線性注意力(Gated DeltaNet、KDA 等),每層只保留一份固定大小的狀態,不隨上下文增長;只有少數全注意力層(常見是每 4 層 1 層)存 KV。本站只按全注意力層計算,線性層的固定狀態一般只有幾百 MB,算在執行開銷裡。
  • MLA 潛在注意力:每層每個 token 只快取一個壓縮後的潛在向量(通常 512 維,外加 64 維位置編碼),不按注意力頭數分別存 K 和 V。本站按潛在向量的維度計算,DeepSeek 稀疏注意力(DSA)也歸在這一類。
  • 壓縮注意力:DeepSeek V4 系列把相鄰的 4 個或 128 個 token 壓成一條 KV,只有最近 128 個 token 保留原樣。本站按每層的壓縮比例計算,最近 128 個 token 只佔幾 MB,忽略不計;官方公布了數值的版本直接採用官方數值。
  • 滑動視窗:大部分層只看最近固定長度的一段 token(視窗,Llama 4 的分塊注意力也算在內),這些層的 KV 到視窗長度就不再增長,只有少數全域層隨上下文增長。本站把兩部分分開計算。llama.cpp、Ollama 和 vLLM 預設都只按視窗長度為這些層配置顯示記憶體。
模型32K 上下文 KV cache套用通用公式
GLM 5.3 Flash混合線性注意力0.4 GB96.6 GB
Kimi Linear 48B A3B混合線性注意力0.3 GB8.2 GB
Kimi K3混合線性注意力0.9 GB224.7 GB
Qwen3.5 9B混合線性注意力1.1 GB4.3 GB
Qwen3.6 27B混合線性注意力2.1 GB8.6 GB
Qwen3.6 35B A3B混合線性注意力0.7 GB2.7 GB
Qwen3.8 27B混合線性注意力2.1 GB8.6 GB
Qwen3.8 Flash Next混合線性注意力0.8 GB3.2 GB
Qwen3.8 2.4T A95B混合線性注意力3.1 GB12.3 GB
DeepSeek V3.2MLA 潛在注意力2.3 GB196.5 GB
GLM 4.7 FlashMLA 潛在注意力1.8 GB31.5 GB
GLM 5.2MLA 潛在注意力2.9 GB125.6 GB
GLM 5.3MLA 潛在注意力2.9 GB125.6 GB
Hy4 previewMLA 潛在注意力2.9 GB5.2 GB
Kimi K2MLA 潛在注意力2.3 GB98.2 GB
Kimi K2.5MLA 潛在注意力2.3 GB98.2 GB
Kimi K2.6MLA 潛在注意力2.3 GB98.2 GB
Kimi K2.7 CodeMLA 潛在注意力2.3 GB98.2 GB
DeepSeek V4 Flash壓縮注意力0.2 GB2.9 GB
DeepSeek V4 Pro壓縮注意力0.3 GB4.1 GB
DeepSeek V4.1 Flash壓縮注意力< 0.1 GB2.7 GB
Gemma 4 E4B滑動視窗 512 token0.6 GB2.8 GB
Gemma 4 12B滑動視窗 1,024 token0.9 GB12.9 GB
Gemma 4 26B A4B滑動視窗 1,024 token0.9 GB8.1 GB
Gemma 4 31B滑動視窗 1,024 token3.5 GB32.2 GB
gpt-oss 20B滑動視窗 128 token0.8 GB1.6 GB
gpt-oss 120B滑動視窗 128 token1.2 GB2.4 GB
gpt-oss Safeguard 20B滑動視窗 128 token0.8 GB1.6 GB
Llama 4 Scout 17B 16E滑動視窗 8,192 token2.8 GB6.4 GB
Muse Spark Open滑動視窗 2,048 token2.5 GB8.3 GB

「套用通用公式」一欄是把 config.json 裡的層數、KV 頭數和頭維度直接代入上面公式的結果,放在這裡對照。本站的 KV cache 以 FP16 計;部署時開啟 FP8 或 4-bit KV 量化,實際佔用還會更小。

怎麼判斷裝不裝得下

裝得下:權重 + KV cache + 1.1 GB 執行開銷 ≤ 可用顯示記憶體

按單卡、不做 CPU 卸載計算;統一記憶體裝置按記憶體總量計算,不扣除 macOS 對 GPU 的佔用上限。

模型體積和顯示記憶體需求按十進位 GB(10⁹ 位元組)寫,和 Hugging Face 下載頁的檔案大小對得上;顯示卡和記憶體的標稱容量按 1024³ 位元組算,24GB 的顯示卡約合 25.8 GB。判斷裝不裝得下時先換成同一單位再比,所以需求比標稱數字略大時也可能裝得下。

顯示卡頁和模型頁的表格用三種狀態:

  • 能跑:權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
  • 需卸載到記憶體:僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
  • 跑不了:這一檔量化下單卡放不下,借記憶體也不行。

推論速度(tokens/s)怎麼估算

生成速度主要受顯示記憶體頻寬限制:每生成一個 token,都要把啟用的權重和一部分 KV cache 從顯示記憶體讀取一遍。以 llama.cpp 單一使用者(單流)情境估算:

每 token 耗時(毫秒)= 讀取量 ÷(頻寬 × 頻寬利用率)× 1000 + 固定開銷
讀取量(GB)= 啟用參數(B)× 每參數位元組 + KV cache ÷ 2
tokens/s = 1000 ÷ 每 token 耗時

頻寬利用率取 0.73,所有裝置通用;固定開銷:稠密模型 1.4 毫秒,MoE 模型 4.7 毫秒。

係數依公開的 llama.cpp 實測結果校準。這是估算值,實際速度會因軟體版本、驅動程式和設定不同而有出入;上下文越長,實際速度越慢。這裡估算的是生成(decode)速度,不含處理提示詞(prefill)的時間。

多卡和多台怎麼算

多卡按 vLLM 張量並行估算:張數取 1 / 2 / 4 / 8 張同型號顯示卡,模型權重和 32K 上下文的 KV cache 平均分到每張卡上,每張卡另加 1.1GB 執行開銷,再和這張卡 90% 的顯示記憶體比較(vLLM 預設值)。只按顯示記憶體判斷,不考慮注意力頭能否被張數整除,所以是初篩結果;能否實際執行還要看 vLLM 是否支援這個模型。

速度按單卡頻寬估算,不按張數疊加,也不計卡間通訊的損耗。總價是單卡中位價乘以張數,只算顯示卡,不含主機板、電源和機殼。卡間互連只作參考:支援 NVLink 的卡在規格表裡標出頻寬,其餘走 PCIe。顯示卡頁的多卡區塊只列 2026 年起發布、50B 參數以上的模型;模型頁的多卡表只列常用來多卡部署的顯示卡和能聯機的整機,按總價從低到高排。

統一記憶體的整機插不了第二張卡,大多只按一台算;能聯機的整機按台數算,每台按 90% 記憶體計,速度按單台頻寬估算,總價只算主機。DGX Spark 透過網路埠串接,最多三台可以直連,四台要經交換器;512GB 的 Mac Studio M3 Ultra 用 Thunderbolt 5 線互連,跑的是 MLX 或 exo 這類分散式推論,不是 vLLM。

專家卸載的整機配置怎麼選

模型詳情頁「用整機跑 X 要什麼配置」一節分五類給配置:家用(RTX 5070 + DDR5 桌機)、E5 雙路(V100 32G)、EPYC DDR4(RTX 3090 或 4090)、EPYC DDR5(RTX 5090),以及超大模型用的多卡 RTX PRO 6000 + 雙路 EPYC DDR5。每類在顯示卡型號、張數(最多 8 張)和單路還是雙路裡,挑每塊錢換來的生成速度最高的一套;超大模型那一類先挑最快的,一樣快的再挑性價比高的。顯示卡先放注意力、共享專家和 KV cache,剩下的顯示記憶體盡量多放專家層,其餘專家放記憶體;記憶體取裝得下的最便宜插法,插滿後要比需要的多留 10% 餘量。顯示卡能把整個模型裝下的,不算專家卸載,看模型頁的單卡、多卡表。

生成速度按 ktransformers、ik_llama.cpp 這類針對 CPU + GPU 混合推論最佳化的軟體估算,直接用頁面上的 llama.cpp 指令會慢一些。雙路平台按單路的 1.6 倍估算:SGLang + KTransformers 把專家分給兩顆 CPU、各讀本地記憶體,實測最多快約 63%;直接用 llama.cpp,雙路幾乎不比單路快。

整機參考價 = 顯示卡和記憶體的即時中位價 + CPU、主機板、電源的參考價。參考價按市場分別記錄:eBay 和閒魚按二手價,日亞按新品價,電源一律按新品;某個市場查不到時,按 eBay 的美元價換算。參考價每月複核一次。

DDR4、DDR5 記憶體頁的整機卡寫的是理論頻寬:雙路是兩顆 CPU 相加;家用電腦插滿 4 條時,不少主機板要降頻才穩定,實際頻寬會低於理論值。

試算:把 Qwen3.8 27B 放進 GeForce RTX 4090

以 Qwen3.8 27B 的 Q4_K_M 版本、GeForce RTX 4090(24 GB 顯示記憶體,頻寬 1,008 GB/s)為例,依上面的公式逐項計算:

上下文權重KV cache執行開銷合計能否裝下
8K16.5 GB0.5 GB1.1 GB18.1 GB裝得下
32K16.5 GB2.1 GB1.1 GB19.7 GB裝得下
128K16.5 GB8.6 GB1.1 GB26.2 GB裝不下

Qwen3.8 27B 屬於上面的「混合線性注意力」架構,KV cache 只按隨上下文增長的層計算,所以比同樣大小的一般模型小得多。

同一個模型、同一張卡,裝不裝得下常常取決於上下文長度:上下文越長,KV cache 越大。8K 上下文下,預估生成速度約 43 tokens/s。

各量化檔位的完整結果:Qwen3.8 27B · GeForce RTX 4090

每 GB 單價

每 GB 單價 = 中位價 ÷ 容量,單位是「幣別 / GB」:顯示卡按顯示記憶體容量計算,記憶體按單條容量計算,用於記憶體價格榜。計算時先把價格換算成美元再相除,結果與先相除再換算相同。

匯率

價格按原幣別記錄,顯示時按當日匯率換算,基準幣別為美元。匯率每日更新;當日匯率暫不可用時沿用最近一次有效匯率,並在頁尾標註。本頁目前使用的匯率日期為 2026年10月21日,來源:open.er-api.com。

規格與模型資料來源

顯示卡規格取自廠商官方規格頁和規格書,並與維基百科的顯示卡列表交叉核對;算力一律採稠密(不含稀疏加速)數值。廠商未公開的個別數值依公開規格推算,並在裝置說明中註明。目前收錄 57 台裝置。

模型參數來自 Hugging Face 官方儲存庫的公開設定,量化權重大小以 GGUF 實際檔案大小為準,Ollama 標籤取自官方模型庫。目前已收錄 9 個家族、45 個版本,新模型經核驗後定期更新。

更新紀錄

價格每 6 小時更新,匯率每日更新,頁面顯示的更新時間為最近一次成功更新的時間。新收錄的顯示卡、新推出的功能和計算方法的修正紀錄如下:

  1. 整機配置改版:分項列出顯示卡、記憶體、CPU、主機板和電源,模型頁按五類平台各推薦一套性價比最高的配置。
  2. 模型詳情頁的單卡、多卡表按模型大小換了一批推薦設備,啟動指令新增 NVFP4 和 MLX 兩種跑法。
  3. 優化閒魚採集:熱門顯示卡在閒魚上收錄到的在售掛單明顯增加,報價更穩定。
  4. 新增 DDR4、DDR5 記憶體價格頁:桌機與伺服器記憶體共 22 種規格的單條價、每 GB 單價與走勢,以及用伺服器加記憶體跑本地大模型的三套配置。
  5. 新增 Mac Studio M5 Ultra 96GB。Mac 的規格表補上 CPU / GPU 核心數、記憶體速度、儲存空間選項、重量、機型識別碼和零件編號。
  6. 顯示卡頁的「分享」選單新增「分享圖片」:一鍵產生這張卡的價格走勢圖,可以複製或下載,手機上可以直接儲存。
  7. 優化顯示卡詳情頁、模型詳情頁和家族頁的文案。
  8. 依公開的 llama.cpp 實測資料重新校準生成速度的估算,所有設備改用同一套係數。
  9. 模型大小和顯示記憶體需求改按十進位 GB 顯示,和 Hugging Face 下載頁一致。
  10. 顯示卡頁選擇 eBay 市場時,價格走勢下方新增「eBay 好價精選」:精選評價良好的賣家正在販售的商品,點擊即可直接前往 eBay 購買。
  11. 新增 Tesla T10。
  12. 上線帳戶功能:可以用 Google 或電子郵件驗證碼登入;在首頁排行榜把顯示卡加入自選;在顯示卡頁設定到價提醒,價格到達你設定的價位時寄信通知你。
  13. 模型詳情頁改版:新增單卡、多卡和專家卸載的整機配置;家族頁新增各版本的顯示記憶體需求表。
  14. 修正顯示記憶體演算法:有 GGUF 實測檔案的量化檔位,改按檔案實際大小計算需求。
  15. 修正 KV cache 演算法:不再把不存 KV 的層算進去,部分模型長上下文下的顯示記憶體需求下調。
  16. 顯示卡詳情頁新增租用價格:按需租用每小時價格、每天 4、8、24 小時的月租,以及買卡多久回本。
  17. 新增 RTX 3060 12GB、RTX 4060 Ti 16GB 和 Tesla P40。
  18. 新增 A100 80GB PCIe、L40S 和 H100 PCIe。
  19. 新增 RTX PRO 5500、RTX A6000、RTX 6000 Ada 和 RTX 4090D 48GB 改裝卡。
  20. 推出價格指數頁面。
  21. 開始追蹤 DDR4、DDR5 記憶體價格。
  22. 新增 Amazon.co.jp 日本價格。
  23. VRAMGlass 上線,開始追蹤閒魚與 eBay 的顯示卡價格。

勘誤與回報

如發現價格、規格或公式有誤,歡迎來信告知,並附上對應頁面與來源連結。經核實後我們會盡快修正,並在本頁記錄變更。

hello@vramglass.comX @vramglass