收錄顯卡41價格追蹤3 天自 2026年9月3日近 24h 價格資料11,753 筆24h 降價最多Radeon RX 7900 XTX-5.6%24h 漲價最多A100 40GB PCIe+48.1%資料更新於 2026年9月5日

gpt-oss Safeguard 20B 本地部署需要多少記憶體？

看能跑的裝置
VRAMGlass 編輯部 · 更新於 2026年9月5日

gpt-oss Safeguard 20B 是 MoE 模型，總參數 20.9B，每 token 啟用 3.6B。Q4 量化整機放顯存需要 14GB；把專家放進系統記憶體後只需 4GB 顯存 + 12GB 記憶體。目前最便宜能跑的顯示卡是 Radeon RX 7800 XT，二手約 NT$12,222，預估 89.5 tokens/s。卸載模式下最便宜能跑的顯示卡是 GeForce RTX 2080 Ti，預估 29 tokens/s。

gpt-oss Safeguard 20B 版本資訊

發布日期2025年9月18日
Hugging Face 倉庫openai/gpt-oss-safeguard-20b
小版本—
授權Apache-2.0
架構MoE
GGUF 倉庫unsloth/gpt-oss-safeguard-20b-GGUF
Ollama 標籤—
30 天下載78,266
Q4 最低記憶體14 GB · Q4_K_M · 8K
專家卸載4 GB 顯存 + 12 GB 記憶體
參數量20.9B
MoE3.6B
層數24
隱藏維度2,880
KV 頭8
頭維度64
上下文上限128K
廠商OpenAI

gpt-oss Safeguard 20B 各量化與上下文的記憶體需求

8K 總記憶體

MoE：總參數 20.9B 全部要常駐記憶體，速度按每 token 啟用的 3.6B 計算。

量化權重體積GB8K 總記憶體GB32K 總記憶體GB128K 總記憶體GB
Q4_K_M11.6GGUF1314.218.7
Q5_K_M11.7GGUF15.516.621.1
Q8_012.1GGUF2324.228.7
FP1613.8GGUF42.343.447.9

總記憶體 = 權重 + KV cache（FP16）+ 1GB 執行開銷。標 GGUF 的權重是倉庫裡的實測檔案體積，標「估」的按每參數位元組估算。超過這個模型 128K 上下文上限的檔位寫「—」。

什麼顯示卡能跑 gpt-oss Safeguard 20B？

Q4_K_M · 8K 上下文 · 依閒魚二手價升序
裝置顯存GB二手價預估 t/s建議上下文
Radeon RX 7800 XT16NT$12,22214 筆掛牌89.532K
Radeon RX 7900 XT20NT$18,79818 筆掛牌104.2128K
Radeon RX 9070 XT16NT$24,58413 筆掛牌90.932K
Arc Pro B6024NT$24,9099 筆掛牌67.1128K
Radeon RX 7900 XTX24NT$25,85418 筆掛牌115.4128K
GeForce RTX 408016NT$35,67812 筆掛牌118.232K
GeForce RTX 309024NT$37,8368 筆掛牌134.8128K
GeForce RTX 5070 Ti16NT$40,6324 筆掛牌132.132K
Arc Pro B7032NT$47,0027 筆掛牌82.1128K
Radeon PRO W780032NT$47,4774 筆掛牌84.9128K
CMP 170HX 40GB (改裝)40NT$50,7674 筆掛牌165.3128K
GeForce RTX 508016NT$54,0577 筆掛牌136.432K
Radeon AI PRO R970032NT$55,9383 筆掛牌90.9128K
CMP 170HX 64GB (改裝)64NT$60,4034 筆掛牌162.8128K
RTX PRO 4000 Blackwell24NT$74,27010 筆掛牌114.1128K
Instinct MI21064NT$86,96217 筆掛牌148.5128K
Radeon PRO W790048NT$103,4145 筆掛牌108.9128K
GeForce RTX 409024NT$107,1755 筆掛牌139.4128K
GeForce RTX 5090 D V224NT$117,51616 筆掛牌156.7128K
GeForce RTX 4090 48GB (改裝)48NT$119,8673 筆掛牌139.4128K
RTX PRO 4500 Blackwell32NT$121,5128 筆掛牌132.1128K
GeForce RTX 5090 D32NT$145,2507 筆掛牌172.9128K
A100 40GB PCIe40NT$180,9754 筆掛牌165.1128K
GeForce RTX 509032NT$186,8514 筆掛牌172.9128K
RTX PRO 5000 Blackwell 48GB48NT$220,93111 筆掛牌156.7128K
RTX PRO 5000 Blackwell 72GB72NT$291,44011 筆掛牌156.7128K
RTX PRO 6000D84NT$329,04619 筆掛牌165.6128K
RTX PRO 6000 Blackwell96NT$557,02710 筆掛牌172.9128K
Tesla V100 16GB16—暫無掛牌132.432K
Arc Pro B6532—暫無掛牌82.1128K
GeForce RTX 4080 SUPER 32GB (改裝)32—暫無掛牌119.8128K
Instinct MI10032—暫無掛牌130.8128K
Tesla V100 32GB32—暫無掛牌132.4128K
DGX Spark 128GB128—暫無掛牌63.6128K
Mac Studio M4 Max 128GB128—暫無掛牌87.3128K
Mac Studio M5 Max 128GB128—暫無掛牌94.1128K
MacBook Pro M4 Max 128GB128—暫無掛牌87.3128K
MacBook Pro M5 Max 128GB128—暫無掛牌94.1128K
Ryzen AI Max+ 395 128GB128—暫無掛牌46.5128K
Mac Studio M3 Ultra 512GB512—暫無掛牌111.5128K

判定口徑：權重 + KV cache + 執行開銷 ≤ 可用記憶體，單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑（顯存只放注意力層與 KV cache），速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。

把專家放進記憶體後還能跑 gpt-oss Safeguard 20B 的顯示卡

專家權重放系統記憶體，需要 ≥ 12 GB 記憶體；顯存只放注意力層、共享專家和 KV cache，Q4 下最低 4 GB。速度受記憶體頻寬限制（按 70 GB/s 估算），比整機放顯存慢得多。

裝置顯存GB二手價需記憶體GB預估 t/s
GeForce RTX 2080 Ti11NT$7,8971228.8

用 Ollama / llama.cpp / vLLM 啟動 gpt-oss Safeguard 20B

Ollama

Ollama 庫暫無官方標籤。

llama.cpp

llama.cpp 直接從 Hugging Face 拉 GGUF，-c 是上下文長度。

llama-server -hf unsloth/gpt-oss-safeguard-20b-GGUF:Q4_K_M -c 8192
vLLM

vLLM 跑的是原始精度權重，記憶體需求比 GGUF 高得多，通常要多卡。

vllm serve openai/gpt-oss-safeguard-20b

量化檔名以模型庫當週抓取為準，口徑見資料方法。 資料方法

常見問題

gpt-oss Safeguard 20B 需要多少記憶體？

在 Q4_K_M 量化、8K 上下文下 gpt-oss Safeguard 20B 約需 14GB 記憶體，留到 16GB 更穩。

哪張顯示卡最便宜能跑 gpt-oss Safeguard 20B？

Radeon RX 7800 XT，16GB 記憶體，目前二手中位價約 NT$12,222，預估 89.5 tokens/s。

gpt-oss Safeguard 20B 能用 Ollama 跑嗎？

暫時不行，Ollama 庫還沒有它的官方標籤；可以用 llama.cpp 載入 GGUF。