本地部署 gpt-oss 需要什么显卡?各版本显存需求一览
gpt-oss 目前有 3 个能本地部署的版本,最小的 gpt-oss 20B 在 Q4 量化下需要 4GB 显存,最大的 gpt-oss 120B 需要 4GB。最便宜能跑起来的设备是 GeForce RTX 2080 Ti,二手约 ¥1,680。
gpt-oss 各版本的显存需求
共 3 个版本| 版本 | 发布日期 | 上下文 | ||||
|---|---|---|---|---|---|---|
| gpt-oss 20BMoE | 20.9B(激活 3.6B) | 2025年8月4日 | 128K | 4另需 12 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 6,448,506 |
| gpt-oss Safeguard 20BMoE | 20.9B(激活 3.6B) | 2025年9月18日 | 128K | 4另需 12 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 78,266 |
| gpt-oss 120BMoE | 116.8B(激活 5.1B) | 2025年8月4日 | 128K | 4另需 65 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 5,259,501 |
最低显存 = Q4_K_M 权重 + 8K 上下文 KV cache + 1GB 运行开销,向上取整;最便宜能跑的设备按当前价格基准的二手中位价升序,取第一台装得下的。
关于 gpt-oss
gpt-oss 由 OpenAI 发布,许可证为 Apache-2.0。本页收录 3 个版本,参数量从 20.9B 到 116.8B,结构参数与量化体积每周从 Hugging Face 同步。
厂商OpenAI
许可证Apache-2.0
Hugging Face 组织openai