本地部署 Gemma 需要什么显卡?各版本显存需求一览
Gemma 目前有 4 个能本地部署的版本,最小的 Gemma 4 E4B 在 Q4 量化下需要 7GB 显存,最大的 Gemma 4 31B 需要 26GB。最便宜能跑起来的设备是 GeForce RTX 2080 Ti,二手约 ¥1,680。
Gemma 各版本的显存需求
共 4 个版本| 版本 | 发布日期 | 上下文 | ||||
|---|---|---|---|---|---|---|
| Gemma 4 E4B稠密 | 8B | 2026年3月2日 | 128K | 7 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 4,850,749 |
| Gemma 4 12B稠密 | 12B | 2026年5月23日 | 256K | 11 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 3,195,490 |
| Gemma 4 26B A4BMoE | 25.8B(激活 4B) | 2026年3月11日 | 256K | 6另需 13 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 8,211,474 |
| Gemma 4 31B稠密 | 31.3B | 2026年3月11日 | 256K | 26 | Arc Pro B70¥9,999 · 32 GB | 8,332,852 |
最低显存 = Q4_K_M 权重 + 8K 上下文 KV cache + 1GB 运行开销,向上取整;最便宜能跑的设备按当前价格基准的二手中位价升序,取第一台装得下的。
关于 Gemma
Gemma 由 Google DeepMind 发布,许可证为 Apache-2.0。本页收录 4 个版本,参数量从 8B 到 31.3B,结构参数与量化体积每周从 Hugging Face 同步。
厂商Google DeepMind
许可证Apache-2.0
Hugging Face 组织google