Gemma をローカルで動かすには?バージョン別の必要VRAM
Gemma には現在ローカルで動かせるバージョンが 4 個あります。最小の Gemma 4 E4B は 4-bit 量子化で 7GB、最大の Gemma 4 31B は 21GB が必要です。最も安く動かせるデバイスは Tesla V100 16GB で、約 ¥116,627 です。
| バージョン | 公開日 | コンテキスト | ライセンス | ||
|---|---|---|---|---|---|
| 2026年6月3日 | 12B | 12B | 256K | Apache-2.0 | |
| 2026年4月2日 | 30.7B | 30.7B | 256K | Apache-2.0 | |
| 2026年4月2日 | 25.2B | 3.8B | 256K | Apache-2.0 | |
| 2026年4月2日 | 8B | 8B | 128K | Apache-2.0 |
Gemma について
Gemma は Google DeepMind のオープンウェイトモデルシリーズです。公式には Gemini と同じ研究と技術をもとにしているとされ、ノート PC やデスクトップといった個人のデバイスで動く軽量モデルという位置づけです。初代は 2024 年 2 月に公開され、サイズは 2B と 7B の 2 つだけでした。Google の集計では、2026 年 4 月時点で Gemma の累計ダウンロード数は 4 億回を超え、コミュニティによる派生モデルは 10 万個を超えています。Google DeepMind は 2023 年 4 月に DeepMind と Google Brain が統合して発足した組織で、本拠地はロンドンです。
その後は世代ごとに大きく変わっています。Gemma 2(2024 年 6 月)は、近くの内容だけを見るスライディングウィンドウアテンションと、全体を見るグローバルアテンションを交互に使います。Gemma 3(2025 年 3 月、1B〜27B)は画像理解を加え、コンテキストを 128K に広げました。Gemma 3n(2025 年 6 月)は、スマートフォンのようなエッジデバイス向けに設計されています。2026 年 4 月の Gemma 4 は E2B、E4B、26B A4B(MoE)、31B の 4 モデルで、6 月に 12B が加わりました。最大コンテキストは 256K で、推論モードを内蔵しています。ライセンスも Gemma 4 で変わりました。それまでは Google 独自の Gemma 利用規約で、商用利用は認めつつも禁止用途ポリシーが付いていましたが、Gemma 4 からは Apache 2.0 です。
- 提供元Google DeepMind
- 収録バージョン数4
- パラメータ数8B – 30.7B
- 最新バージョンGemma 4 12B
- ライセンス
- Apache-2.0
- 公式サイト
- ai.google.dev/gemma
- Hugging Face の組織
Gemma 各モデルの 2-bit 量子化での必要 VRAM は?
2-bit は Q2 とも呼ばれ、よく使われる GGUF ファイルには Q2_K や UD-Q2_K_XL があります。サイズが最も小さい一方で品質の低下も最も大きく、VRAM が厳しいときにまずモデルを動かすのに向いています。下の表は各行が Gemma の各バージョン、各列がコンテキスト長で、セルは Q2 で動かすときに必要な合計 VRAM(重み + KV キャッシュ + 実行時オーバーヘッド 1.1GB)です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 4.7GGUF | 6.6 | 8.3 | 10.4 | — | |
| 11.8GGUF | 16.4 | 24.5 | 35.2 | — | |
| 10.5GGUF | 12.5 | 14.5 | 17.2 | — | |
| 3.8GGUF | 5.4 | 7 | — | — |
Gemma 各モデルの 4-bit 量子化での必要 VRAM は?
4-bit は Q4 とも呼ばれ、最もよく使われる Q4_K_M ファイルにあたります。サイズと品質のバランスがよく、ローカル実行の標準的な選択肢です。下の表は各行が Gemma の各バージョン、各列がコンテキスト長で、セルは Q4 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 7.1GGUF | 9 | 10.7 | 12.8 | — | |
| 18.3GGUF | 22.9 | 31 | 41.7 | — | |
| 16.9GGUF | 18.9 | 20.9 | 23.6 | — | |
| 5GGUF | 6.6 | 8.2 | — | — |
Gemma 各モデルの 8-bit 量子化での必要 VRAM は?
8-bit は Q8 とも呼ばれ、Q8_0 ファイルにあたります。品質は元のモデルに最も近く、サイズも最大です。下の表は各行が Gemma の各バージョン、各列がコンテキスト長で、セルは Q8 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 12.7GGUF | 14.6 | 16.3 | 18.4 | — | |
| 32.6GGUF | 37.2 | 45.3 | 56 | — | |
| 26.9GGUF | 28.9 | 30.9 | 33.6 | — | |
| 8.2GGUF | 9.8 | 11.4 | — | — |
よくある質問
Gemma はオープンソースですか?無料で商用利用できますか?
Gemma 4 はできます。E4B、12B、26B A4B、31B の 4 バージョンはいずれも Apache 2.0 ライセンスで、商用利用・ファインチューニング・再配布ができます。条件は、ライセンス文を添付し、著作権表示と帰属表示を残し、変更したファイルにはその旨を明記することです。Gemma 3 以前は事情が違い、Google 独自の Gemma 利用規約を採用していて、禁止用途ポリシーも付いていました。規約のページにも、Gemma 4 は Apache 2.0 を参照するよう記載されています。そのため「Gemma のライセンスには追加の制限がある」という話を見かけたら、まずどの世代の話かを確認してください。
Gemma は Ollama で動かせますか?
動かせます。4 バージョンとも公式タグがあり、gemma4:e4b、gemma4:12b、gemma4:26b(26B A4B の MoE 版のことで、gemma4:26b-a4b とも書けます)、gemma4:31b です。タグを付けずに ollama run gemma4 とすると、E4B が取得されます。各サイズには精度別のタグもあり、たとえば gemma4:31b-it-q8_0 や gemma4:31b-it-bf16 です。cloud の付いた gemma4:cloud と gemma4:31b-cloud は Ollama のサーバーで動くので、ローカルの GPU は使いません。