Gemma 4 31B をローカルに導入するには？

VRAMGlass 編集部 · 2026年9月10日更新

Gemma 4 31B は 31.3B パラメータの Dense モデルです。Q4 量子化では最低 26GB、8K コンテキストなら 32GB のVRAMを推奨します。現在最も安く動かせるのは Tesla V100 32GB（で約 ¥175,227）で、推定 28.5 tokens/s です。

Gemma 4 31B のバージョン情報

発売日2026年3月11日

Hugging Face リポジトリgoogle/gemma-4-31B-it

リビジョン—

ライセンスApache-2.0

アーキテクチャDense

GGUF リポジトリunsloth/gemma-4-31B-it-GGUF

Ollama タグ—

Q4 最小VRAM26 GB · Q4_K_M · 8K

パラメータ数31.3B

レイヤー数60

隠れ層次元5,376

KV ヘッド数16

ヘッド次元256

最大コンテキスト256K

提供元Google DeepMind

Gemma 4 31B のローカル実行に必要なVRAMは？

量子化	重みサイズGB	8K 時の合計GB	32K 時の合計GB	128K 時の合計GB
1-bit	7.3推定	15.8	38.3	128.3
2-bit	11.8GGUF	20.1	42.6	132.6
3-bit	15.4GGUF	23.5	46	136
4-bit	18.3GGUF	25.9	48.4	138.4
5-bit	21.7GGUF	29.6	52.1	142.1
8-bit	32.6GGUF	40.9	63.4	153.4
FP16	61.4GGUF	69.7	92.2	182.2

合計 = 重み + KV キャッシュ（FP16）+ 実行時オーバーヘッド 1GB。GGUF と付いた重みはリポジトリの実測ファイルサイズ、「推定」はパラメータあたりのバイト数からの概算です。このモデルの上限 256K を超えるコンテキストは「—」と表示します。各段はリポジトリにあるそのビット幅のファイルを使い、unsloth 動的量子化を優先するため、ファイル名はモデルごとに異なります。

Gemma 4 31B を動かせるGPUは？

AmazonJP

デバイス	VRAMGB	価格	推定 t/s	推奨コンテキスト
Tesla V100 32GB	32	¥175,2273 件の出品	28.5	8K
Arc Pro B70	32	¥318,5103 件の出品	12.6	8K
Radeon AI PRO R9700	32	¥344,5926 件の出品	14.7	8K
Ryzen AI Max+ 395 128GB	128	¥600,9716 件の出品	5.9	32K
GeForce RTX 5090	32	¥1,150,2089 件の出品	55.6	8K
DGX Spark 128GB	128	¥1,262,9983 件の出品	8.8	32K
Arc Pro B65	32	—出品なし	12.6	8K
GeForce RTX 4080 SUPER 32GB	32	—出品なし	23.4	8K
GeForce RTX 5090 D	32	—出品なし	55.6	8K
Instinct MI100	32	—出品なし	27.8	8K
Instinct MI50 32GB	32	—出品なし	23.3	8K
Radeon PRO W7800	32	—出品なし	13.2	8K
RTX PRO 4500 Blackwell	32	—出品なし	28.4	8K
A100 40GB PCIe	40	—出品なし	48.5	8K
CMP 170HX 40GB	40	—出品なし	48.6	8K
GeForce RTX 4090 48GB	48	—出品なし	31.9	8K
Radeon PRO W7900	48	—出品なし	19.7	8K
RTX PRO 5000 Blackwell 48GB	48	—出品なし	42.1	8K
CMP 170HX 64GB	64	—出品なし	46.6	32K
Instinct MI210	64	—出品なし	36.9	32K
RTX PRO 5000 Blackwell 72GB	72	—出品なし	42.1	32K
RTX PRO 6000D	84	—出品なし	48.9	32K
RTX PRO 6000 Blackwell	96	—出品なし	55.6	32K
Mac Studio M4 Max 128GB	128	—出品なし	13.8	32K
Mac Studio M5 Max 128GB	128	—出品なし	15.5	32K
MacBook Pro M4 Max 128GB	128	—出品なし	13.8	32K
MacBook Pro M5 Max 128GB	128	—出品なし	15.5	32K
Mac Studio M3 Ultra 512GB	512	—出品なし	20.5	128K

判定基準：重み + KV キャッシュ + 実行時オーバーヘッド ≤ 利用可能メモリ、1 枚構成。MoE モデルの「オフロード」はエキスパート重みをシステム RAM に置けば動作することを示し（VRAM にはアテンション層と KV キャッシュのみ）、その速度は RAM 帯域幅 70 GB/s を前提に推定。コンテキスト列は収まる最大段階です。

Ollama / llama.cpp / vLLM で Gemma 4 31B をローカルに導入する

Ollama

Ollama ライブラリに公式タグはまだありません。

llama.cpp

llama.cpp は Hugging Face から GGUF を直接取得します。-c はコンテキスト長です。

llama-server -hf unsloth/gemma-4-31B-it-GGUF:Q4_K_M -c 8192

vLLM

vLLM は元の精度の重みを読み込むため、GGUF よりはるかに多くのメモリ（通常は複数枚）が必要です。

vllm serve google/gemma-4-31B-it

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。データ方法

よくある質問

Gemma 4 31B にはどれくらいのVRAMが必要ですか？

Q4_K_M・8K コンテキストでは Gemma 4 31B に約 26GB のVRAMが必要で、32GB あれば余裕があります。

Gemma 4 31B を動かせる最も安いGPUは？

Tesla V100 32GB です。VRAM 32GB、現在の中央値は約 ¥175,227、推定 28.5 tokens/s。

Gemma 4 31B は Ollama で動かせますか？

まだできません。Ollama ライブラリに公式タグがないため、llama.cpp で GGUF を読み込んでください。