Gemma 4 E4B をローカルに導入するには？

• 4-bit 最小VRAM7 GB · 8K
• パラメータ数8B
• 最大コンテキスト128K

アーキテクチャ

Dense

ライセンス

Apache-2.0

発売日

2026年4月2日

提供元

Google DeepMind

Hugging Face リポジトリ

google/gemma-4-E4B-it

GGUF リポジトリ

unsloth/gemma-4-E4B-it-GGUF

NVFP4 リポジトリ（Blackwell）

unsloth/gemma-4-E4B-it-NVFP4

MLX リポジトリ（Apple）

mlx-community/gemma-4-e4b-it-4bit

Ollama タグ

gemma4:e4b

レイヤー数

42

隠れ層次元

2,560

KV ヘッド数

2

ヘッド次元

256

詳しい計算ルールはデータの作り方ページをご覧ください。

デバイス	価格	速度 t/s	最大コンテキスト
Tesla V100 16GB16 GB	¥116,6274 件の出品	114.2	128K
GeForce RTX 5060 Ti 16GB16 GB	¥156,40029 件の出品	61.8	128K
Radeon RX 7900 XTX24 GB	¥293,6506 件の出品	120.5	128K
GeForce RTX 309024 GB	¥406,9228 件の出品	118	128K
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB	¥688,8588 件の出品	36.7	128K
GeForce RTX 409024 GB	¥862,1369 件の出品	125.5	128K
GeForce RTX 509032 GB	¥1,399,9909 件の出品	196.3	128K
RTX A600048 GB	¥1,511,5715 件の出品	99.8	128K
RTX PRO 600096 GB	価格なし	196.3	128K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB	価格なし	147.3	128K
Tesla V100 32GB32 GB	価格なし	114.2	128K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB	価格なし	82.1	128K
DGX Spark 128GBマシン全体 · 128 GB	価格なし	39	128K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

1. 1

   E4B の「E」

   E4B は層ごとに専用の埋め込みテーブルを持っています。これらのテーブルは大きいものの、生成時には参照されるだけで、1 トークンごとに使われるのはそのうちの数行です。実際に計算に関わるのは約 4.5B だけなので、公式はこれを「実効 4B」と呼んでいます。当サイトの VRAM と速度はどちらも 8B として見積もっているため、実際の生成は表の速度より少し速い可能性があります。

2. 2

   思考は既定でオフ

   思考は既定でオフで、システムプロンプトの先頭に <|think|> を加えるとオンになります（Transformers では enable_thinking=True に相当し、llama.cpp のチャットテンプレートも自動で処理します）。思考をオフにすると直接回答を返し、12B 以上のモデルのように空の思考ブロックを出力することはありません。公式のサンプリングパラメータはすべての用途で共通で、temperature 1.0、top_p 0.95、top_k 64 です。

3. 3

   画像と音声の渡し方

   画像はテキストの前に、音声はテキストの後ろに置きます。音声は最長 30 秒、動画は毎秒 1 フレームで最長 60 秒です。画像を何トークンで表現するかは 70〜1120 の数段階から選べます。OCR や小さな文字の読み取りには高い設定を、分類や動画の把握には低い設定を使います。llama.cpp は 2026 年 4 月 12 日から Gemma 4 の音声入力に対応しています。

4. 4

   得意なこと、苦手なこと

   知識や常識はなかなかのものです。Google のモデルカードでは、E4B の MMLU Pro は 69.4 で、前世代の Gemma 3 27B（思考なし）の 67.6 をわずかに上回ります。しかし難しい推論問題では一回り大きいモデルに明らかに劣り、GPQA Diamond は 58.6 と、12B の 78.8 に及びません。音声の文字起こし、画像についての質疑応答、ノート PC 上の軽量アシスタントといった用途に向いています。

ollama run gemma4:e4b

llama-server -hf unsloth/gemma-4-E4B-it-GGUF:Q4_K_M -c 8192

vllm serve google/gemma-4-E4B-it

vllm serve unsloth/gemma-4-E4B-it-NVFP4

mlx_vlm.server --model mlx-community/gemma-4-e4b-it-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

モデル	総パラメータ	アクティブ	4-bit のサイズ
Gemma 4 12BDense	12B	12B	7.1 GB
Gemma 4 26B A4BMoE	25.2B	3.8B	16.9 GB
Gemma 4 31BDense	30.7B	30.7B	18.3 GB

Gemma について