GeForce RTX 5070 + デスクトップ DDR5
家庭用生成速度66.3t/s
メモリ帯域幅96GB/s
マシン全体の参考価格¥330,296
Gemma 4 26B A4B をローカルに導入するには？
Gemma 4 26B A4B は Gemma 4 で唯一の MoE で、1 トークンあたり 3.8B のパラメータしか使いません。速度は 4B クラスの小型モデルに近く、スコアは 31B の Dense 版に迫ります。Google のモデルカードでは、多くのテストで 31B より 1〜3 ポイント低いだけです。4-bit と 8K で約 18.4 GB なので、24GB の GPU が最適です。16GB カードでは 2-bit に落とすか、一部のエキスパートをメインメモリに置く必要があります。
Gemma 4 26B A4B のモデル情報
- 4-bit 最小VRAM19 GB · 8K
- パラメータ数25.2B
- アクティブ3.8B
- 最大コンテキスト256K
- アーキテクチャ
- MoE
- エキスパートオフロード
- VRAM 5 GB + RAM 16 GB
- ライセンス
- Apache-2.0
- 発売日
- 2026年4月2日
- 提供元
- Google DeepMind
- Hugging Face リポジトリ
- google/gemma-4-26B-A4B-it
- GGUF リポジトリ
- unsloth/gemma-4-26B-A4B-it-GGUF
- NVFP4 リポジトリ（Blackwell）
- nvidia/Gemma-4-26B-A4B-NVFP4
- MLX リポジトリ（Apple）
- mlx-community/gemma-4-26b-a4b-it-4bit
- Ollama タグ
- gemma4:26b
- レイヤー数
- 30
- 隠れ層次元
- 2,816
- KV ヘッド数
- 8
- ヘッド次元
- 256
Gemma 4 26B A4B のローカル実行に必要なVRAMは？
| 量子化 | 重みサイズGB | 8K コンテキストGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキスト（最大）GB |
|---|---|---|---|---|---|
| 1-bit | 6.4推定 | 7.8 | 8.3 | 10.3 | 13 |
| 2-bit | 10.5GGUF | 12 | 12.5 | 14.5 | 17.2 |
| 3-bit | 12.9GGUF | 14.4 | 14.9 | 16.9 | 19.6 |
| 4-bit | 16.9GGUF | 18.4 | 18.9 | 20.9 | 23.6 |
| 5-bit | 21.2GGUF | 22.7 | 23.2 | 25.2 | 27.9 |
| 8-bit | 26.9GGUF | 28.4 | 28.9 | 30.9 | 33.6 |
| BF16/FP16 | 50.5GGUF | 52 | 52.5 | 54.5 | 57.2 |
詳しい計算ルールはデータの作り方ページをご覧ください。
Gemma 4 26B A4B は GPU 1 枚で動く？
動かせます。いちばん合うのは 24GB カードで、4-bit で 256K コンテキストをフルに使っても約 23.6 GB と、RTX 3090、4090、RX 7900 XTX にちょうど収まります。1 トークンごとに読むパラメータは 3.8B だけなので、RTX 3090 でも約 118 tokens/s と待たされる感覚はほとんどありません。16GB カードには 4-bit が載りませんが、3-bit か 2-bit に下げても十分速く動きます。4-bit のままにしたいなら、一部の層のエキスパートをメインメモリに置く方法もあります。32GB の RTX 5090 なら 8-bit をそのまま使えます。128GB ユニファイドメモリのマシンとも相性がよく、DGX Spark の 4-bit で 50 tokens/s 台が出ます。読むパラメータが少ないので、メモリ帯域幅の低さが目立たないのです。
| デバイス | 価格 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|
 Tesla V100 16GB16 GB | ¥116,6274 件の出品 | 137.7 | 256K |
| GeForce RTX 5060 Ti 16GB16 GB | ¥156,40029 件の出品 | 101.5 | 256K |
| Radeon RX 7900 XTX24 GB | ¥293,6506 件の出品 | 140.8 | 256K |
| GeForce RTX 309024 GB | ¥406,9228 件の出品 | 139.6 | 256K |
| Ryzen AI Max+ 395 128GBマシン全体 · 128 GB | ¥688,8588 件の出品 | 72.9 | 256K |
| GeForce RTX 409024 GB | ¥862,1369 件の出品 | 143.1 | 256K |
| GeForce RTX 509032 GB | ¥1,399,9909 件の出品 | 167 | 256K |
| RTX A600048 GB | ¥1,511,5715 件の出品 | 129.8 | 256K |
| RTX PRO 600096 GB | 価格なし | 167 | 256K |
| Mac Studio M5 Ultra 96GBマシン全体 · 96 GB | 価格なし | 152 | 256K |
| Tesla V100 32GB32 GB | 価格なし | 137.7 | 256K |
| MacBook Pro M5 Max 128GBマシン全体 · 128 GB | 価格なし | 118.3 | 256K |
| DGX Spark 128GBマシン全体 · 128 GB | 価格なし | 76.1 | 256K |
| デバイス | 価格 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|
| Radeon RX 7900 XTX24 GB | ¥293,6506 件の出品 | 118.8 | 256K |
| GeForce RTX 309024 GB | ¥406,9228 件の出品 | 117.5 | 256K |
| Ryzen AI Max+ 395 128GBマシン全体 · 128 GB | ¥688,8588 件の出品 | 53.7 | 256K |
| GeForce RTX 409024 GB | ¥862,1369 件の出品 | 121.4 | 256K |
| GeForce RTX 509032 GB | ¥1,399,9909 件の出品 | 149.5 | 256K |
| RTX A600048 GB | ¥1,511,5715 件の出品 | 107 | 256K |
| RTX PRO 600096 GB | 価格なし | 149.5 | 256K |
| Mac Studio M5 Ultra 96GBマシン全体 · 96 GB | 価格なし | 131.6 | 256K |
| Tesla V100 32GB32 GB | 価格なし | 115.5 | 256K |
| MacBook Pro M5 Max 128GBマシン全体 · 128 GB | 価格なし | 95.2 | 256K |
| DGX Spark 128GBマシン全体 · 128 GB | 価格なし | 56.3 | 256K |
| デバイス | 価格 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|
| Ryzen AI Max+ 395 128GBマシン全体 · 128 GB | ¥688,8588 件の出品 | 38 | 256K |
| GeForce RTX 509032 GB | ¥1,399,9909 件の出品 | 128.4 | 256K |
| RTX A600048 GB | ¥1,511,5715 件の出品 | 84 | 256K |
| RTX PRO 600096 GB | 価格なし | 128.4 | 256K |
| Mac Studio M5 Ultra 96GBマシン全体 · 96 GB | 価格なし | 108.7 | 256K |
| Tesla V100 32GB32 GB | 価格なし | 92.2 | 256K |
| MacBook Pro M5 Max 128GBマシン全体 · 128 GB | 価格なし | 72.9 | 256K |
| DGX Spark 128GBマシン全体 · 128 GB | 価格なし | 40.1 | 256K |
よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。
Gemma 4 26B A4B を動かすにはどんな構成のマシンが必要？
16GB カードで 2-bit に落としたくない場合は、一部の層のエキスパートだけをメインメモリに置く方法があります。4-bit なら、DDR4 のデスクトップと 16GB の V100 1 枚で約 79 tokens/s、DDR5 なら約 94 で、30 層のうち 25 層分のエキスパートは VRAM に残ります（llama.cpp のオプションは --n-cpu-moe 5）。GPU ページの 16GB カードの欄にある約 32〜39 tokens/s は、エキスパートをすべてメインメモリに置いた場合の推定値です（このページの --cpu-moe コマンドの動かし方）。5 層だけを逃がせば 2 倍以上速くなります。8-bit なら、8 チャネル DDR4 サーバーと RTX 3090 で約 81 tokens/s です。
2 × GeForce RTX 5070 + デスクトップ DDR5
家庭用生成速度60t/s
メモリ帯域幅96GB/s
マシン全体の参考価格¥506,296
GeForce RTX 3090 + EPYC シングル DDR4
コスパ生成速度83.7t/s
メモリ帯域幅205GB/s
マシン全体の参考価格¥923,487
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
Gemma 4 26B A4B をローカルで動かす前に知っておきたいこと
量子化の選び方
24GB カードなら 4-bit（重み 16.9 GB）か、5-bit（8K で約 22.7 GB、コンテキストはやや短くなる）を使います。8-bit は 8K で約 28.4 GB なので 32GB カードが必要です。1 トークンあたり読み込むパラメータは 3.8B だけなので、8-bit でも RTX 5090 で約 128 tokens/s 出ます。
画像は扱えるが、音声は扱えない
26B A4B と 31B は約 5.5 億パラメータのビジョンエンコーダーを備えており、画像と動画のフレームは扱えますが、音声には対応していません。当サイトの 25.2B はモデルカードの数え方に合わせたもので、このエンコーダーは含みません。音声を扱いたいなら E4B か 12B を選んでください。
公開後 1 週間の修正
llama.cpp は公開当日の 2026 年 4 月 2 日に Gemma 4 に対応しましたが、その後 1 週間でトークナイザーやチャットテンプレートなど、いくつもの問題が修正されました。4 月上旬に変換した GGUF やビルドした llama.cpp は、更新することをおすすめします。Ollama のタグは gemma4:26b で、思考の切り替えとサンプリングパラメータは Gemma 4 12B と同じです。
起動コマンド
Ollama
- Windows
- macOS
- Linux
ollama run gemma4:26bllama.cpp
- NVIDIA
- AMD
- Mac
- CPU
すべて VRAM に載せる
llama-server -hf unsloth/gemma-4-26B-A4B-it-GGUF:Q4_K_M -c 8192MoE オフロード
VRAM が足りないときは --cpu-moe を付けると、ルーティングされるエキスパートを RAM に置けます（約 16 GB 必要）。
llama-server -hf unsloth/gemma-4-26B-A4B-it-GGUF:Q4_K_M -c 8192 \ -ngl 99 --cpu-moe
vLLM
- Linux
- NVIDIA
- AMD
オリジナルの重み
vllm serve google/gemma-4-26B-A4B-itNVFP4 · Blackwell
Blackwell 世代の GPU（RTX 50 シリーズ、RTX PRO 6000、B200）は NVFP4 の重みをネイティブに扱え、サイズは元の約 3 割です。
vllm serve nvidia/Gemma-4-26B-A4B-NVFP4MLX
- Apple シリコン
画像を扱うモデルは mlx-vlm で動かします。Mac で pip install mlx-vlm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得してサーバーを起動します。
mlx_vlm.server --model mlx-community/gemma-4-26b-a4b-it-4bitファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法
Gemma ファミリーのほかのモデル
| モデル | 総パラメータ | アクティブ | 4-bit のサイズ |
|---|---|---|---|
| Gemma 4 E4BDense | 8B | 8B | 5 GB |
| Gemma 4 12BDense | 12B | 12B | 7.1 GB |
| Gemma 4 31BDense | 30.7B | 30.7B | 18.3 GB |