当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

Gemma 4 31B をローカルに導入するには？

Gemma 4 31B は、Gemma 4 で最大かつ最もスコアの高い Dense モデルです。公開時、Google は Arena AI のテキストランキングでオープンモデル中 3 位だと発表しました。24GB の GPU で 4-bit が約 36 tokens/s で動きますが、コンテキストは最大約 66K までです。256K をフルに使うには 48GB の VRAM が必要です。画像は扱えますが、音声は扱えません。

Gemma 4 31B のモデル情報

  • 4-bit 最小VRAM21 GB · 8K
  • パラメータ数30.7B
  • 最大コンテキスト256K
アーキテクチャ
Dense
ライセンス
Apache-2.0
発売日
2026年4月2日
提供元
Google DeepMind
Hugging Face リポジトリ
google/gemma-4-31B-it
GGUF リポジトリ
unsloth/gemma-4-31B-it-GGUF
NVFP4 リポジトリ（Blackwell）
nvidia/Gemma-4-31B-IT-NVFP4
MLX リポジトリ（Apple）
mlx-community/gemma-4-31b-it-4bit
Ollama タグ
gemma4:31b
レイヤー数
60
隠れ層次元
5,376
KV ヘッド数
16
ヘッド次元
256

Gemma 4 31B のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキストGB256K コンテキスト（最大）GB
1-bit7.7推定10.312.320.431.1
2-bit11.8GGUF14.416.424.535.2
3-bit15.4GGUF182028.138.8
4-bit18.3GGUF20.922.93141.7
5-bit21.7GGUF24.326.334.445.1
8-bit32.6GGUF35.237.245.356
BF16/FP1661.4GGUF646674.184.8

詳しい計算ルールはデータの作り方ページをご覧ください。

Gemma 4 31B は GPU 1 枚で動く？

24GB カード 1 枚で 4-bit が動きます。ただし弱点はコンテキストです。RTX 3090、4090、RX 7900 XTX に 4-bit を載せるとコンテキストに回せる VRAM が少なく、約 66K が上限で、速度は 30 tokens/s 台後半です。長い文書の読解こそ同じファミリーの小さいモデルにはっきり勝る点なのに、そこを生かしきれません。コンテキストを延ばしたいなら 32GB の RTX 5090 で約 168K まで広がり、速度もかなり上がります。256K をフルに使うには 48GB 以上のカードが必要です。16GB カードでは 2-bit しか使えません。128GB ユニファイドメモリのマシンにも収まりますが、Dense モデルは 1 トークンごとに全重みを読むため、4-bit で 10 tokens/s 前後にとどまります。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Radeon RX 7900 XTX24 GB¥293,6506 件の出品36.766K
GeForce RTX 309024 GB¥406,9228 件の出品35.866K
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品10.2256K
GeForce RTX 409024 GB¥862,1369 件の出品38.466K
GeForce RTX 509032 GB¥1,399,9909 件の出品65.5168K
RTX A600048 GB¥1,511,5715 件の出品29.6256K
RTX PRO 600096 GB価格なし65.5256K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB価格なし46.3256K
Tesla V100 32GB32 GB価格なし34.5168K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし23.9256K
DGX Spark 128GBマシン全体 · 128 GB価格なし10.8256K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

Gemma 4 31B をローカルで動かす前に知っておきたいこと

  1. 24GB カードでの VRAM の割り振り

    4-bit の重みは 18.3 GB で、コンテキストを 8K から 128K に広げるとさらに約 10.1 GB 必要になるため、24GB カードでは 128K まで届きません。もっと長いコンテキストが必要なら、3-bit（重み 15.4 GB）に落とすか、llama.cpp で -ctk q8_0 -ctv q8_0 を使ってコンテキストのキャッシュを圧縮します。5-bit は避けましょう。24GB カードでは最大約 25K までしか広げられません。

  2. 長文が得意

    Google のモデルカードにある 128K の長文マルチニードル検索テスト（MRCR v2）では、31B が 66.4% なのに対し、26B A4B と 12B はどちらも 44% 前後にとどまります。長い文書や大きなコードベースを読ませるなら 31B を選びましょう。

  3. エージェント用途にもこちら

    同じモデルカードのツール呼び出しテスト Tau2 では、31B が 76.9%、26B A4B が 68.2% で、ほかの多くのテストより差が開いています。システムプロンプトと関数呼び出しにもネイティブで対応しています。

  4. 推論エンジン

    Ollama のタグは gemma4:31b です。Google によると、公開当日の時点で vLLM、llama.cpp、MLX、SGLang、LM Studio が対応済みでした。Mac では MLX と llama.cpp のどちらでも動かせます。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run gemma4:31b

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
ターミナル
llama-server -hf unsloth/gemma-4-31B-it-GGUF:Q4_K_M -c 8192

vLLM

  • Linux
  • NVIDIA
  • AMD
オリジナルの重み
ターミナル
vllm serve google/gemma-4-31B-it
NVFP4 · Blackwell

Blackwell 世代の GPU（RTX 50 シリーズ、RTX PRO 6000、B200）は NVFP4 の重みをネイティブに扱え、サイズは元の約 3 割です。

ターミナル
vllm serve nvidia/Gemma-4-31B-IT-NVFP4

MLX

  • Apple シリコン

画像を扱うモデルは mlx-vlm で動かします。Mac で pip install mlx-vlm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得してサーバーを起動します。

ターミナル
mlx_vlm.server --model mlx-community/gemma-4-31b-it-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

Gemma ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
Gemma 4 E4BDense8B8B5 GB
Gemma 4 12BDense12B12B7.1 GB
Gemma 4 26B A4BMoE25.2B3.8B16.9 GB

Gemma について