当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

Ministral 3 8B をローカルに導入するには？

Ministral 3 8B は、Mistral 3 シリーズの画像を扱える 8B の小型モデルです。Instruct 版は思考せずに直接回答し、ライセンスは Apache 2.0 です。4-bit と 8K で約 7.4 GB なので 8GB の GPU で動きますが、コンテキストは VRAM を大きく消費し、256K をフルに使うと約 43 GB 必要です。

Ministral 3 8B のモデル情報

  • 4-bit 最小VRAM8 GB · 8K
  • パラメータ数8.4B
  • 最大コンテキスト256K
アーキテクチャ
Dense
ライセンス
Apache-2.0
発売日
2025年12月2日
提供元
Mistral AI
Hugging Face リポジトリ
mistralai/Ministral-3-8B-Instruct-2512
GGUF リポジトリ
mistralai/Ministral-3-8B-Instruct-2512-GGUF
MLX リポジトリ（Apple）
mlx-community/Ministral-3-8B-Instruct-2512-4bit
Ollama タグ
ministral-3:8b
リビジョン
2512
レイヤー数
34
隠れ層次元
4,096
KV ヘッド数
8
ヘッド次元
128

Ministral 3 8B のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキストGB256K コンテキスト（最大）GB
1-bit2.4GGUF4.6821.740
2-bit3.6GGUF5.89.222.941.2
3-bit4.4GGUF6.61023.742
4-bit5.2GGUF7.410.824.542.8
5-bit6.1GGUF8.311.725.443.7
8-bit9GGUF11.214.628.346.6
BF16/FP1617GGUF19.222.636.354.6

詳しい計算ルールはデータの作り方ページをご覧ください。

Ministral 3 8B は GPU 1 枚で動く？

12GB の GPU で動きます。4-bit と 32K コンテキストで約 10.8 GB、Mistral 自身も公式の重みはそのまま 12GB の VRAM に収まるとしています。画像を読ませるなら、別ファイルになっている画像処理部分のために 1 GB 弱を空けておきましょう。カードごとの差が出るのはコンテキストで、最長 256K に対応するものの、長くするほど必要な VRAM が膨らみます。24GB の RTX 3090 なら 8-bit で約 110K まで広げられ、たいていの長文には十分です。256K をすべて使うなら、48GB の RTX A6000 か 128GB ユニファイドメモリのマシンが必要です。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Tesla V100 16GB16 GB¥116,6274 件の出品102.676K
GeForce RTX 5060 Ti 16GB16 GB¥156,40029 件の出品5576K
Radeon RX 7900 XTX24 GB¥293,6506 件の出品108.4136K
GeForce RTX 309024 GB¥406,9228 件の出品106.1136K
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品32.5256K
GeForce RTX 409024 GB¥862,1369 件の出品113136K
GeForce RTX 509032 GB¥1,399,9909 件の出品178.8196K
RTX A600048 GB¥1,511,5715 件の出品89.4256K
RTX PRO 600096 GB価格なし178.8256K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB価格なし133.1256K
Tesla V100 32GB32 GB価格なし102.6196K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし73.3256K
DGX Spark 128GBマシン全体 · 128 GB価格なし34.6256K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

Ministral 3 8B をローカルで動かす前に知っておきたいこと

  1. 公式の重みは FP8

    Hugging Face の Instruct 版は FP8 で公開されており、公式によると 12GB の VRAM に収まります。vLLM は 0.12.0 以上が必要です。llama.cpp を使うなら Mistral 公式の GGUF リポジトリからダウンロードします。用意されているのは Q4_K_M、Q5_K_M、Q8_0、BF16 の 4 種類だけで、もっと低い段階が必要なら Unsloth などのサードパーティ製を探します。

  2. 画像入力には追加のファイルが必要

    8.4B の言語モデルと 0.4B のビジョン部分で構成されています。ビジョン部分は別の mmproj ファイル（BF16 版で約 0.8 GB）に入っており、llama.cpp で画像を扱うにはこれも一緒に読み込む必要があります。表の VRAM は言語モデルだけで計算しているので、画像を扱うならこの分を足してください。公式は画像の縦横比を 1:1 に近づけるよう勧めており、極端に細長い画像は先にトリミングしておきましょう。

  3. temperature は 0.1 未満

    公式は、普段使いや本番環境では temperature を 0.1 未満にし、創作系ではそれより上げるよう勧めています。多くのフロントエンドの既定値よりかなり低いので、Ollama や Open WebUI を使うときは忘れずに変更してください。Ollama のタグは ministral-3:8b で、0.13.1 以上のバージョンが必要です。

  4. 256K の仕組み

    ネイティブの学習長は 16K だけで、設定ファイルですでに YaRN によって 16 倍の 256K に拡張されているので、自分でパラメータを加える必要はありません。ただし vLLM は既定で 256K 分の VRAM を確保するため、1 枚で動かすなら --max-model-len で小さくしておきましょう。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run ministral-3:8b

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
ターミナル
llama-server -hf mistralai/Ministral-3-8B-Instruct-2512-GGUF:Q4_K_M \
  -c 8192

vLLM

  • Linux
  • NVIDIA
  • AMD
ターミナル
vllm serve mistralai/Ministral-3-8B-Instruct-2512

MLX

  • Apple シリコン

画像を扱うモデルは mlx-vlm で動かします。Mac で pip install mlx-vlm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得してサーバーを起動します。

ターミナル
mlx_vlm.server --model mlx-community/Ministral-3-8B-Instruct-2512-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

Mistral ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
Mistral 7B v0.3Dense7.3B7.3B4.4 GB
Mistral NemoDense12.3B12.3B7.5 GB
Ministral 3 14BDense13.5B13.5B8.2 GB
Mistral Small 3.2 24BDense24B24B14.3 GB

Mistral について