Mistral をローカルで動かすには？バージョン別の必要VRAM
Mistral には現在ローカルで動かせるバージョンが 5 個あります。最小の Mistral 7B v0.3 は 4-bit 量子化で 7GB、最大の Mistral Small 3.2 24B は 17GB が必要です。最も安く動かせるデバイスは Tesla V100 16GB で、約 ¥116,627 です。
| バージョン | 公開日 | コンテキスト | ライセンス | ||
|---|---|---|---|---|---|
| Ministral 3 14BDense | 2025年12月2日 | 13.5B | 13.5B | 256K | Apache-2.0 |
| Ministral 3 8BDense | 2025年12月2日 | 8.4B | 8.4B | 256K | Apache-2.0 |
| Mistral Small 3.2 24BDense | 2025年6月19日 | 24B | 24B | 128K | Apache-2.0 |
| Mistral NemoDense | 2024年7月17日 | 12.3B | 12.3B | 128K | Apache-2.0 |
| Mistral 7B v0.3Dense | 2024年5月22日 | 7.3B | 7.3B | 32K | Apache-2.0 |
Mistral について
Mistral はフランスの Mistral AI のモデルシリーズです。同社は 2023 年 4 月にパリで設立され、3 人の創業者は Google DeepMind と Meta の出身です。同年 9 月に公開した最初のモデル Mistral 7B から、Apache 2.0 で重みを公開していました。その後、製品ラインはエッジ向けの小型モデルから MoE のフラッグシップまで広がり、クローズドな商用モデルも提供しています。
2023 年 12 月の Mixtral 8x7B はスパース MoE で、Hugging Face は当時のオープンモデルの最高成績を更新したと評しました。2024 年 7 月には NVIDIA と共同で 12B の Mistral Nemo を発表しています。ライセンスは途中で揺れ動きました。2024 年の Codestral や Mistral Large 2 などは商用利用を制限するライセンスに変わりましたが、2025 年 1 月に Mistral Small 3 を公開した際、同社は汎用モデルを Apache 2.0 に戻すと表明しました。2025 年 12 月の Mistral 3 シリーズには、6750 億パラメータ（1 トークンごとに使うのは 410 億）の MoE フラッグシップ Mistral Large 3 と、3B、8B、14B の 3 つの Ministral 3 が含まれ、いずれも画像を扱え、Apache 2.0 です。2026 年 3 月の Mistral Small 4 は、推論、画像理解、コーディングを 1190 億パラメータの 1 つの MoE にまとめました。
- 提供元Mistral AI
- 収録バージョン数5
- パラメータ数7.3B – 24B
- 最新バージョンMinistral 3 8B
- ライセンス
- Apache-2.0
- 公式サイト
- mistral.ai
- Hugging Face の組織
- mistralai
Mistral 各モデルの 2-bit 量子化での必要 VRAM は？
2-bit は Q2 とも呼ばれ、よく使われる GGUF ファイルには Q2_K や UD-Q2_K_XL があります。サイズが最も小さい一方で品質の低下も最も大きく、VRAM が厳しいときにまずモデルを動かすのに向いています。下の表は各行が Mistral の各バージョン、各列がコンテキスト長で、セルは Q2 で動かすときに必要な合計 VRAM（重み + KV キャッシュ + 実行時オーバーヘッド 1.1GB）です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| Ministral 3 14B13.5B | 5.5GGUF | 11.9 | 28 | 49.5 | — |
| Ministral 3 8B8.4B | 3.6GGUF | 9.2 | 22.9 | 41.2 | — |
| Mistral Small 3.2 24B24B | 9.5GGUF | 15.9 | 32 | — | — |
| Mistral Nemo12.3B | 5.4GGUF | 11.8 | 27.9 | — | — |
| Mistral 7B v0.37.3B | 2.5GGUF | 7.9 | — | — | — |
Mistral 各モデルの 4-bit 量子化での必要 VRAM は？
4-bit は Q4 とも呼ばれ、最もよく使われる Q4_K_M ファイルにあたります。サイズと品質のバランスがよく、ローカル実行の標準的な選択肢です。下の表は各行が Mistral の各バージョン、各列がコンテキスト長で、セルは Q4 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| Ministral 3 14B13.5B | 8.2GGUF | 14.6 | 30.7 | 52.2 | — |
| Ministral 3 8B8.4B | 5.2GGUF | 10.8 | 24.5 | 42.8 | — |
| Mistral Small 3.2 24B24B | 14.3GGUF | 20.7 | 36.8 | — | — |
| Mistral Nemo12.3B | 7.5GGUF | 13.9 | 30 | — | — |
| Mistral 7B v0.37.3B | 4.4GGUF | 9.8 | — | — | — |
Mistral 各モデルの 8-bit 量子化での必要 VRAM は？
8-bit は Q8 とも呼ばれ、Q8_0 ファイルにあたります。品質は元のモデルに最も近く、サイズも最大です。下の表は各行が Mistral の各バージョン、各列がコンテキスト長で、セルは Q8 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| Ministral 3 14B13.5B | 14.4GGUF | 20.8 | 36.9 | 58.4 | — |
| Ministral 3 8B8.4B | 9GGUF | 14.6 | 28.3 | 46.6 | — |
| Mistral Small 3.2 24B24B | 25.1GGUF | 31.5 | 47.6 | — | — |
| Mistral Nemo12.3B | 13GGUF | 19.4 | 35.5 | — | — |
| Mistral 7B v0.37.3B | 7.7GGUF | 13.1 | — | — | — |
よくある質問
Mistral はオープンソースですか？無料で商用利用できますか？
できます。本サイトで扱う 5 バージョン（Mistral 7B v0.3、Mistral Nemo、Ministral 3 8B、Ministral 3 14B、Mistral Small 3.2 24B）はいずれも Apache 2.0 ライセンスで、商用利用・ファインチューニング・再配布ができます。条件は、ライセンス文を添付し、著作権表示を残し、変更したファイルにはその旨を明記することです。紛らわしいのは 2410 版の Ministral 8B で、こちらは Mistral Research License を採用しており、個人利用や研究といった非商用の用途にしか使えません。商用利用には Mistral への別途申請が必要です。Apache 2.0 なのは 2512 版の Ministral 3 なので、ダウンロードするときはリポジトリ名に Ministral-3 が入っているかを確かめてください。
Mistral は Ollama で動かせますか？
動かせます。5 バージョンとも公式タグがあり、mistral:7b（v0.3 のこと）、mistral-nemo:12b、ministral-3:8b、ministral-3:14b、mistral-small3.2:24b です。注意したいのは、mistral-small:24b が指しているのはそれより前の Mistral Small 3（2501 版）で、3.2 ではないことです。3.2 は別の mistral-small3.2 ライブラリにあり、画像も扱えます。Ministral 3 には Ollama 0.13.1 以降が必要です。
