Kimi K3 のローカル実行に必要なVRAMは？

Name: Kimi K3
Author: Moonshot AI

VRAMGlass 編集部 · 2026年9月5日更新

Kimi K3 は総パラメータ 2,800B、1 トークンあたり 104B が有効になる MoE モデルです。Q4 で全量を VRAM に置くには 1,562GB 必要ですが、エキスパートをシステム RAM に置けば VRAM 33GB + RAM 1,531GB で動きます。収録している単体カードには収まらず、複数枚構成か Mac Studio のユニファイドメモリが必要です。オフロード構成で最も安く動かせるのは A100 40GB PCIe で、推定 2 tokens/s です。

Kimi K3 のバージョン情報

発売日2026年6月13日

Hugging Face リポジトリmoonshotai/Kimi-K3

リビジョン—

ライセンスKimi K3 License

アーキテクチャMoE

GGUF リポジトリ—

Ollama タグ—

30日ダウンロード2,639,566

Q4 最小VRAM1,562 GB · Q4_K_M · 8K

エキスパートオフロードVRAM 33 GB + RAM 1,531 GB

パラメータ数2,800B

MoE104B

レイヤー数93

隠れ層次元7,168

KV ヘッド数96

ヘッド次元192

最大コンテキスト1M

提供元Moonshot AI

Kimi K3 の量子化・コンテキスト別の必要VRAM

8K 時の合計

MoE：総パラメータ 2,800B すべてをメモリに常駐させる必要があり、速度は 1 トークンあたり有効な 104B で決まります。

量子化	重みサイズGB	8K 時の合計GB	32K 時の合計GB	128K 時の合計GB
Q4_K_M	1,560.7推定	1,561.9	1,562.6	1,565.1
Q5_K_M	1,889.3推定	1,890.5	1,891.1	1,893.7
Q8_0	2,902.4推定	2,903.6	2,904.2	2,906.7
FP16	5,476.2推定	5,477.4	5,478	5,480.6

合計 = 重み + KV キャッシュ（FP16）+ 実行時オーバーヘッド 1GB。GGUF と付いた重みはリポジトリの実測ファイルサイズ、「推定」はパラメータあたりのバイト数からの概算です。このモデルの上限 1M を超えるコンテキストは「—」と表示します。

Kimi K3 を動かせるGPUは？

Q4_K_M・8K コンテキスト・eBayの中古価格の安い順

収録している単体カードでは Kimi K3 は収まりません。Q4_K_M・8K コンテキストで最低 1,562GB のVRAMが必要です。

複数枚構成でも合計で最低 1,562GB のVRAMが必要です。

収録しているユニファイドメモリ機にも収まりません。

エキスパートを RAM に置けば Kimi K3 を動かせる GPU

エキスパート重みはシステム RAM に置き（1,531 GB 以上が必要）、VRAM にはアテンション層・共有エキスパート・KV キャッシュのみで Q4 なら最低 33 GB。速度は RAM 帯域幅（70 GB/s で推定）に縛られ、全量 VRAM 構成よりかなり遅くなります。

デバイス	VRAMGB	中古価格	必要 RAMGB	推定 t/s
A100 40GB PCIe	40	—	1,531	1.7
CMP 170HX 40GB (改造)	40	—	1,531	1.7
GeForce RTX 4090 48GB (改造)	48	—	1,531	1.6
Radeon PRO W7900	48	—	1,531	1.5
RTX PRO 5000 Blackwell 48GB	48	—	1,531	1.6
CMP 170HX 64GB (改造)	64	—	1,531	1.7
Instinct MI210	64	—	1,531	1.6
RTX PRO 5000 Blackwell 72GB	72	—	1,531	1.6
RTX PRO 6000D	84	—	1,531	1.7
RTX PRO 6000 Blackwell	96	—	1,531	1.7
DGX Spark 128GB	128	—	1,531	1.4
Mac Studio M4 Max 128GB	128	—	1,531	1.5
Mac Studio M5 Max 128GB	128	—	1,531	1.5
MacBook Pro M4 Max 128GB	128	—	1,531	1.5
MacBook Pro M5 Max 128GB	128	—	1,531	1.5
Ryzen AI Max+ 395 128GB	128	—	1,531	1.2
Mac Studio M3 Ultra 512GB	512	—	1,531	1.6

Ollama / llama.cpp / vLLM で Kimi K3 を起動する

Ollama

Ollama ライブラリに公式タグはまだありません。

vLLM

vLLM は元の精度の重みを読み込むため、GGUF よりはるかに多くのメモリ（通常は複数枚）が必要です。

vllm serve moonshotai/Kimi-K3

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。データ方法

よくある質問

Kimi K3 にはどれくらいのVRAMが必要ですか？

Q4_K_M・8K コンテキストでは Kimi K3 に約 1,562GB のVRAMが必要で、1,876GB あれば余裕があります。

Kimi K3 を動かせる最も安いGPUは？

収録している単体カードでは Kimi K3 は動かせず、複数枚構成か Mac Studio のユニファイドメモリが必要です。

Kimi K3 は Ollama で動かせますか？

まだできません。Ollama の公式タグも公開されている GGUF もありません。