Kimi をローカルで動かすには?バージョン別の必要VRAM
Kimi には現在ローカルで動かせるバージョンが 6 個あります。最小の Kimi Linear 48B A3B は 4-bit 量子化で VRAM 32GB が必要です。最大の Kimi K3 は MoE モデルで、MoE オフロードを使う場合は VRAM 32GB と RAM 約 1,480GB が必要です。最も安く動かせるデバイスは Ryzen AI Max+ 395 128GB で、約 ¥688,858 です。
| バージョン | 公開日 | コンテキスト | ライセンス | ||
|---|---|---|---|---|---|
| 2026年7月27日 | 2,800B | 104B | 1M | Kimi K3 License | |
| 2026年6月12日 | 1,000B | 32B | 256K | Modified MIT | |
| 2026年4月20日 | 1,000B | 32B | 256K | Modified MIT | |
| 2026年1月27日 | 1,000B | 32B | 256K | Modified MIT | |
| 2025年10月30日 | 49.1B | 3B | 1M | MIT | |
| 2025年9月3日 | 1,000B | 32B | 256K | Modified MIT |
Kimi について
Kimi は Moonshot AI(月之暗面)の大規模言語モデルシリーズです。Moonshot AI は 2023 年 3 月に楊植麟らが北京で創業し、同年 10 月に AI アシスタント Kimi を公開しました。2025 年からモデルの重みを順次公開しており、フラッグシップはいずれも超大規模な MoE で、エージェント、コーディング、長いコンテキストに重点を置いています。
2025 年 7 月の Kimi K2 は 1 兆パラメータで、1 トークンごとに使うのはそのうち 320 億です。MLA アテンションと自社開発の MuonClip オプティマイザを採用し、11 月には思考する K2 Thinking も登場しました。同年 10 月の Kimi Linear では、独自の線形アテンション KDA を提案しています。2026 年 1 月の K2.5 はネイティブマルチモーダルになり、その後 K2.6 とコーディング専用の K2.7 Code が続きました。7 月の K3 は 2.8 兆パラメータで、1 トークンごとに使うのは 1040 億です。KDA と MLA を組み合わせ、コンテキストは 100 万トークンで、公開時点ではパラメータ数が最も多いオープンウェイトモデルでした。ライセンスは、K2 系が修正版 MIT で商用利用でき、超大規模な製品ではモデル名の表示が必要です。K3 はさらに、年間売上高が 2000 万ドルを超えるモデルサービス事業者に、商用利用の前に別途契約を結ぶよう定めています。なお、Cursor のコーディングモデル Composer 2 は Kimi K2.5 をベースに作られています。
- 提供元Moonshot AI
- 収録バージョン数6
- パラメータ数49.1B – 2,800B
- 最新バージョンKimi K3
- ライセンス
- MIT / Modified MIT / Kimi K3 License
- 公式サイト
- www.moonshot.ai
- Hugging Face の組織
- moonshotai
Kimi 各モデルの 2-bit 量子化での必要 VRAM は?
2-bit は Q2 とも呼ばれ、よく使われる GGUF ファイルには Q2_K や UD-Q2_K_XL があります。サイズが最も小さい一方で品質の低下も最も大きく、VRAM が厳しいときにまずモデルを動かすのに向いています。下の表は各行が Kimi の各バージョン、各列がコンテキスト長で、セルは Q2 で動かすときに必要な合計 VRAM(重み + KV キャッシュ + 実行時オーバーヘッド 1.1GB)です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 861.3GGUF | 863.3 | 866 | 869.6 | 891.4 | |
| 339.5GGUF | 342.9 | 349.8 | 359 | — | |
| 340.5GGUF | 343.9 | 350.8 | 360 | — | |
| 374.8GGUF | 378.2 | 385.1 | 394.3 | — | |
| 17.9GGUF | 19.2 | 20 | 21.1 | 27.4 | |
| 383.6GGUF | 387 | 393.9 | 403.1 | — |
Kimi 各モデルの 4-bit 量子化での必要 VRAM は?
4-bit は Q4 とも呼ばれ、最もよく使われる Q4_K_M ファイルにあたります。サイズと品質のバランスがよく、ローカル実行の標準的な選択肢です。下の表は各行が Kimi の各バージョン、各列がコンテキスト長で、セルは Q4 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 1,508.7GGUF | 1,510.7 | 1,513.4 | 1,517 | 1,538.8 | |
| 583.7GGUF | 587.1 | 594 | 603.2 | — | |
| 583.7GGUF | 587.1 | 594 | 603.2 | — | |
| 621.2GGUF | 624.6 | 631.5 | 640.7 | — | |
| 30.1GGUF | 31.4 | 32.2 | 33.3 | 39.6 | |
| 621.3GGUF | 624.7 | 631.6 | 640.8 | — |
Kimi 各モデルの 8-bit 量子化での必要 VRAM は?
8-bit は Q8 とも呼ばれ、Q8_0 ファイルにあたります。品質は元のモデルに最も近く、サイズも最大です。下の表は各行が Kimi の各バージョン、各列がコンテキスト長で、セルは Q8 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 1,561.2GGUF | 1,563.2 | 1,565.9 | 1,569.5 | 1,591.3 | |
| 594.5GGUF | 597.9 | 604.8 | 614 | — | |
| 594.5GGUF | 597.9 | 604.8 | 614 | — | |
| 1,091.1GGUF | 1,094.5 | 1,101.4 | 1,110.6 | — | |
| 52.2GGUF | 53.5 | 54.3 | 55.4 | 61.7 | |
| 1,091.1GGUF | 1,094.5 | 1,101.4 | 1,110.6 | — |
よくある質問
Kimi はオープンソースですか?無料で商用利用できますか?
バージョンによって異なり、ライセンスは全部で 3 種類あります。Kimi Linear 48B A3B は標準の MIT です。K2、K2.5、K2.6、K2.7 Code は Moonshot AI の修正版 MIT で、追加された条項は 1 つだけです。月間アクティブユーザーが 1 億人を超えるか、月間売上高が一定の基準額を超える商用製品で使う場合は、対応するモデル名(たとえば「Kimi K2.6」)を画面上に目立つように表示しなければなりません。K3 は独自の Kimi K3 License に変わり、同じ表示義務に加えて次の規定があります。「Model as a Service」事業(API などで第三者に推論やファインチューニングのサービスを提供する事業)を営み、連続する 12 か月の売上高が基準額を超える企業グループは、モデルをどんな商用目的に使う場合でも、事前に Moonshot AI と別途契約を結ばなければなりません。K3 のライセンスには、社内でのみ使い、モデルの能力を第三者に提供しない場合は、この 2 つの条項はどちらも適用されないことも明記されています。
Kimi は Ollama で動かせますか?
Ollama ではどれもローカルで動かせません。Kimi K2.6、K2.7 Code、K3 は Ollama にクラウドタグ(kimi-k2.6:cloud、kimi-k2.7-code:cloud、kimi-k3:cloud)しかなく、Ollama のサーバーで動きます。kimi-k2 と kimi-k2.5 のページはすでに取り下げられ、Kimi Linear は公開されていません。ローカルに導入したいなら、llama.cpp と GGUF を使えます。K2 から K2.7 Code までと K3 には unsloth が作ったファイルが、Kimi Linear には bartowski が作ったファイルがあります。ただし K3 は llama.cpp では今のところテキストのみの対応で、画像は扱えません。vLLM で公式の重みを動かすこともできます。