当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

Kimi K2.5 をローカルに導入するには？

Kimi K2.5 は、Moonshot AI が 2026 年 1 月に公開した 1T パラメータの MoE です。K2 に比べて画像を扱えるようになり、思考モードと即時モードの 2 つを備え、エキスパートの重みはネイティブで 4-bit です。後続の K2.6 と K2.7 Code は構造がまったく同じなので、新規に導入するなら、コーディングには K2.7 Code、即時モードが必要なら K2.6 を使いましょう。K2.5 の GGUF には落とし穴もあります。8-bit は約 1,091 GB ありますが、4-bit のエキスパートを大きな形式で保存し直しただけで、4-bit より正確になるわけではありません。

Kimi K2.5 のモデル情報

  • 4-bit 最小VRAM623 GB · 8K
  • パラメータ数1,000B
  • アクティブ32B
  • 最大コンテキスト256K
アーキテクチャ
MoE
エキスパートオフロード
VRAM 10 GB + RAM 615 GB
ライセンス
Modified MIT
発売日
2026年1月27日
提供元
Moonshot AI
Hugging Face リポジトリ
moonshotai/Kimi-K2.5
GGUF リポジトリ
unsloth/Kimi-K2.5-GGUF
NVFP4 リポジトリ（Blackwell）
nvidia/Kimi-K2.5-NVFP4
MLX リポジトリ（Apple）
mlx-community/Kimi-K2.5
レイヤー数
61
隠れ層次元
7,168
KV ヘッド数
64
ヘッド次元
192

Kimi K2.5 のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキストGB256K コンテキスト（最大）GB
1-bit300.6GGUF302.2304310.9320.1
2-bit374.8GGUF376.4378.2385.1394.3
3-bit490.4GGUF492493.8500.7509.9
4-bit621.2GGUF622.8624.6631.5640.7
5-bit728.7GGUF730.3732.1739748.2
8-bit1,091.1GGUF1,092.71,094.51,101.41,110.6
BF16/FP162,053.2GGUF2,054.82,056.62,063.52,072.7

詳しい計算ルールはデータの作り方ページをご覧ください。

Kimi K2.5 は GPU 1 枚で動く？

単体 GPU では無理です。K2 と同じ 1T パラメータで 2-bit でも約 375 GB あり、どの GPU にも遠く及ばず、128GB のマシンでも 3 分の 1 ほどしか載りません。丸ごと収まるのは 512GB の Mac Studio M3 Ultra で 2-bit を動かす場合だけで、コンテキストを最大にしてもシステム設定を変える必要はありません。4-bit は約 621 GB で、この Mac にも収まりません。それ以外はマルチ GPU か、大容量メモリのサーバーと GPU 1 枚の組み合わせです。もう 1 つ、8-bit 版はダウンロードしないでください。エキスパートはもともと 4-bit 形式なので、8-bit は同じデータを大きなファイルに保存しただけで精度は上がらず、ローカルでは 4-bit が上限です。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Mac Studio M3 Ultra 512GBマシン全体 · 512 GB価格なし41.2256K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

Kimi K2.5 を動かすには GPU が何枚必要？

96GB の RTX PRO 6000 が 8 枚必要で、2-bit なら毎秒約 70 トークン、4-bit なら約 50 です。4-bit で元の品質にほぼ届くので、8-bit を狙う意味はありません。2-bit は K2.6 より 30 GB 余り大きく、32K のコンテキストを加えると 96GB カード 4 枚にも 48GB カード 8 枚にもわずかに収まらないため、その中間に枚数の少ない選択肢がありません。DGX Spark を 4 台つなげば 2-bit は収まりますが、1 台あたりのメモリ帯域が限られ、毎秒 15 トークン前後です。

Amazon.jp
デバイス必要枚数合計価格合計 VRAM速度 t/s合計消費電力
RTX PRO 60001 枚 96 GB8 枚価格なし768 GB504,800 W
Mac Studio M3 Ultra 512GB1 台 512 GB2 台価格なし1,024 GB26.2960 W

Mac Studio は Thunderbolt 5 で連結し、MLX や exo で動かします。vLLM は対応していません。詳しい計算ルールはデータの作り方ページをご覧ください。

Kimi K2.5 を動かすにはどんな構成のマシンが必要？

エキスパートをメインメモリに置く場合、組める構成は 12 チャネル DDR5 サーバーと RTX PRO 6000 1 枚の組み合わせだけです。4-bit ではメモリ 768GB をフル搭載する必要があり、61 層のうち 96GB の VRAM に載るのは約 9 層分のエキスパートだけで、残りはすべてメインメモリに置かれます。速度は主にメモリ帯域幅で決まり、約 26 tokens/s です。2-bit ならメモリ 384GB で足り、VRAM に載せられるエキスパートが増えて（約 15 層分）、約 41 です。

Amazon.jp

8 × Tesla V100 32GB + Xeon E5 デュアル 8 GPU サーバー

低予算
生成速度8.5t/s
メモリ帯域幅137GB/s
GPU
8 × Tesla V100 32GBエキスパート層 25 / 61 を VRAM 256 GB に配置
—
メモリ
384 GB DDR4-213316 GB × 24 枚
¥541,656
CPU
2 × Intel Xeon E5-2680 v4合計 28 コア 56 スレッド・8 チャネル
¥4,747
ベアボーン
Supermicro SYS-4028GR-TRGPU 8 基・メモリスロット 24 本
¥205,691
電源
内蔵 4 × 1,600 W
ベアボーンに含む
マシン全体の参考価格—

GeForce RTX 5090 + EPYC デュアル DDR5

フラッグシップ
生成速度30.1t/s
メモリ帯域幅922GB/s
GPU
GeForce RTX 5090エキスパート層 2 / 61 を VRAM 32 GB に配置
¥1,399,990
メモリ
768 GB DDR5-480032 GB × 24 枚
¥6,820,584
CPU
2 × AMD EPYC 9354合計 64 コア 128 スレッド・24 チャネル
¥579,100
マザーボード
Gigabyte MZ73-LM0メモリスロット 24 本
¥205,691
電源
Seasonic PRIME PX-16001,600 W
¥80,694
マシン全体の参考価格¥9,086,060

4 × RTX PRO 6000 + EPYC デュアル DDR5

超大規模モデル向け
生成速度40.8t/s
メモリ帯域幅922GB/s
GPU
4 × RTX PRO 6000エキスパート層 39 / 61 を VRAM 384 GB に配置
—
メモリ
384 GB DDR5-480016 GB × 24 枚
¥3,336,672
CPU
2 × AMD EPYC 9354合計 64 コア 128 スレッド・24 チャネル
¥579,100
マザーボード
Gigabyte MZ73-LM0メモリスロット 24 本
¥205,691
電源
2 × Seasonic PRIME PX-22004,400 W
¥208,856
マシン全体の参考価格—

詳しい計算ルールはデータ方法のページで確認できます。

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

Kimi K2.5 をローカルで動かす前に知っておきたいこと

  1. 8-bit の GGUF はダウンロードしない

    公式が公開しているエキスパートの重みは 4-bit（INT4）そのもので、学習段階から 4-bit に合わせた調整がされています（K2 Thinking と同じ手法）。Unsloth によると、オリジナルの精度が欲しければ 4-bit か 5-bit の動的量子化で十分で、K2.5 をローカルで動かすなら 4-bit が上限です。8-bit は同じデータを大きく保存しているだけです。K2.6 以降、Unsloth の 8-bit は INT4 をそのまま保持する形に変わり、4-bit より 10 GB ほど大きいだけになりました。

  2. 思考モードと即時モード

    temperature は思考モードで 1.0、即時モードで 0.6、top_p はどちらも 0.95 です。vLLM や SGLang でデプロイしている場合は、リクエストの chat_template_kwargs で thinking: false を渡すと即時モードに切り替わります。

  3. ローカルの GGUF は基本的にテキストのみ

    llama.cpp は 2026 年 2 月に K2.5 対応をマージした際、初期段階のビジョン関連のコードも取り込みました（PR #19170）。しかし Unsloth の K2.5 GGUF リポジトリには、画像入力に必要な射影ファイル（mmproj）が含まれておらず、これが付くのは K2.6 以降の GGUF からです。動画入力は、公式によると現時点では自社 API でしか使えません。

  4. 1 月 29 日にテンプレートを修正

    公開から 2 日後、公式は誤解を招きやすい既定のシステムプロンプトを削除し、チャットテンプレート内で誤っていた <|media_start|> を <|media_begin|> に修正しました。最初期に変換された重みや GGUF を使う場合は、テンプレートが新しいものか確認してください。

起動コマンド

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
すべて VRAM に載せる
ターミナル
llama-server -hf unsloth/Kimi-K2.5-GGUF:Q4_K_M -c 8192
MoE オフロード

VRAM が足りないときは --cpu-moe を付けると、ルーティングされるエキスパートを RAM に置けます（約 615 GB 必要）。

ターミナル
llama-server -hf unsloth/Kimi-K2.5-GGUF:Q4_K_M -c 8192 -ngl 99 --cpu-moe

vLLM

  • Linux
  • NVIDIA

実行前にデプロイガイドで必要な実行環境とハードウェアを確認してください。

ターミナル
vllm serve moonshotai/Kimi-K2.5 \
  --trust-remote-code \
  --tensor-parallel-size 8 \
  --tool-call-parser kimi_k2 \
  --enable-auto-tool-choice \
  --reasoning-parser kimi_k2 \
  --speculative-config '{"model":"lightseekorg/kimi-k2.5-eagle3-mla","method":"eagle3","num_speculative_tokens":3}' \
  --mm-encoder-tp-mode data

MLX

  • Apple シリコン

Mac で pip install mlx-lm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得し、OpenAI 互換のサーバーを起動します。

ターミナル
mlx_lm.server --model mlx-community/Kimi-K2.5

Ollama

  • Windows
  • macOS
  • Linux

Ollama ライブラリに公式タグはまだありません。

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

Kimi ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
Kimi Linear 48B A3BMoE49.1B3B30.1 GB
Kimi K2MoE1,000B32B621.3 GB
Kimi K2.6MoE1,000B32B583.7 GB
Kimi K2.7 CodeMoE1,000B32B583.7 GB
Kimi K3MoE2,800B104B1,508.7 GB

Kimi について