8 × Tesla V100 32GB + Xeon E5 デュアル 8 GPU サーバー
低予算生成速度5.9t/s
メモリ帯域幅137GB/s
- 電源
- 内蔵 4 × 1,600 W
- ベアボーンに含む
マシン全体の参考価格—
Kimi K3.1 Pro をローカルに導入するには？
Kimi K3.1 Pro は、Moonshot AI が 2026 年 10 月 24 日に発表した新しいフラッグシップです。Kimi K3 の事後学習を強化したもので、構造は変わらず、2.8T パラメータの MoE で画像を扱え、コンテキストは 1M です。完全な重みは 11 月 4 日までにオープンソースで公開すると公式が約束しており、それまでは Kimi のアプリと API でしか使えません。サイズは K3 と同じで、2-bit で約 861 GB、4-bit で約 1,509 GB と、どの単体 GPU にも単体ワークステーションにも収まりません。このページの VRAM の数字は同じ構造の K3 のファイルから推定したもので、重みが公開されたら実際のファイルで確認します。
Kimi K3.1 Pro のモデル情報
- 4-bit 最小VRAM1,511 GB · 8K
- パラメータ数2,800B
- アクティブ104B
- 最大コンテキスト1M
- アーキテクチャ
- MoE
- エキスパートオフロード
- VRAM 32 GB + RAM 1,480 GB
- オープンウェイト
- 2026年11月4日までに公開予定
- 提供元
- Moonshot AI
- レイヤー数
- 93
- 隠れ層次元
- 7,168
- KV ヘッド数
- 96
- ヘッド次元
- 192
Kimi K3.1 Pro は K3 より何が強くなった？
強くなったのはコーディング、3D 制作、金融分析で、動かすためのハードルは変わりません。構造が K3 と同じなので、K3 が動くハードウェアならこれも動きます。公式ベンチマークでは、ターミナル上でプログラミングのタスクをこなす Terminal-Bench 4.0 で 65.7 を記録し、Claude Opus 5.5 の 66.4 との差は 1 ポイント未満です。社内の長時間にわたるプログラミングテストでは、K3 の 56.0 から 61.2 に上がりました。ハルシネーションも大きく減っています。公式があえて難しい問題を出す事実確認のテストでは、1 つの記述が誤っている割合が K3 の 23.4% から 8.3% に下がりました。これらのスコアはすべて Moonshot AI 自身が公表したもので、テスト方法は画像の下にある原文を参照してください。
Kimi K3.1 Pro のローカル実行に必要なVRAMは？
K3 と同じく、最低でも数百 GB が必要です。1-bit で約 649 GB、2-bit で約 861 GB、4-bit で約 1,509 GB です。8-bit は約 1,561 GB で、4-bit よりわずかに大きいだけです。K3 のエキスパートは学習段階から 4-bit なので、8-bit はそれをそのまま保持した形になるためです。コンテキストは VRAM をほとんど使いません。93 層のうちコンテキストに応じてキャッシュが増えるのは 24 層だけで、4-bit で 32K から 1M に広げても約 28 GB 増えるだけです。これらの数字は K3 の GGUF ファイルのサイズから推定したもので、K3.1 Pro のファイルが出たら実測値に置き換えます。
| 量子化 | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキスト（最大）GB |
|---|---|---|---|---|---|
| 1-bit | 648.9推定 | 650.9 | 653.6 | 657.2 | 679 |
| 2-bit | 861.3推定 | 863.3 | 866 | 869.6 | 891.4 |
| 3-bit | 1,440.6推定 | 1,442.6 | 1,445.3 | 1,448.9 | 1,470.7 |
| 4-bit | 1,508.7推定 | 1,510.7 | 1,513.4 | 1,517 | 1,538.8 |
| 5-bit | — | — | — | — | — |
| 8-bit | 1,561.2推定 | 1,563.2 | 1,565.9 | 1,569.5 | 1,591.3 |
| BF16/FP16 | 5,880推定 | 5,882 | 5,884.7 | 5,888.3 | 5,910.1 |
詳しい計算ルールはデータの作り方ページをご覧ください。
Kimi K3.1 Pro は GPU 1 枚で動く？
動かせません。K3 と同じく、単体 GPU にも単体ワークステーションにも収まりません。最小の 1-bit でも約 649 GB と、512GB の Mac Studio M3 Ultra を超えます。2-bit の約 861 GB は、96GB カード 8 枚を合わせても入りきりません。収まるのは 512GB の Mac Studio を複数台つないだ構成で、2-bit なら 2 台、4-bit なら 4 台必要です。
Kimi K3.1 Pro を動かすには GPU が何枚必要？
| デバイス | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|
| Mac Studio M3 Ultra 512GB1 台 512 GB | 2 台 | 価格なし | 1,024 GB | 17.7 | 960 W |
| デバイス | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|
| Mac Studio M3 Ultra 512GB1 台 512 GB | 4 台 | 価格なし | 2,048 GB | 10.6 | 1,920 W |
| デバイス | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|
| Mac Studio M3 Ultra 512GB1 台 512 GB | 4 台 | 価格なし | 2,048 GB | 10.2 | 1,920 W |
Mac Studio は Thunderbolt 5 で連結し、MLX や exo で動かします。vLLM は対応していません。詳しい計算ルールはデータの作り方ページをご覧ください。
Kimi K3.1 Pro を動かすにはどんな構成のマシンが必要？
サーバー級のマシンが必要です。デュアル EPYC（24 チャネル DDR5）にメモリ 1.5TB をフル搭載し、RTX 5090 を 4 枚加えてエキスパートの一部を置くと、4-bit で約 14 tokens/s です。2-bit に下げるとメモリは半分の 768GB で済み、速度はむしろ約 23 tokens/s に上がります。古いハードウェアでも組めます。2-bit なら V100 32GB 4 枚と DDR4 768GB の古いサーバーでも動きますが、約 6 tokens/s にとどまります。これらの構成では今すぐ Kimi K3 を動かせ、K3.1 Pro の重みが公開されたらファイルを差し替えるだけです。
4 × GeForce RTX 5090 + EPYC デュアル DDR5
フラッグシップ生成速度23.4t/s
メモリ帯域幅922GB/s
マシン全体の参考価格¥13,852,406
8 × RTX PRO 6000 + EPYC デュアル DDR5 8 GPU サーバー
超大規模モデル向け生成速度34.3t/s
メモリ帯域幅922GB/s
- 電源
- 内蔵 4 × 3,000 W
- ベアボーンに含む
マシン全体の参考価格—
GeForce RTX 5090 + EPYC デュアル DDR5
フラッグシップ生成速度13.3t/s
メモリ帯域幅922GB/s
マシン全体の参考価格¥16,468,020
8 × RTX PRO 6000 + EPYC デュアル DDR5 8 GPU サーバー
超大規模モデル向け生成速度16.8t/s
メモリ帯域幅922GB/s
- 電源
- 内蔵 4 × 3,000 W
- ベアボーンに含む
マシン全体の参考価格—
4 × GeForce RTX 5090 + EPYC デュアル DDR5
フラッグシップ生成速度13.2t/s
メモリ帯域幅922GB/s
マシン全体の参考価格¥21,035,126
8 × RTX PRO 6000 + EPYC デュアル DDR5 8 GPU サーバー
超大規模モデル向け生成速度16.1t/s
メモリ帯域幅922GB/s
- 電源
- 内蔵 4 × 3,000 W
- ベアボーンに含む
マシン全体の参考価格—
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
Kimi K3.1 Pro をローカルで動かす前に知っておきたいこと
重みの公開まではオンラインのみ
公式によると、完全な重みは 11 月 4 日までに公開されます。それまでは Kimi のウェブ版とアプリ、Kimi Code で使うか、API を呼び出します。モデル名は
kimi-k3.1-proです。ほかにkimi-k3.1-pro-highspeedもあり、公式は 2〜3 倍速いとしています。今のところ API でしか触れられておらず、重みを別に公開するかどうかは明らかにされていません。思考は段階の調整のみ
K3 と同じく思考は常にオンで、
reasoning_effortで low、high、max を選べるだけです。既定は max です。API ではtemperature1.0、top_p0.95 に固定されているので、指定する必要はありません。複数ターンの会話やツール呼び出しでは、返ってきた応答全体をそのまま送り返す必要があります。ローカルで使える推論エンジン
構造が変わっていなければ、既存の K3 対応がそのまま使えるはずです。llama.cpp のメインラインは 8 月に K3 のテキスト部分をマージしており（PR #26185）、vLLM には kimi-k3 専用のイメージがあります。ただし、そのまま読み込めるかどうかは、重みの公開後に実際に試す必要があります。このページでは、GGUF と vLLM のレシピが出て確認が取れた段階で起動コマンドを追加します。
ライセンスは未発表
K3 は独自の Kimi K3 License を採用しています。収益が基準を超える「Model as a Service」事業は、商用利用の前に Moonshot AI と別途契約を結ぶ必要があります。K3.1 Pro のライセンスは、重みの公開時に公式が発表する予定です。商用利用を考えている場合は、K3 の条項を前提に結論を出さないでください。
Kimi ファミリーのほかのモデル
| モデル | 総パラメータ | アクティブ | 4-bit のサイズ |
|---|---|---|---|
| Kimi Linear 48B A3BMoE | 49.1B | 3B | 30.1 GB |
| Kimi K2MoE | 1,000B | 32B | 621.3 GB |
| Kimi K2.5MoE | 1,000B | 32B | 621.2 GB |
| Kimi K2.6MoE | 1,000B | 32B | 583.7 GB |
| Kimi K2.7 CodeMoE | 1,000B | 32B | 583.7 GB |
| Kimi K3MoE | 2,800B | 104B | 1,508.7 GB |