GLM 5.2 をローカルに導入するには？

• 4-bit 最小VRAM468 GB · 8K
• パラメータ数744B
• アクティブ40B
• 最大コンテキスト1M

アーキテクチャ

MoE

エキスパートオフロード

VRAM 14 GB + RAM 455 GB

ライセンス

MIT

発売日

2026年6月16日

提供元

Z.ai / Zhipu AI

Hugging Face リポジトリ

zai-org/GLM-5.2

GGUF リポジトリ

unsloth/GLM-5.2-GGUF

NVFP4 リポジトリ（Blackwell）

nvidia/GLM-5.2-NVFP4

MLX リポジトリ（Apple）

mlx-community/GLM-5.2-4bit

レイヤー数

78

隠れ層次元

6,144

KV ヘッド数

64

ヘッド次元

192

詳しい計算ルールはデータの作り方ページをご覧ください。

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

デバイス	必要枚数	合計価格	合計 VRAM	速度 t/s	合計消費電力
A100 80GB PCIe1 枚 80 GB	8 枚	価格なし	640 GB	44.3	2,400 W
RTX PRO 60001 枚 96 GB	8 枚	価格なし	768 GB	41.7	4,800 W
Instinct MI2101 枚 64 GB	8 枚	価格なし	512 GB	38.8	2,400 W
RTX PRO 5000 72GB1 枚 72 GB	8 枚	価格なし	576 GB	32.9	2,400 W
DGX Spark 128GB1 台 128 GB	4 台	価格なし	512 GB	7.6	960 W

Mac Studio は Thunderbolt 5 で連結し、MLX や exo で動かします。vLLM は対応していません。詳しい計算ルールはデータの作り方ページをご覧ください。

詳しい計算ルールはデータ方法のページで確認できます。

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

1. 1

   GLM 5.3 との違い

   公式の説明では、5.3 と 5.2 は同じベースモデルを使っており、性能向上はすべて事後学習によるものです。複雑なプログラミングや長いタスクで明らかに強くなり、Zhipu AI 社内のプログラミングテストでは 50% 向上しました。パラメータ数、構造、ファイルサイズはほぼ同じなので、5.2 から 5.3 に乗り換えるのにハードウェアを替える必要はありません。

2. 2

   思考をオフにできるのが強み

   5.2 には思考なし、High、Max の 3 段階があります。思考をオフにするには chat_template_kwargs で enable_thinking: false を渡すか、llama.cpp なら --reasoning off を付けるだけです。5.3 は思考をオフにできず、low、high、max の間で調整できるだけなので、短い回答を素早く返すサービスには今も 5.2 が役立ちます。

3. 3

   ライセンス

   5.2 は純粋な MIT ライセンスで、公式は地域制限を設けないとわざわざ明記しています。5.3 は独自ライセンスに変わり、条項が 1 つ増えました。収益規模が非常に大きいモデル API 事業者は、商用利用の前に Zhipu AI の安全審査を受ける必要があります。個人や一般企業が自社用にデプロイする場合、2 つのライセンスに実質的な違いはありません。

4. 4

   llama.cpp は 7 月下旬以降のバージョンが必要

   GLM 5 シリーズのスパースアテンションは、「インデクサー」が注目すべき内容を選び出す仕組みで動きます。このインデクサーが llama.cpp のメインラインに入ったのは 2026 年 7 月 24 日です（PR #25407）。それより前のバージョンはインデクサーを無視して動き、当初の PR でも品質が落ちると明記されていました。ダウンロード済みの Unsloth の GGUF は取り直す必要はなく、llama.cpp を更新するだけで済みます。

llama-server -hf unsloth/GLM-5.2-GGUF:Q4_K_M -c 8192

llama-server -hf unsloth/GLM-5.2-GGUF:Q4_K_M -c 8192 -ngl 99 --cpu-moe

vllm serve zai-org/GLM-5.2-FP8 \
  --kv-cache-dtype fp8 \
  --tensor-parallel-size 8 \
  --speculative-config.method mtp \
  --speculative-config.num_speculative_tokens 5 \
  --tool-call-parser glm47 \
  --reasoning-parser glm47 \
  --enable-auto-tool-choice \
  --served-model-name glm-5.2-fp8

mlx_lm.server --model mlx-community/GLM-5.2-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

モデル	総パラメータ	アクティブ	4-bit のサイズ
GLM 4.7 FlashMoE	30B	3B	18.3 GB
GLM 4.5 AirMoE	106B	12B	73 GB
GLM 5.3 FlashMoE	320B	18B	199.7 GB
GLM 5.3MoE	744B	40B	467.3 GB

GLM について