GLM 5.2 をローカルに導入するには？
GLM 5.2 は総パラメータ 744B、1 トークンあたり 40B が有効になる MoE モデルです。Q4 で全量を VRAM に置くには 445GB 必要ですが、エキスパートをシステム RAM に置けば VRAM 41GB + RAM 406GB で動きます。現在最も安く動かせるのは Mac Studio M3 Ultra 512GB（で約 ¥2,966,592）で、推定 11.5 tokens/s です。オフロード構成で最も安く動かせるのは CMP 170HX 64GB で、推定 3 tokens/s です。
GLM 5.2 のバージョン情報
GLM 5.2 のローカル実行に必要なVRAMは？
MoE：総パラメータ 744B すべてをメモリに常駐させる必要があり、速度は 1 トークンあたり有効な 40B で決まります。
| 量子化 | 重みサイズGB | 8K 時の合計GB | 32K 時の合計GB | 128K 時の合計GB |
|---|---|---|---|---|
| 1-bit | 228.5GGUF | 204.9 | 292.6 | 643.6 |
| 2-bit | 253.9GGUF | 306.7 | 394.5 | 745.5 |
| 3-bit | 343GGUF | 386.7 | 474.5 | 825.5 |
| 4-bit | 465.8GGUF | 445 | 532.7 | 883.7 |
| 5-bit | 560.8GGUF | 532.3 | 620 | 971 |
| 8-bit | 801.4GGUF | 801.5 | 889.2 | 1,240.2 |
| FP16 | 1,508GGUF | 1,485.3 | 1,573.1 | 1,924.1 |
合計 = 重み + KV キャッシュ（FP16）+ 実行時オーバーヘッド 1GB。GGUF と付いた重みはリポジトリの実測ファイルサイズ、「推定」はパラメータあたりのバイト数からの概算です。このモデルの上限 1M を超えるコンテキストは「—」と表示します。各段はリポジトリにあるそのビット幅のファイルを使い、unsloth 動的量子化を優先するため、ファイル名はモデルごとに異なります。
GLM 5.2 を動かせるGPUは？
Xianyu
| デバイス | VRAMGB | 価格 | 推定 t/s | 推奨コンテキスト |
|---|---|---|---|---|
| Mac Studio M3 Ultra 512GB | 512 | ¥2,966,5926 件の出品 | 11.5 | 8K |
判定基準：重み + KV キャッシュ + 実行時オーバーヘッド ≤ 利用可能メモリ、1 枚構成。MoE モデルの「オフロード」はエキスパート重みをシステム RAM に置けば動作することを示し（VRAM にはアテンション層と KV キャッシュのみ）、その速度は RAM 帯域幅 70 GB/s を前提に推定。コンテキスト列は収まる最大段階です。
GLM 5.2 のCPU・GPU併用推論におすすめのGPU
Xianyu
エキスパート重みはシステム RAM に置き（406 GB 以上が必要）、VRAM にはアテンション層・共有エキスパート・KV キャッシュのみで Q4 なら最低 41 GB。速度は RAM 帯域幅（70 GB/s で推定）に縛られ、全量 VRAM 構成よりかなり遅くなります。
| デバイス | VRAMGB | 価格 | 必要 RAMGB | 推定 t/s |
|---|---|---|---|---|
 CMP 170HX 64GB | 64 | ¥320,867 | 406 | 3.4 |
 Instinct MI210 | 64 | ¥422,494 | 406 | 3.4 |
| Radeon PRO W7900 | 48 | ¥502,425 | 406 | 3.1 |
| GeForce RTX 4090 48GB | 48 | ¥607,478 | 406 | 3.3 |
| Mac Studio M4 Max 128GB | 128 | ¥735,368 | 406 | 2.9 |
| DGX Spark 128GB | 128 | ¥742,219 | 406 | 2.5 |
| MacBook Pro M4 Max 128GB | 128 | ¥808,448 | 406 | 2.9 |
| Mac Studio M5 Max 128GB | 128 | ¥903,223 | 406 | 2.9 |
| RTX PRO 5000 Blackwell 48GB | 48 | ¥1,068,795 | 406 | 3.4 |
| MacBook Pro M5 Max 128GB | 128 | ¥1,251,495 | 406 | 2.9 |
| RTX PRO 5000 Blackwell 72GB | 72 | ¥1,484,438 | 406 | 3.4 |
| RTX PRO 6000D | 84 | ¥1,552,951 | 406 | 3.4 |
| RTX PRO 6000 Blackwell | 96 | ¥2,829,567 | 406 | 3.5 |
| Ryzen AI Max+ 395 128GB | 128 | — | 406 | 2.2 |
Ollama / llama.cpp / vLLM で GLM 5.2 をローカルに導入する
Ollama ライブラリに公式タグはまだありません。
llama.cpp は Hugging Face から GGUF を直接取得します。-c はコンテキスト長です。
llama-server -hf unsloth/GLM-5.2-GGUF:Q4_K_M -c 8192
vLLM は元の精度の重みを読み込むため、GGUF よりはるかに多くのメモリ（通常は複数枚）が必要です。
vllm serve zai-org/GLM-5.2
ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法
よくある質問
GLM 5.2 にはどれくらいのVRAMが必要ですか？
Q4_K_M・8K コンテキストでは GLM 5.2 に約 445GB のVRAMが必要で、536GB あれば余裕があります。
GLM 5.2 を動かせる最も安いGPUは？
Mac Studio M3 Ultra 512GB です。VRAM 512GB、現在の中央値は約 ¥2,966,592、推定 11.5 tokens/s。
GLM 5.2 は Ollama で動かせますか？
まだできません。Ollama ライブラリに公式タグがないため、llama.cpp で GGUF を読み込んでください。