GLM 4.5 Air のローカル実行に必要なVRAMは？

Name: GLM 4.5 Air
Author: Z.ai / Zhipu AI

VRAMGlass 編集部 · 2026年9月5日更新

GLM 4.5 Air は総パラメータ 106B、1 トークンあたり 12B が有効になる MoE モデルです。Q4 で全量を VRAM に置くには 62GB 必要ですが、エキスパートをシステム RAM に置けば VRAM 7GB + RAM 56GB で動きます。収まる最も安いデバイスは CMP 170HX 64GB (改造) ですが、中古価格のデータはまだなく、推定 89 tokens/s です。オフロード構成で最も安く動かせるのは GeForce RTX 2080 Ti で、推定 12 tokens/s です。

GLM 4.5 Air のバージョン情報

発売日2025年7月20日

Hugging Face リポジトリzai-org/GLM-4.5-Air

リビジョン—

ライセンスMIT

アーキテクチャMoE

GGUF リポジトリunsloth/GLM-4.5-Air-GGUF

Ollama タグglm4.5:air

30日ダウンロード114,264

Q4 最小VRAM62 GB · Q4_K_M · 8K

エキスパートオフロードVRAM 7 GB + RAM 56 GB

パラメータ数106B

MoE12B

レイヤー数46

隠れ層次元4,096

KV ヘッド数8

ヘッド次元128

最大コンテキスト128K

提供元Z.ai / Zhipu AI

GLM 4.5 Air の量子化・コンテキスト別の必要VRAM

8K 時の合計

MoE：総パラメータ 106B すべてをメモリに常駐させる必要があり、速度は 1 トークンあたり有効な 12B で決まります。

量子化	重みサイズGB	8K 時の合計GB	32K 時の合計GB	128K 時の合計GB
Q4_K_M	73GGUF	61.5	65.8	83.1
Q5_K_M	71.5推定	74	78.3	95.5
Q8_0	109.9推定	112.3	116.6	133.9
FP16	221GGUF	209.7	214.1	231.3

合計 = 重み + KV キャッシュ（FP16）+ 実行時オーバーヘッド 1GB。GGUF と付いた重みはリポジトリの実測ファイルサイズ、「推定」はパラメータあたりのバイト数からの概算です。このモデルの上限 128K を超えるコンテキストは「—」と表示します。

GLM 4.5 Air を動かせるGPUは？

Q4_K_M・8K コンテキスト・eBayの中古価格の安い順

デバイス	VRAMGB	中古価格	推定 t/s	推奨コンテキスト
CMP 170HX 64GB (改造)	64	—出品なし	89	8K
Instinct MI210	64	—出品なし	75.6	8K
RTX PRO 5000 Blackwell 72GB	72	—出品なし	83.1	32K
RTX PRO 6000D	84	—出品なし	91.9	128K
RTX PRO 6000 Blackwell	96	—出品なし	99.7	128K
DGX Spark 128GB	128	—出品なし	23	128K
Mac Studio M4 Max 128GB	128	—出品なし	34.3	128K
Mac Studio M5 Max 128GB	128	—出品なし	37.9	128K
MacBook Pro M4 Max 128GB	128	—出品なし	34.3	128K
MacBook Pro M5 Max 128GB	128	—出品なし	37.9	128K
Ryzen AI Max+ 395 128GB	128	—出品なし	15.9	128K
Mac Studio M3 Ultra 512GB	512	—出品なし	48.1	128K

判定基準：重み + KV キャッシュ + 実行時オーバーヘッド ≤ 利用可能メモリ、1 枚構成。MoE モデルの「オフロード」はエキスパート重みをシステム RAM に置けば動作することを示し（VRAM にはアテンション層と KV キャッシュのみ）、その速度は RAM 帯域幅 70 GB/s を前提に推定。コンテキスト列は収まる最大段階です。

エキスパートを RAM に置けば GLM 4.5 Air を動かせる GPU

エキスパート重みはシステム RAM に置き（56 GB 以上が必要）、VRAM にはアテンション層・共有エキスパート・KV キャッシュのみで Q4 なら最低 7 GB。速度は RAM 帯域幅（70 GB/s で推定）に縛られ、全量 VRAM 構成よりかなり遅くなります。

デバイス	VRAMGB	中古価格	必要 RAMGB	推定 t/s
GeForce RTX 2080 Ti	11	—	56	11.6
GeForce RTX 4080	16	—	56	11.8
GeForce RTX 5070 Ti	16	—	56	12
GeForce RTX 5080	16	—	56	12.1
Radeon RX 7800 XT	16	—	56	11.2
Radeon RX 9070 XT	16	—	56	11.2
Tesla V100 16GB	16	—	56	12
Radeon RX 7900 XT	20	—	56	11.5
Arc Pro B60	24	—	56	10.4
GeForce RTX 3090	24	—	56	12.1
GeForce RTX 4090	24	—	56	12.1
GeForce RTX 5090 D V2	24	—	56	12.3
Radeon RX 7900 XTX	24	—	56	11.7
RTX PRO 4000 Blackwell	24	—	56	11.7
Arc Pro B65	32	—	56	10.9
Arc Pro B70	32	—	56	10.9
GeForce RTX 4080 SUPER 32GB (改造)	32	—	56	11.8
GeForce RTX 5090	32	—	56	12.5
GeForce RTX 5090 D	32	—	56	12.5
Instinct MI100	32	—	56	12
Radeon AI PRO R9700	32	—	56	11.2
Radeon PRO W7800	32	—	56	11
RTX PRO 4500 Blackwell	32	—	56	12
Tesla V100 32GB	32	—	56	12
A100 40GB PCIe	40	—	56	12.4
CMP 170HX 40GB (改造)	40	—	56	12.4
GeForce RTX 4090 48GB (改造)	48	—	56	12.1
Radeon PRO W7900	48	—	56	11.6
RTX PRO 5000 Blackwell 48GB	48	—	56	12.3

Ollama / llama.cpp / vLLM で GLM 4.5 Air を起動する

Ollama

Ollama は 1 コマンドで取得して起動します。量子化は公式タグに従います。

ollama run glm4.5:air

llama.cpp

llama.cpp は Hugging Face から GGUF を直接取得します。-c はコンテキスト長です。

llama-server -hf unsloth/GLM-4.5-Air-GGUF:Q4_K_M -c 8192

vLLM

vLLM は元の精度の重みを読み込むため、GGUF よりはるかに多くのメモリ（通常は複数枚）が必要です。

vllm serve zai-org/GLM-4.5-Air

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。データ方法

よくある質問

GLM 4.5 Air にはどれくらいのVRAMが必要ですか？

Q4_K_M・8K コンテキストでは GLM 4.5 Air に約 62GB のVRAMが必要で、76GB あれば余裕があります。

GLM 4.5 Air を動かせる最も安いGPUは？

CMP 170HX 64GB (改造) です。VRAM 64GB、推定 89 tokens/s。このデバイスの中古価格データはまだありません。

GLM 4.5 Air は Ollama で動かせますか？

はい。ollama run glm4.5:air で動きます。