本地部署 GLM 需要什麼顯示卡？各版本記憶體需求一覽
GLM 目前有 5 個能本地部署的版本，最小的 GLM 4.7 Flash 在 4-bit 量化下需要 20GB 顯示記憶體；最大的 GLM 5.3 是 MoE 模型，用專家卸載時需要 14GB 顯示記憶體加約 457GB 系統記憶體。最便宜能跑起來的裝置是 Tesla V100 32GB，約 NT$20,479。
| 版本 | 發布日期 | 上下文 | 授權 | ||
|---|---|---|---|---|---|
| GLM 5.3MoE | 2026年8月28日 | 744B | 40B | 1M | GLM-5.3 License |
| GLM 5.3 FlashMoE | 2026年8月26日 | 320B | 18B | 1M | MIT |
| GLM 5.2MoE | 2026年6月16日 | 744B | 40B | 1M | MIT |
| GLM 4.7 FlashMoE | 2026年1月19日 | 30B | 3B | 198K | MIT |
| GLM 4.5 AirMoE | 2025年7月28日 | 106B | 12B | 128K | MIT |
關於 GLM
GLM 是智譜（Z.ai）推出的大模型系列。智譜 2019 年在北京成立，技術源自清華大學計算機系知識工程實驗室（KEG），2025 年 7 月起在海外改用 Z.ai 品牌，2026 年 1 月在香港交易所掛牌上市。從 2022 年開源中英雙語的 GLM-130B 開始，智譜持續推出開放權重模型，近年的重點放在 AI 代理與程式開發。
早期最知名的是 2023 年 3 月開源的 ChatGLM-6B，在 GitHub 上累積了 4 萬多顆星。之後的主線轉向 MoE：2025 年 7 月的 GLM 4.5 支援思考與不思考兩種模式；2026 年 2 月的 GLM 5 擴大到 744B 參數，並導入 DeepSeek 稀疏注意力（DSA）；6 月的 GLM 5.2 把上下文拉到 100 萬 token；8 月的 GLM 5.3 Flash 則是這個系列第一次同時採用稀疏與線性注意力。授權方面，2025 年 4 月以後的開放權重大多採用 MIT；GLM 5.3 改用自訂授權條款，年營收超過 100 億美元的模型服務商，在商用前必須先通過安全審查。
- 廠商Z.ai / Zhipu AI
- 收錄版本5
- 參數量30B – 744B
- 最新版本GLM 5.3
GLM 各版本 2-bit 量化需要多少顯示記憶體？
2-bit 也叫 Q2 精度，常見的 GGUF 檔案有 Q2_K、UD-Q2_K_XL，體積最小、品質損失也最明顯，適合顯示記憶體吃緊時先把模型跑起來。下表每一列是 GLM 的一個版本，每一欄是一種上下文長度，格子裡是用 Q2 精度部署時需要的總顯示記憶體（權重 + KV cache + 1.1GB 執行開銷）。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| GLM 5.3744B（啟用 40B） | 253.9GGUF | 257.9 | 266.8 | 278.5 | 349.2 |
| GLM 5.3 Flash320B（啟用 18B） | 108.7GGUF | 110.1 | 111.3 | 112.7 | 121.6 |
| GLM 5.2744B（啟用 40B） | 253.9GGUF | 257.9 | 266.8 | 278.5 | 349.2 |
| GLM 4.7 Flash30B（啟用 3B） | 11.9GGUF | 14.7 | 20.1 | — | — |
| GLM 4.5 Air106B（啟用 12B） | 47.4GGUF | 54.6 | 73.2 | — | — |
GLM 各版本 4-bit 量化需要多少顯示記憶體？
4-bit 也叫 Q4 精度，對應最常用的 Q4_K_M 檔案，體積和品質比較平衡，是本地部署的預設選擇。下表每一列是 GLM 的一個版本，每一欄是一種上下文長度，格子裡是用 Q4 精度部署時需要的總顯示記憶體。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| GLM 5.3744B（啟用 40B） | 467.3GGUF | 471.3 | 480.2 | 491.9 | 562.6 |
| GLM 5.3 Flash320B（啟用 18B） | 199.7GGUF | 201.1 | 202.3 | 203.7 | 212.6 |
| GLM 5.2744B（啟用 40B） | 465.8GGUF | 469.8 | 478.7 | 490.4 | 561.1 |
| GLM 4.7 Flash30B（啟用 3B） | 18.3GGUF | 21.1 | 26.5 | — | — |
| GLM 4.5 Air106B（啟用 12B） | 73GGUF | 80.2 | 98.8 | — | — |
GLM 各版本 8-bit 量化需要多少顯示記憶體？
8-bit 也叫 Q8 精度，對應 Q8_0 檔案，品質最接近原版，體積也最大。下表每一列是 GLM 的一個版本，每一欄是一種上下文長度，格子裡是用 Q8 精度部署時需要的總顯示記憶體。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| GLM 5.3744B（啟用 40B） | 801.4GGUF | 805.4 | 814.3 | 826 | 896.7 |
| GLM 5.3 Flash320B（啟用 18B） | 341GGUF | 342.4 | 343.6 | 345 | 353.9 |
| GLM 5.2744B（啟用 40B） | 801.4GGUF | 805.4 | 814.3 | 826 | 896.7 |
| GLM 4.7 Flash30B（啟用 3B） | 31.8GGUF | 34.6 | 40 | — | — |
| GLM 4.5 Air106B（啟用 12B） | 117.5GGUF | 124.7 | 143.3 | — | — |
常見問題
GLM 是開源的嗎？可以免費商用嗎？
大多數版本可以。GLM 4.5 Air、GLM 4.7 Flash、GLM 5.2 和 GLM 5.3 Flash 都採用標準 MIT 授權，只要保留著作權與授權聲明，就能商用、修改和再散布。例外是 GLM 5.3：它改用智譜（Z.AI）自訂的 GLM-5.3 License，其他條款跟 MIT 相同，只多了一條規定：經營「模型即服務」業務（透過 API 等方式讓第三方呼叫推論或微調服務），而且連續 12 個月總營收超過授權條款所定門檻的集團，在把模型用於任何商業用途之前，都必須先通過智譜的安全審查。如果只是自己使用，或是把模型能力嵌入產品中的某項功能，並不算模型即服務。尺寸相同的 GLM 5.2 仍是 MIT 授權，沒有這項規定。
GLM 可以用 Ollama 執行嗎？
能在本機執行的只有 GLM 4.7 Flash：標籤是 glm-4.7-flash，預設為 q4_K_M，另外還有 glm-4.7-flash:q8_0 和 glm-4.7-flash:bf16，需要 Ollama 0.14.3 或更新版本。GLM 5.2、GLM 5.3 和 GLM 5.3 Flash 只提供 :cloud 標籤，在 Ollama 的伺服器上執行；GLM 4.5 Air 則沒有官方標籤，搜尋 glm4.5:air 是找不到的。想在本機跑這幾個模型，可以用主線版 llama.cpp 搭配 unsloth 製作的 GGUF，主線已經支援它們的架構；GLM 5.2、5.3 和 5.3 Flash 也能用 vLLM 執行官方權重，vLLM 針對這三個模型都有官方配方。
