本地部署 GLM 需要什么显卡？各版本显存需求一览
GLM 目前有 5 个能本地部署的版本，最小的 GLM 4.7 Flash 在 4-bit 量化下需要 20GB 显存；最大的 GLM 5.3 是 MoE 模型，用专家卸载时需要 14GB 显存加约 457GB 内存。最便宜能跑起来的设备是 Tesla V100 32GB，约 ¥4,200。
| 版本 | 发布日期 | 上下文 | 许可证 | ||
|---|---|---|---|---|---|
| GLM 5.3MoE | 2026年8月28日 | 744B | 40B | 1M | GLM-5.3 License |
| GLM 5.3 FlashMoE | 2026年8月26日 | 320B | 18B | 1M | MIT |
| GLM 5.2MoE | 2026年6月16日 | 744B | 40B | 1M | MIT |
| GLM 4.7 FlashMoE | 2026年1月19日 | 30B | 3B | 198K | MIT |
| GLM 4.5 AirMoE | 2025年7月28日 | 106B | 12B | 128K | MIT |
关于 GLM
GLM 是智谱（Z.ai）的大模型系列。智谱 2019 年成立于北京，技术源自清华大学计算机系知识工程实验室（KEG），2025 年 7 月起在海外使用 Z.ai 品牌，2026 年 1 月在港交所上市。它从 2022 年开源中英双语的 GLM-130B 起，持续发布开放权重模型，近年主打智能体和编程。
早期最有名的是 2023 年 3 月开源的 ChatGLM-6B，在 GitHub 上拿到了 4 万多星标。后来的主线转向 MoE：2025 年 7 月的 GLM 4.5 支持思考和不思考两种模式；2026 年 2 月的 GLM 5 扩到 744B 参数，并引入 DeepSeek 稀疏注意力（DSA）；6 月的 GLM 5.2 把上下文做到 100 万 token；8 月的 GLM 5.3 Flash 第一次在这个系列里混用稀疏和线性注意力。许可证方面，2025 年 4 月起的开放权重多用 MIT；GLM 5.3 改用自定义许可证，年收入超过 100 亿美元的模型服务商，商用前要先通过安全审查。
- 厂商Z.ai / Zhipu AI
- 收录版本5
- 参数量30B – 744B
- 最新版本GLM 5.3
GLM 各版本 2-bit 量化需要多少显存？
2-bit 也叫 Q2 精度，常见的 GGUF 文件有 Q2_K、UD-Q2_K_XL，体积最小、质量损失也最明显，适合显存紧张时先把模型跑起来。下表每一行是 GLM 的一个版本，每一列是一种上下文长度，格子里是用 Q2 精度部署时需要的总显存（权重 + KV cache + 1.1GB 运行开销）。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| GLM 5.3744B（激活 40B） | 253.9GGUF | 257.9 | 266.8 | 278.5 | 349.2 |
| GLM 5.3 Flash320B（激活 18B） | 108.7GGUF | 110.1 | 111.3 | 112.7 | 121.6 |
| GLM 5.2744B（激活 40B） | 253.9GGUF | 257.9 | 266.8 | 278.5 | 349.2 |
| GLM 4.7 Flash30B（激活 3B） | 11.9GGUF | 14.7 | 20.1 | — | — |
| GLM 4.5 Air106B（激活 12B） | 47.4GGUF | 54.6 | 73.2 | — | — |
GLM 各版本 4-bit 量化需要多少显存？
4-bit 也叫 Q4 精度，对应最常用的 Q4_K_M 文件，体积和质量比较平衡，是本地部署的默认选择。下表每一行是 GLM 的一个版本，每一列是一种上下文长度，格子里是用 Q4 精度部署时需要的总显存。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| GLM 5.3744B（激活 40B） | 467.3GGUF | 471.3 | 480.2 | 491.9 | 562.6 |
| GLM 5.3 Flash320B（激活 18B） | 199.7GGUF | 201.1 | 202.3 | 203.7 | 212.6 |
| GLM 5.2744B（激活 40B） | 465.8GGUF | 469.8 | 478.7 | 490.4 | 561.1 |
| GLM 4.7 Flash30B（激活 3B） | 18.3GGUF | 21.1 | 26.5 | — | — |
| GLM 4.5 Air106B（激活 12B） | 73GGUF | 80.2 | 98.8 | — | — |
GLM 各版本 8-bit 量化需要多少显存？
8-bit 也叫 Q8 精度，对应 Q8_0 文件，质量最接近原版，体积也最大。下表每一行是 GLM 的一个版本，每一列是一种上下文长度，格子里是用 Q8 精度部署时需要的总显存。
| 版本 | 权重体积GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| GLM 5.3744B（激活 40B） | 801.4GGUF | 805.4 | 814.3 | 826 | 896.7 |
| GLM 5.3 Flash320B（激活 18B） | 341GGUF | 342.4 | 343.6 | 345 | 353.9 |
| GLM 5.2744B（激活 40B） | 801.4GGUF | 805.4 | 814.3 | 826 | 896.7 |
| GLM 4.7 Flash30B（激活 3B） | 31.8GGUF | 34.6 | 40 | — | — |
| GLM 4.5 Air106B（激活 12B） | 117.5GGUF | 124.7 | 143.3 | — | — |
常见问题
GLM 开源吗？可以免费商用吗？
大部分可以：GLM 4.5 Air、GLM 4.7 Flash、GLM 5.2 和 GLM 5.3 Flash 都是标准 MIT 许可，可以商用、修改、再分发，只要保留版权和许可声明。例外是 GLM 5.3，它换成了智谱（Z.AI）自己的 GLM-5.3 License，其余条款和 MIT 一样，只多一条：经营「模型即服务」业务（让第三方通过 API 等方式调用推理或微调）、且连续 12 个月总收入超过许可证门槛的集团，把模型用于任何商业用途前，都要先通过智谱的安全审查。只给自己用，或者把模型能力嵌进产品的某个功能里，不算模型即服务。同尺寸的 GLM 5.2 仍是 MIT，没有这一条。
GLM 能用 Ollama 跑吗？
本地能跑的只有 GLM 4.7 Flash：标签是 glm-4.7-flash，默认 q4_K_M，另有 glm-4.7-flash:q8_0 和 glm-4.7-flash:bf16，要 Ollama 0.14.3 以上。GLM 5.2、GLM 5.3 和 GLM 5.3 Flash 只有 :cloud 标签，跑在 Ollama 的服务器上；GLM 4.5 Air 没有官方标签，搜 glm4.5:air 是找不到的。这几个想在本地跑，可以用主线 llama.cpp 加 unsloth 的 GGUF，它们的架构主线都已支持；GLM 5.2、5.3 和 5.3 Flash 也可以用 vLLM 跑官方权重，vLLM 有这三个模型的官方配方。
