本地部署 Qwen 需要什麼顯示卡？各版本記憶體需求一覽
Qwen 目前有 8 個能本地部署的版本，最小的 Qwen3 8B 在 4-bit 量化下需要 8GB 顯示記憶體；最大的 Qwen3.8 2.4T A95B 是 MoE 模型，用專家卸載時需要 29GB 顯示記憶體加約 1,286GB 系統記憶體。最便宜能跑起來的裝置是 Tesla V100 16GB，約 NT$6,899。
| 版本 | 發布日期 | 上下文 | 授權 | ||
|---|---|---|---|---|---|
| Qwen3.8 Flash NextMoE | 2026年8月26日 | 176B | 6B | 256K | Qwen Community License 1.0 |
| Qwen3.8 27B稠密 | 2026年8月14日 | 27.8B | 27.8B | 256K | Apache-2.0 |
| Qwen3.8 2.4T A95BMoE | 2026年8月12日 | 2,446B | 95B | 256K | Qwen3.8-Max License |
| Qwen3.6 27B稠密 | 2026年4月22日 | 27.8B | 27.8B | 256K | Apache-2.0 |
| Qwen3.6 35B A3BMoE | 2026年4月16日 | 36B | 3B | 256K | Apache-2.0 |
| Qwen3.5 9B稠密 | 2026年3月2日 | 9.7B | 9.7B | 256K | Apache-2.0 |
| Qwen3 32B稠密 | 2025年4月27日 | 32.8B | 32.8B | 40K | Apache-2.0 |
| Qwen3 8B稠密 | 2025年4月27日 | 8.2B | 8.2B | 40K | Apache-2.0 |
關於 Qwen
Qwen（通義千問）是阿里巴巴旗下的大模型系列；阿里巴巴 1999 年在杭州創立。Qwen 在 2023 年問世，同年 8 月開源 Qwen-7B 並開放商用，之後大多以開放權重的方式釋出，尺寸從不到 1B 一路涵蓋到兆級參數，稠密模型與 MoE 兩種架構都有。根據 Hugging Face 2026 年夏季報告，以 Qwen 為基礎的衍生模型共有 151,448 個，數量居各家之冠。
這兩年 Qwen 經歷了幾次轉折。2025 年 4 月的 Qwen3 改採 Apache 2.0 授權，可以在思考與不思考模式之間切換；同年 9 月的 Qwen3-Next 改用線性注意力（Gated DeltaNet）搭配門控注意力的混合架構，2026 年 2 月的 Qwen3.5 延續這套架構，並改為原生多模態。從 2025 年底開始，旗艦版本一度不再公開權重（例如 Qwen3.7-Max 只提供 API），中小尺寸則持續開源；2026 年 8 月的 Qwen3.8 2.4T A95B 重新公開旗艦權重，但改用附帶商用條件的自訂授權條款。
- 廠商Alibaba
- 收錄版本8
- 參數量8.2B – 2,446B
- 最新版本Qwen3.8 Flash Next
Qwen 各版本 2-bit 量化需要多少顯示記憶體？
2-bit 也叫 Q2 精度，常見的 GGUF 檔案有 Q2_K、UD-Q2_K_XL，體積最小、品質損失也最明顯，適合顯示記憶體吃緊時先把模型跑起來。下表每一列是 Qwen 的一個版本，每一欄是一種上下文長度，格子裡是用 Q2 精度部署時需要的總顯示記憶體（權重 + KV cache + 1.1GB 執行開銷）。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（啟用 6B） | 78.9GGUF | 80.8 | 83.2 | 86.4 | — |
| Qwen3.8 27B27.8B | 9.8GGUF | 13 | 19.5 | 28.1 | — |
| Qwen3.8 2.4T A95B2,446B（啟用 95B） | 730.7GGUF | 734.9 | 744.1 | 756.5 | — |
| Qwen3.6 27B27.8B | 11.8GGUF | 15 | 21.5 | 30.1 | — |
| Qwen3.6 35B A3B36B（啟用 3B） | 12.3GGUF | 14 | 16.1 | 18.7 | — |
| Qwen3.5 9B9.7B | 4.1GGUF | 6.2 | 9.5 | 13.8 | — |
| Qwen3 32B32.8B | 12.8GGUF | 22.5 | — | — | — |
| Qwen3 8B8.2B | 3.5GGUF | 9.4 | — | — | — |
Qwen 各版本 4-bit 量化需要多少顯示記憶體？
4-bit 也叫 Q4 精度，對應最常用的 Q4_K_M 檔案，體積和品質比較平衡，是本地部署的預設選擇。下表每一列是 Qwen 的一個版本，每一欄是一種上下文長度，格子裡是用 Q4 精度部署時需要的總顯示記憶體。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（啟用 6B） | 111.3GGUF | 113.2 | 115.6 | 118.8 | — |
| Qwen3.8 27B27.8B | 16.5GGUF | 19.7 | 26.2 | 34.8 | — |
| Qwen3.8 2.4T A95B2,446B（啟用 95B） | 1,310.9GGUF | 1,315.1 | 1,324.3 | 1,336.7 | — |
| Qwen3.6 27B27.8B | 16.8GGUF | 20 | 26.5 | 35.1 | — |
| Qwen3.6 35B A3B36B（啟用 3B） | 22.1GGUF | 23.8 | 25.9 | 28.5 | — |
| Qwen3.5 9B9.7B | 5.7GGUF | 7.8 | 11.1 | 15.4 | — |
| Qwen3 32B32.8B | 19.8GGUF | 29.5 | — | — | — |
| Qwen3 8B8.2B | 5GGUF | 10.9 | — | — | — |
Qwen 各版本 8-bit 量化需要多少顯示記憶體？
8-bit 也叫 Q8 精度，對應 Q8_0 檔案，品質最接近原版，體積也最大。下表每一列是 Qwen 的一個版本，每一欄是一種上下文長度，格子裡是用 Q8 精度部署時需要的總顯示記憶體。
| 版本 | 權重體積GB | 32K 上下文GB | 128K 上下文GB | 256K 上下文GB | 1M 上下文GB |
|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（啟用 6B） | 188.2GGUF | 190.1 | 192.5 | 195.7 | — |
| Qwen3.8 27B27.8B | 29GGUF | 32.2 | 38.7 | 47.3 | — |
| Qwen3.8 2.4T A95B2,446B（啟用 95B） | 2,600.2GGUF | 2,604.4 | 2,613.6 | 2,626 | — |
| Qwen3.6 27B27.8B | 28.6GGUF | 31.8 | 38.3 | 46.9 | — |
| Qwen3.6 35B A3B36B（啟用 3B） | 36.9GGUF | 38.6 | 40.7 | 43.3 | — |
| Qwen3.5 9B9.7B | 9.5GGUF | 11.6 | 14.9 | 19.2 | — |
| Qwen3 32B32.8B | 34.8GGUF | 44.5 | — | — | — |
| Qwen3 8B8.2B | 8.7GGUF | 14.6 | — | — | — |
常見問題
Qwen 是開源的嗎？可以免費商用嗎？
大多數版本可以。Qwen3 8B、Qwen3 32B、Qwen3.5 9B、Qwen3.6 27B、Qwen3.6 35B A3B 和 Qwen3.8 27B 都採用 Apache 2.0 授權，能商用、微調和再散布，條件是隨附授權條款、保留著作權聲明，並在改動過的檔案中註明修改。例外有兩個，都附帶商用條件。Qwen3.8 Flash Next 採用 Qwen Community License 1.0：用在每月活躍用戶超過 1 億，或每月營收超過門檻的商業產品中，必須在介面上明顯標示模型名稱；公司（含關係企業）若經營模型即服務，或推出以 AI 程式開發、辦公為主的獨立助理產品，不論規模大小，商用前都要另外向 Qwen 申請授權。Qwen3.8 2.4T A95B 採用 Qwen3.8-Max License，署名要求相同，但另簽授權的要求只針對上述兩類業務中、連續 12 個月營收超過門檻的公司。兩份授權條款都寫明，只在內部使用、不把模型能力提供給第三方的，不受另簽授權這一條約束。
Qwen 可以用 Ollama 執行嗎？
除了 2.4T 的旗艦版，其他版本都有官方標籤：qwen3:8b、qwen3:32b、qwen3.5:9b、qwen3.6:27b、qwen3.6:35b-a3b 和 qwen3.8:27b。Qwen3.8 Flash Next 的模型庫沒有 latest 標籤，必須寫出完整名稱，例如 qwen3.8-flash-next:125b-a6b-q4_K_M；Ollama 是以 125B 命名，沒有把另外 51B 的查找表算進去，本站標示的 176B 則包含這一部分。Qwen3.8 2.4T A95B 在 Ollama 上既沒有本機版也沒有雲端版，要改用 llama.cpp 搭配 unsloth 製作的 GGUF，或是用 vLLM 執行官方權重。
