收錄顯卡45價格追蹤8 天自 2026年9月3日近 24h 價格資料6,955 筆24h 降價最多GeForce RTX 5070 Ti-6.3%24h 漲價最多RTX PRO 4000 Blackwell+7.7%更新於

Qwen3.8 Flash Next 如何本地部署？

VRAMGlass 編輯部 · 更新於 2026年9月10日

Qwen3.8 Flash Next 是 MoE 模型，總參數 176B，每 token 啟用 6B。Q4 量化整機放顯存需要 100GB；把專家放進系統記憶體後只需 4GB 顯存 + 97GB 記憶體。目前最便宜能跑的顯示卡是 MacBook Pro M4 Max 128GB，約 NT$174,628，預估 63.7 tokens/s。卸載模式下最便宜能跑的顯示卡是 Tesla V100 16GB，預估 22 tokens/s。

Qwen3.8 Flash Next 版本資訊

發布日期2026年8月24日
Hugging Face 倉庫Qwen/Qwen3.8-Flash-Next
小版本—
授權Qwen Community License 1.0
架構MoE
GGUF 倉庫unsloth/Qwen3.8-Flash-Next-GGUF
Ollama 標籤—
Q4 最低記憶體100 GB · Q4_K_M · 8K
專家卸載4 GB 顯存 + 97 GB 記憶體
參數量176B
MoE6B
層數48
隱藏維度2,560
KV 頭2
頭維度256
上下文上限256K
廠商Alibaba

Qwen3.8 Flash Next 本地部署需要多少顯示記憶體？

MoE：總參數 176B 全部要常駐記憶體，速度按每 token 啟用的 6B 計算。

量化權重體積GB8K 總記憶體GB32K 總記憶體GB128K 總記憶體GB
1-bit74.5GGUF42.543.145.3
2-bit78.9GGUF66.667.269.4
3-bit90GGUF85.586.188.3
4-bit111.3GGUF99.399.9102.1
5-bit158.3GGUF119.9120.5122.8
8-bit188.2GGUF183.6184.2186.4
FP16354GGUF345.4346348.2

總記憶體 = 權重 + KV cache（FP16）+ 1GB 執行開銷。標 GGUF 的權重是倉庫裡的實測檔案體積，標「估」的按每參數位元組估算。超過這個模型 256K 上下文上限的檔位寫「—」。各檔取倉庫裡該位元數的任一檔案，優先 unsloth 動態量化，所以同一檔不同模型對應的檔名可能不同。

什麼顯示卡能跑 Qwen3.8 Flash Next？

eBay
裝置顯存GB價預估 t/s建議上下文
MacBook Pro M4 Max 128GB128NT$174,6283 筆掛單63.7128K
Mac Studio M4 Max 128GB128NT$206,0364 筆掛單63.7128K
MacBook Pro M5 Max 128GB128NT$228,1595 筆掛單69.4128K
Mac Studio M3 Ultra 512GB512NT$692,34511 筆掛單84.7128K
DGX Spark 128GB128—暫無掛單44.7128K
Mac Studio M5 Max 128GB128—暫無掛單69.4128K
Ryzen AI Max+ 395 128GB128—暫無掛單31.8128K

判定口徑：權重 + KV cache + 執行開銷 ≤ 可用記憶體，單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑（顯存只放注意力層與 KV cache），速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。

Qwen3.8 Flash Next 混合推論推薦顯示卡

eBay

專家權重放系統記憶體，需要 ≥ 97 GB 記憶體；顯存只放注意力層、共享專家和 KV cache，Q4 下最低 4 GB。速度受記憶體頻寬限制（按 70 GB/s 估算），比整機放顯存慢得多。

裝置顯存GB價需記憶體GB預估 t/s
Tesla V100 16GB16NT$9,5989721.8
Radeon RX 6950 XT16NT$15,7359720.5
GeForce RTX 2080 Ti 22GB22NT$17,3409721.2
Radeon RX 7800 XT16NT$17,8759720.6
GeForce RTX 5060 Ti 16GB16NT$22,0299720.6
Radeon RX 7900 XT20NT$22,0299721.1
Tesla V100 32GB32NT$22,6599721.8
Instinct MI50 32GB32NT$24,1699721.5
GeForce RTX 507012NT$24,3899721.4
Radeon RX 9070 XT16NT$25,0199720.7
Radeon RX 7900 XTX24NT$31,4399721.4
Instinct MI10032NT$31,4399721.8
GeForce RTX 5070 Ti16NT$37,7649721.8
GeForce RTX 408016NT$39,7479721.5
GeForce RTX 309024NT$48,7799721.8
GeForce RTX 508016NT$56,6469721.9
RTX PRO 4000 Blackwell24NT$92,8379721.4
GeForce RTX 409024NT$100,6739721.9
Radeon PRO W790048NT$109,9889721.2
RTX PRO 4500 Blackwell32NT$135,3229721.8
A100 40GB PCIe40NT$154,1739722.3
Instinct MI21064NT$158,7999722.1
GeForce RTX 509032NT$204,5569722.4
RTX PRO 6000 Blackwell96NT$534,5229722.4
Arc Pro B6024—9719.6
GeForce RTX 5090 D V224—9722.2
Arc Pro B6532—9720.3
Arc Pro B7032—9720.3
GeForce RTX 4080 SUPER 32GB32—9721.5
GeForce RTX 5090 D32—9722.4
Radeon AI PRO R970032—9720.7
Radeon PRO W780032—9720.5
CMP 170HX 40GB40—9722.3
GeForce RTX 4090 48GB48—9721.9
RTX PRO 5000 Blackwell 48GB48—9722.2
CMP 170HX 64GB64—9722.3
RTX PRO 5000 Blackwell 72GB72—9722.2
RTX PRO 6000D84—9722.3

用 Ollama / llama.cpp / vLLM 本地部署 Qwen3.8 Flash Next

Ollama

Ollama 庫暫無官方標籤。

llama.cpp

llama.cpp 直接從 Hugging Face 拉 GGUF，-c 是上下文長度。

llama-server -hf unsloth/Qwen3.8-Flash-Next-GGUF:Q4_K_M -c 8192
vLLM

vLLM 跑的是原始精度權重，記憶體需求比 GGUF 高得多，通常要多卡。

vllm serve Qwen/Qwen3.8-Flash-Next

量化檔名以模型庫當週抓取為準，口徑見資料方法。 資料方法

常見問題

Qwen3.8 Flash Next 需要多少記憶體？

在 Q4_K_M 量化、8K 上下文下 Qwen3.8 Flash Next 約需 100GB 記憶體，留到 120GB 更穩。

哪張顯示卡最便宜能跑 Qwen3.8 Flash Next？

MacBook Pro M4 Max 128GB，128GB 記憶體，目前中位價約 NT$174,628，預估 63.7 tokens/s。

Qwen3.8 Flash Next 能用 Ollama 跑嗎？

暫時不行，Ollama 庫還沒有它的官方標籤；可以用 llama.cpp 載入 GGUF。