Llama 4 Scout 17B 16E 本地部署需要多少显存？

Name: Llama 4 Scout 17B 16E
Author: Meta AI

VRAMGlass 编辑部 · 更新于 2026年9月5日

Llama 4 Scout 17B 16E 是 MoE 模型，总参数 108.6B，每 token 激活 17B。Q4 量化整机放显存需要 64GB；把专家放进系统内存后只需 10GB 显存 + 55GB 内存。当前最便宜能跑的显卡是 CMP 170HX 64GB (改装)，二手约 ¥12,850，预估 71.5 tokens/s。卸载模式下最便宜能跑的显卡是 GeForce RTX 2080 Ti，预估 11 tokens/s。

Llama 4 Scout 17B 16E 版本信息

发布日期2025年4月2日

Hugging Face 仓库meta-llama/Llama-4-Scout-17B-16E-Instruct

小版本—

许可证Llama 4 Community License

架构MoE

GGUF 仓库unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF

Ollama 标签llama4:scout

30 天下载174,923

Q4 最低显存64 GB · Q4_K_M · 8K

专家卸载10 GB 显存 + 55 GB 内存

参数量108.6B

MoE17B

层数48

隐藏维度5,120

KV 头8

头维度128

上下文上限10M

厂商Meta AI

Llama 4 Scout 17B 16E 各量化与上下文的显存需求

8K 总显存

MoE：总参数 108.6B 全部要驻留显存，速度按每 token 激活的 17B 算。

量化	权重体积GB	8K 总显存GB	32K 总显存GB	128K 总显存GB
Q4_K_M	65.4GGUF	63.1	67.6	85.6
Q5_K_M	76.5GGUF	75.8	80.3	98.3
Q8_0	112.6估	115.1	119.6	137.6
FP16	215.6GGUF	215	219.5	237.5

总显存 = 权重 + KV cache（FP16）+ 1GB 运行开销。标 GGUF 的权重是仓库里的实测文件体积，标「估」的按每参数字节估算。超过这个模型 10M 上下文上限的档位写「—」。

什么显卡能跑 Llama 4 Scout 17B 16E？

Q4_K_M · 8K 上下文 · 按闲鱼二手价升序

设备	显存GB	二手价	预估 t/s	建议上下文
CMP 170HX 64GB (改装)	64	¥12,8504 条挂牌	71.5	8K
Instinct MI210	64	¥18,50017 条挂牌	59.7	8K
RTX PRO 5000 Blackwell 72GB	72	¥62,00011 条挂牌	66.2	32K
RTX PRO 6000D	84	¥70,00019 条挂牌	74	32K
RTX PRO 6000 Blackwell	96	¥118,50010 条挂牌	81.2	128K
DGX Spark 128GB	128	—暂无挂牌	17.1	128K
Mac Studio M4 Max 128GB	128	—暂无挂牌	25.8	128K
Mac Studio M5 Max 128GB	128	—暂无挂牌	28.6	128K
MacBook Pro M4 Max 128GB	128	—暂无挂牌	25.8	128K
MacBook Pro M5 Max 128GB	128	—暂无挂牌	28.6	128K
Ryzen AI Max+ 395 128GB	128	—暂无挂牌	11.7	128K
Mac Studio M3 Ultra 512GB	512	—暂无挂牌	36.8	128K

判定口径：权重 + KV cache + 运行开销 ≤ 可用显存，单卡。MoE 模型标「卸载」表示把专家权重放进系统内存后能跑（显存只放注意力层与 KV cache），速度按内存带宽 70 GB/s 估算。上下文列给的是能装下的最大档位。

把专家放进内存后还能跑 Llama 4 Scout 17B 16E 的显卡

专家权重放系统内存，需要 ≥ 55 GB 内存；显存只放注意力层、共享专家和 KV cache，Q4 下最低 10 GB。速度受内存带宽限制（按 70 GB/s 估算），比整机放显存慢得多。

设备	显存GB	二手价	需内存GB	预估 t/s
GeForce RTX 2080 Ti	11	¥1,680	55	11
Radeon RX 7800 XT	16	¥2,600	55	10.3
Radeon RX 7900 XT	20	¥3,999	55	10.8
Radeon RX 9070 XT	16	¥5,230	55	10.3
Arc Pro B60	24	¥5,299	55	9.2
Radeon RX 7900 XTX	24	¥5,500	55	11.2
GeForce RTX 4080	16	¥7,590	55	11.2
GeForce RTX 3090	24	¥8,049	55	11.7
GeForce RTX 5070 Ti	16	¥8,644	55	11.6
Arc Pro B70	32	¥9,999	55	10
Radeon PRO W7800	32	¥10,100	55	10.1
CMP 170HX 40GB (改装)	40	¥10,800	55	12.3
GeForce RTX 5080	16	¥11,500	55	11.7
Radeon AI PRO R9700	32	¥11,900	55	10.3
RTX PRO 4000 Blackwell	24	¥15,800	55	11.1
Radeon PRO W7900	48	¥22,000	55	11
GeForce RTX 4090	24	¥22,800	55	11.8
GeForce RTX 5090 D V2	24	¥25,000	55	12.1
GeForce RTX 4090 48GB (改装)	48	¥25,500	55	11.8
RTX PRO 4500 Blackwell	32	¥25,850	55	11.6
GeForce RTX 5090 D	32	¥30,900	55	12.4
A100 40GB PCIe	40	¥38,500	55	12.3
GeForce RTX 5090	32	¥39,750	55	12.4
RTX PRO 5000 Blackwell 48GB	48	¥47,000	55	12.1
Tesla V100 16GB	16	—	55	11.6
Arc Pro B65	32	—	55	10
GeForce RTX 4080 SUPER 32GB (改装)	32	—	55	11.3
Instinct MI100	32	—	55	11.6
Tesla V100 32GB	32	—	55	11.6

用 Ollama / llama.cpp / vLLM 启动 Llama 4 Scout 17B 16E

Ollama

Ollama 一条命令拉起，量化档位由官方标签决定。

ollama run llama4:scout

llama.cpp

llama.cpp 直接从 Hugging Face 拉 GGUF，-c 是上下文长度。

llama-server -hf unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF:Q4_K_M -c 8192

vLLM

vLLM 跑的是原始精度权重，显存要求比 GGUF 高得多，通常要多卡。

vllm serve meta-llama/Llama-4-Scout-17B-16E-Instruct

量化文件名以模型库当周抓取为准，口径见数据方法。数据方法

常见问题

Llama 4 Scout 17B 16E 需要多少显存？

在 Q4_K_M 量化、8K 上下文下 Llama 4 Scout 17B 16E 约需 64GB 显存，留到 76GB 更稳。

哪张显卡最便宜能跑 Llama 4 Scout 17B 16E？

CMP 170HX 64GB (改装)，64GB 显存，当前二手中位价约 ¥12,850，预估 71.5 tokens/s。

Llama 4 Scout 17B 16E 能用 Ollama 跑吗？

能，命令是 ollama run llama4:scout。