热门本地部署开源模型
| 版本 | 厂商 | 许可证 | ||||||
|---|---|---|---|---|---|---|---|---|
 Qwen3 8B | Alibaba | 2025年4月27日 | 8.2 | 8.2 | 7 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 13,232,997 | Apache-2.0 |
| Qwen3.5 9B | Alibaba | 2026年2月27日 | 9.7 | 9.7 | 8 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 12,375,273 | Apache-2.0 |
 Gemma 4 31B | Google DeepMind | 2026年3月11日 | 31.3 | 31.3 | 26 | Arc Pro B70¥9,999 · 32 GB | 8,332,852 | Apache-2.0 |
| Gemma 4 26B A4B | Google DeepMind | 2026年3月11日 | 25.8 | 4 | 6另需 13 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 8,211,474 | Apache-2.0 |
| gpt-oss 20B | OpenAI | 2025年8月4日 | 20.9 | 3.6 | 4另需 12 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 6,448,506 | Apache-2.0 |
| Qwen3.8 27B | Alibaba | 2026年8月5日 | 27.8 | 27.8 | 19 | Radeon RX 7900 XT¥3,999 · 20 GB | 5,739,341 | Apache-2.0 |
 Llama 3.1 8B | Meta AI | 2024年7月18日 | 8 | 8 | 7 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 5,734,979 | Llama 3.1 Community License |
| Qwen3.6 27B | Alibaba | 2026年4月21日 | 27.8 | 27.8 | 19 | Radeon RX 7900 XT¥3,999 · 20 GB | 5,366,737 | Apache-2.0 |
| gpt-oss 120B | OpenAI | 2025年8月4日 | 116.8 | 5.1 | 4另需 65 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 5,259,501 | Apache-2.0 |
| Qwen3 32B | Alibaba | 2025年4月27日 | 32.8 | 32.8 | 22 | Arc Pro B60¥5,299 · 24 GB | 5,024,271 | Apache-2.0 |
| Gemma 4 E4B | Google DeepMind | 2026年3月2日 | 8 | 8 | 7 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 4,850,749 | Apache-2.0 |
 DeepSeek V4 Flash | DeepSeek | 2026年7月31日 | 284 | 13 | 7另需 155 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 4,559,659 | MIT |
| Qwen3.6 35B A3B | Alibaba | 2026年4月15日 | 36 | 3 | 4另需 19 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 4,546,612 | Apache-2.0 |
| Gemma 4 12B | Google DeepMind | 2026年5月23日 | 12 | 12 | 11 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 3,195,490 | Apache-2.0 |
 Mistral 7B v0.3 | Mistral AI | 2024年5月22日 | 7.3 | 7.3 | 7 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 2,648,636 | Apache-2.0 |
 Kimi K3 | Moonshot AI | 2026年6月13日 | 2,800 | 104 | 33另需 1,531 GB 内存 | CMP 170HX 40GB (改装)¥10,800 · 40 GB · 专家卸载 | 2,639,566 | Kimi K3 License |
 GLM 4.7 Flash | Z.ai / Zhipu AI | 2026年1月19日 | 30 | 3 | 4另需 17 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 1,935,018 | MIT |
| DeepSeek V3.2 | DeepSeek | 2025年12月1日 | 671 | 37 | 12另需 365 GB 内存 | Radeon RX 7800 XT¥2,600 · 16 GB · 专家卸载 | 1,559,697 | MIT |
| Llama 3.2 3B | Meta AI | 2024年9月18日 | 3.2 | 3.2 | 4 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 1,419,885 | Llama 3.2 Community License |
| GLM 5.2 | Z.ai / Zhipu AI | 2026年6月16日 | 744 | 40 | 41另需 406 GB 内存 | CMP 170HX 64GB (改装)¥12,850 · 64 GB · 专家卸载 | 1,134,389 | MIT |
| DeepSeek R1 Qwen3 8B | DeepSeek | 2025年5月29日 | 8.2 | 8.2 | 7 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 1,003,991 | MIT |
| Llama 3.3 70B | Meta AI | 2024年11月26日 | 70.6 | 70.6 | 43 | CMP 170HX 64GB (改装)¥12,850 · 64 GB | 815,592 | Llama 3.3 Community License |
| GLM 5.3 Flash | Z.ai / Zhipu AI | 2026年8月25日 | 320 | 18 | 30另需 174 GB 内存 | Arc Pro B70¥9,999 · 32 GB · 专家卸载 | 654,957 | MIT |
| Kimi K2.6 | Moonshot AI | 2026年4月14日 | 1,000 | 32 | 9另需 552 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 638,370 | Modified MIT |
| DeepSeek R1 Distill Qwen 32B | DeepSeek | 2025年1月20日 | 32.8 | 32.8 | 22 | Arc Pro B60¥5,299 · 24 GB | 562,818 | MIT |
| Kimi K2.5 | Moonshot AI | 2026年1月1日 | 1,000 | 32 | 9另需 552 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 518,180 | Modified MIT |
| DeepSeek R1 Distill Qwen 14B | DeepSeek | 2025年1月20日 | 14.8 | 14.8 | 11 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 396,404 | MIT |
| Mistral Nemo | Mistral AI | 2024年7月17日 | 12.3 | 12.3 | 10 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 358,821 | Apache-2.0 |
| GLM 5.3 | Z.ai / Zhipu AI | 2026年8月25日 | 744 | 40 | 41另需 406 GB 内存 | CMP 170HX 64GB (改装)¥12,850 · 64 GB · 专家卸载 | 303,534 | GLM-5.3 License |
| Ministral 3 14B | Mistral AI | 2025年10月31日 | 14 | 14 | 11 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 266,145 | Apache-2.0 |
| Kimi Linear 48B A3B | Moonshot AI | 2025年10月30日 | 49.1 | 3 | 3另需 27 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 187,057 | MIT |
| Llama 4 Scout 17B 16E | Meta AI | 2025年4月2日 | 108.6 | 17 | 10另需 55 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 174,923 | Llama 4 Community License |
| Ministral 3 8B | Mistral AI | 2025年10月31日 | 8.9 | 8.9 | 8 | GeForce RTX 2080 Ti¥1,680 · 11 GB | 142,610 | Apache-2.0 |
| Mistral Small 3.2 24B | Mistral AI | 2025年6月19日 | 24 | 24 | 16 | Radeon RX 7800 XT¥2,600 · 16 GB | 126,611 | Apache-2.0 |
| GLM 4.5 Air | Z.ai / Zhipu AI | 2025年7月20日 | 106 | 12 | 7另需 56 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 114,264 | MIT |
| gpt-oss Safeguard 20B | OpenAI | 2025年9月18日 | 20.9 | 3.6 | 4另需 12 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 78,266 | Apache-2.0 |
| Kimi K2 | Moonshot AI | 2025年9月3日 | 1,000 | 32 | 9另需 552 GB 内存 | GeForce RTX 2080 Ti¥1,680 · 11 GB · 专家卸载 | 37,308 | Modified MIT |
最低显存按 Q4_K_M 权重 + 8K 上下文 + 运行开销估算 · 二手价为挂牌中位数，非成交价 · 数据方法