A100 80GB PCIe 价格与二手行情：能部署哪些大模型？

单张 A100 80GB PCIe 有 80GB HBM2e 显存，在 4-bit 量化、8K 上下文下最大能装约 136B 参数的稠密模型，8-bit 下约 73B。

能。在 4-bit 量化、8K 上下文下，70B 稠密模型约需 43GB，A100 80GB PCIe 的 80GB 装得下。

2026 年发布的模型里，4-bit 下能整个放进显存的最大稠密模型是 Gemma 4 31B，预估 70.5 tokens/s。MoE 模型里 Qwen3.6 35B A3B 最快，约 186.8 tokens/s。完整列表见上方「能跑哪些模型」表。

按显存带宽估算，4-bit、8K 上下文下：8B 稠密模型约 220.5 tokens/s、14B 稠密模型约 138.7 tokens/s、32B 稠密模型约 66.6 tokens/s、70B 稠密模型约 32 tokens/s。MoE 模型每个 token 只读激活参数，会快很多。实测通常在估算值的 70%–100%。

两张 A100 80GB PCIe（共 160GB）按 vLLM 张量并行、4-bit、32K 上下文，能装下 Qwen3.8 Flash Next。要在 4-bit、32K 上下文下跑 Kimi K2.7 Code，需要 8 张。

截至 2026年9月29日，eBay 中位价 ¥118,548（8 条挂单）、闲鱼中位价 ¥119,928（4 条挂单）。取自平台挂单价的中位数，每 6 小时更新。

截至 2026年9月29日，eBay 中位价近 7 天上涨 2.1%，近 30 天上涨 2.1%。

截至 2026年9月29日，Vast.ai 每小时 ¥6.7、RunPod 每小时 ¥8。都是单卡按需价，不含存储和流量。

按 eBay 中位价 ¥118,548、电价每度 ¥0.66 算，每天用 8 小时，买卡约 6.2 年回本（对比 Vast.ai 每小时 ¥6.7）。打算用超过 6.2 年就买，用不到就租。

H100 PCIe 有 80GB 显存、2,000 GB/s 带宽，A100 80GB PCIe 是 80GB、1,935 GB/s。跑 70B 稠密模型（4-bit）预估 A100 80GB PCIe 约 32 tokens/s，H100 PCIe 约 33.1 tokens/s。