H100 PCIe 价格与二手行情：能部署哪些大模型？
H100 PCIe 有 80GB HBM2e 显存，带宽 2,000 GB/s。暂无价数据。4-bit 量化、8K 上下文下最大能装约 136B 参数的稠密模型，预估 18 tokens/s。
Amazon.jp
H100 PCIe 价格走势
Amazon.jp
购买链接可能含联盟标记，不影响你支付的价格。
H100 PCIe 完整规格
- 显存80 GB · HBM2e
- 带宽2,000 GB/s
- FP16 / BF16756 TFLOPS
- FP8 / INT81,513 / 1,513 TOPS
- 位宽
- 5,120-bit
- 架构
- Hopper (GH100)
- 核心
- 14,592
- 张量核心
- 456
- 生态
- CUDA
- 接口
- PCIe 5.0 x16
- NVLink
- 600 GB/s
- 功耗
- 350 W
- 供电接口
- 16-pin
- 槽位
- 2
- 长度
- 268 mm
- 类型
- 数据中心
- 发布日期
- 2022年3月22日
H100 PCIe 能跑哪些模型？
单张 H100 PCIe 能跑哪些 50B 参数以内的模型，只列 2026 年起发布的版本
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
 Gemma 4 E4B8B | 3.8 GB | 能跑 | 291 | 128K |
 Qwen3.5 9B9.7B | 4.1 GB | 能跑 | 271.9 | 256K |
| Gemma 4 12B12B | 4.7 GB | 能跑 | 240.8 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 10.5 GB | 能跑 | 192.2 | 256K |
| Qwen3.6 27B27.8B | 11.8 GB | 能跑 | 111 | 256K |
| Qwen3.8 27B27.8B | 9.8 GB | 能跑 | 130.8 | 256K |
 GLM 4.7 Flash30B（激活 3B） | 11.9 GB | 能跑 | 201.7 | 198K |
| Gemma 4 31B30.7B | 11.8 GB | 能跑 | 107.2 | 256K |
| Qwen3.6 35B A3B36B（激活 3B） | 12.3 GB | 能跑 | 210.3 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 E4B8B | 5 GB | 能跑 | 235.1 | 128K |
| Qwen3.5 9B9.7B | 5.7 GB | 能跑 | 209.8 | 256K |
| Gemma 4 12B12B | 7.1 GB | 能跑 | 172.8 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 16.9 GB | 能跑 | 170.7 | 256K |
| Qwen3.6 27B27.8B | 16.8 GB | 能跑 | 80.6 | 256K |
| Qwen3.8 27B27.8B | 16.5 GB | 能跑 | 81.9 | 256K |
| GLM 4.7 Flash30B（激活 3B） | 18.3 GB | 能跑 | 185.4 | 198K |
| Gemma 4 31B30.7B | 18.3 GB | 能跑 | 72.7 | 256K |
| Qwen3.6 35B A3B36B（激活 3B） | 22.1 GB | 能跑 | 188.3 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 E4B8B | 8.2 GB | 能跑 | 155.5 | 128K |
| Qwen3.5 9B9.7B | 9.5 GB | 能跑 | 136 | 256K |
| Gemma 4 12B12B | 12.7 GB | 能跑 | 104.2 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 26.9 GB | 能跑 | 145.2 | 256K |
| Qwen3.6 27B27.8B | 28.6 GB | 能跑 | 48.9 | 256K |
| Qwen3.8 27B27.8B | 29 GB | 能跑 | 48.3 | 256K |
| GLM 4.7 Flash30B（激活 3B） | 31.8 GB | 能跑 | 158.5 | 198K |
| Gemma 4 31B30.7B | 32.6 GB | 能跑 | 42.6 | 256K |
| Qwen3.6 35B A3B36B（激活 3B） | 36.9 GB | 能跑 | 162.6 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存，速度按显存带宽估算。
需卸载到内存仅 MoE 模型：专家权重放进内存，速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下，借内存也不行。
双卡、四卡、八卡 H100 PCIe 能跑哪些大模型？
2026 年起发布的 50B 以上模型，按 vLLM 张量并行、32K 上下文要几张卡才装得下
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 78.9 GB | 2 张 | 暂无 | 160 GB | 164 | 700 W |
 DeepSeek V4 Flash284B（激活 13B） | 96.8 GB | 2 张 | 暂无 | 160 GB | 141.4 | 700 W |
 Hy3295B（激活 21B） | 107.2 GB | 2 张 | 暂无 | 160 GB | 78.4 | 700 W |
| GLM 5.3 Flash320B（激活 18B） | 108.7 GB | 2 张 | 暂无 | 160 GB | 120.7 | 700 W |
| GLM 5.3744B（激活 40B） | 253.9 GB | 4 张 | 暂无 | 320 GB | 70.1 | 1,400 W |
| Hy4 preview770B（激活 49B） | 286.1 GB估 | 8 张 | 暂无 | 640 GB | 54.7 | 2,800 W |
 Kimi K2.7 Code1,000B（激活 32B） | 339.5 GB | 8 张 | 暂无 | 640 GB | 82.3 | 2,800 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 111.3 GB | 2 张 | 暂无 | 160 GB | 146 | 700 W |
| DeepSeek V4 Flash284B（激活 13B） | 155.1 GB | 4 张 | 暂无 | 320 GB | 112.5 | 1,400 W |
| Hy3295B（激活 21B） | 182.2 GB | 4 张 | 暂无 | 320 GB | 61 | 1,400 W |
| GLM 5.3 Flash320B（激活 18B） | 199.7 GB | 4 张 | 暂无 | 320 GB | 85 | 1,400 W |
| GLM 5.3744B（激活 40B） | 467.3 GB | 8 张 | 暂无 | 640 GB | 45.3 | 2,800 W |
| Hy4 preview770B（激活 49B） | 467.3 GB | 8 张 | 暂无 | 640 GB | 39.7 | 2,800 W |
| DeepSeek V4.1 Flash763B（激活 8 / 16B） | 510.3 GB | 8 张Engram 放内存 | 暂无 | 640 GB | 75.1 | 2,800 W |
| Kimi K2.7 Code1,000B（激活 32B） | 583.7 GB | 8 张 | 暂无 | 640 GB | 57.2 | 2,800 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| DeepSeek V4 Flash284B（激活 13B） | 161.9 GB | 4 张 | 暂无 | 320 GB | 109.9 | 1,400 W |
| Qwen3.8 Flash Next176B（激活 6B） | 188.2 GB | 4 张 | 暂无 | 320 GB | 115.8 | 1,400 W |
| Hy3295B（激活 21B） | 317.7 GB | 8 张 | 暂无 | 640 GB | 43.6 | 2,800 W |
| GLM 5.3 Flash320B（激活 18B） | 341 GB | 8 张 | 暂无 | 640 GB | 58.2 | 2,800 W |
| Kimi K2.7 Code1,000B（激活 32B） | 594.5 GB | 8 张 | 暂无 | 640 GB | 56.5 | 2,800 W |
张数取 1 / 2 / 4 / 8 张，每张按 90% 显存计；速度按单卡带宽估算，总价只算显卡。标「Engram 放内存」的另需约 203 GB 系统内存。支持 NVLink（600 GB/s）。能否实际运行还要看 vLLM 是否支持。
H100 PCIe 租用价格
H100 PCIe 按需租用每小时 ¥13.4 起（RunPod），每天用 8 小时约 ¥3,255/月。
其他市场价格
eBay
闲鱼购买链接可能含联盟标记，不影响你支付的价格。
常见问题
H100 PCIe 能跑多大的模型？
单张 H100 PCIe 有 80GB HBM2e 显存，在 4-bit 量化、8K 上下文下最大能装约 136B 参数的稠密模型，8-bit 下约 73B。
H100 PCIe 能跑 70B 模型吗？
能。在 4-bit 量化、8K 上下文下，70B 稠密模型约需 43GB，H100 PCIe 的 80GB 装得下。
H100 PCIe 适合跑哪些大模型？
2026 年发布的模型里，4-bit 下能整个放进显存的最大稠密模型是 Gemma 4 31B，预估 72.7 tokens/s。MoE 模型里 Qwen3.6 35B A3B 最快，约 188.3 tokens/s。完整列表见上方「能跑哪些模型」表。
H100 PCIe 跑大模型每秒多少 token？
按显存带宽估算，4-bit、8K 上下文下：8B 稠密模型约 226.5 tokens/s、14B 稠密模型约 142.8 tokens/s、32B 稠密模型约 68.8 tokens/s、70B 稠密模型约 33.1 tokens/s。MoE 模型每个 token 只读激活参数，会快很多。实测通常在估算值的 70%–100%。
双卡 H100 PCIe 能跑哪些大模型？
两张 H100 PCIe（共 160GB）按 vLLM 张量并行、4-bit、32K 上下文，能装下 Qwen3.8 Flash Next。要在 4-bit、32K 上下文下跑 Kimi K2.7 Code，需要 8 张。
H100 PCIe 多少钱？
暂无价数据，价格接入后会显示在这里。
H100 PCIe 租一小时多少钱？
截至 2026年9月29日，RunPod 每小时 ¥13.4、Vast.ai 每小时 ¥17.4。都是单卡按需价，不含存储和流量。
H100 PCIe 和 A100 80GB PCIe 跑大模型怎么选？
A100 80GB PCIe 有 80GB 显存、1,935 GB/s 带宽，H100 PCIe 是 80GB、2,000 GB/s。跑 70B 稠密模型（4-bit）预估 H100 PCIe 约 33.1 tokens/s，A100 80GB PCIe 约 32 tokens/s。