Tesla V100 16GB 能跑什么模型？16GB 显存 · 二手价 · 速度
查价
Tesla V100 16GB 有 16GB HBM2 显存，带宽 900 GB/s。暂无二手价数据。Q4 量化下最大能跑到 14B 参数的模型，预估 69 tokens/s。
Tesla V100 16GB 完整规格
核心5,120
张量核心640
架构Volta (GV100)
显存16 GB · HBM2
位宽4,096-bit
带宽900 GB/s
BF16 / FP8 / INT8112 / — / —
生态CUDA
别名V100 16G · V100 16GB PCIe
闲鱼二手—暂无价格数据
类型数据中心
功耗250 W
供电接口8-pin CPU (EPS-12V)
槽位2
长度267 mm
接口PCIe 3.0 x16
发布日期2017年6月21日
官方定价—
Tesla V100 16GB 能跑哪些模型？
参考模型取每个家族的主力版本| 模型 | Q4_K_M | Q8_0 | FP16 | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 装得下 | 速度 t/s | 上下文 | 装得下 | 速度 t/s | 上下文 | 装得下 | 速度 t/s | 上下文 | |
| DeepSeekDeepSeek R1 Qwen3 8B | ✓ | 109.9 | 32K | ✓ | 64.6 | 32K | ✗ | — | — |
| GemmaGemma 4 31B | ✗ | — | — | ✗ | — | — | ✗ | — | — |
| GLMGLM 4.7 Flash | 卸载 | 37.9 | — | 卸载 | 22.1 | — | 卸载 | 12.3 | — |
| gpt-ossgpt-oss 20B | ✓ | 132.4 | 32K | 卸载 | 16.8 | — | 卸载 | 9.2 | — |
| KimiKimi Linear 48B A3B | 卸载 | 44 | — | 卸载 | 25.8 | — | 卸载 | 14.4 | — |
| LlamaLlama 3.1 8B | ✓ | 112.9 | 32K | ✓ | 66.2 | 32K | ✗ | — | — |
| MistralMistral 7B v0.3 | ✓ | 122.7 | 32K | ✓ | 72.5 | 32K | ✗ | — | — |
| QwenQwen3 8B | ✓ | 109.9 | 32K | ✓ | 64.6 | 32K | ✗ | — | — |
判定口径：权重 + KV cache + 运行开销 ≤ 可用显存，单卡。MoE 模型标「卸载」表示把专家权重放进系统内存后能跑（显存只放注意力层与 KV cache），速度按内存带宽 70 GB/s 估算。上下文列给的是能装下的最大档位。
Tesla V100 16GB 二手价走势
历史数据还不够画走势图，价格追踪刚开始。
各平台价格
常见问题
Tesla V100 16GB 有多大显存？
Tesla V100 16GB 有 16GB HBM2 显存，带宽 900 GB/s。
Tesla V100 16GB 能跑 70B 模型吗？
单卡跑不了。在 Q4_K_M 量化、8K 上下文下，70B 稠密模型约需 43GB，超过 Tesla V100 16GB 的 16GB。
Tesla V100 16GB 二手多少钱？
暂无二手价数据，价格接入后会显示在这里。