Tesla V100 16GB 价格与二手行情：能部署哪些大模型？
到价提醒
闲鱼价格到了你设的价，就发邮件提醒你。
Tesla V100 16GB 是 NVIDIA 2017 年的数据中心卡，带宽 900 GB/s，12B 级 4-bit 仍有约 83 tokens/s。新版 CUDA 和 vLLM 都已放弃这一代，软件支持快到头了。
闲鱼
Tesla V100 16GB 价格走势
闲鱼
部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。
Tesla V100 16GB 完整规格
- 显存16 GB · HBM2
- 带宽900 GB/s
- FP16 / BF16112 TFLOPS
- INT856.1 TOPS
- 位宽
- 4,096-bit
- 架构
- Volta (GV100)
- 核心
- 5,120
- 张量核心
- 640
- 生态
- CUDA
- 接口
- PCIe 3.0 x16
- NVLink
- 不支持
- 功耗
- 250 W
- 供电接口
- 8-pin CPU (EPS-12V)
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 数据中心
- 发布日期
- 2017年6月21日
单张 Tesla V100 16GB 能跑哪些模型？
单张 V100 16GB 用 4-bit 跑 12B 以内最合适。30B 级 MoE 用 2-bit 整卡跑，约 150 tokens/s；4-bit 借内存只剩三分之一。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
 Gemma 4 E4B8B | 3.8 GB | 能跑 | 142.5 | 128K |
 Qwen3.5 9B9.7B | 4.1 GB | 能跑 | 132.7 | 256K |
| Gemma 4 12B12B | 4.7 GB | 能跑 | 117 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 10.5 GB | 能跑 | 137.7 | 256K |
| Qwen3.6 27B27.8B | 11.8 GB | 能跑 | 53 | 64K |
| Qwen3.8 27B27.8B | 9.8 GB | 能跑 | 62.6 | 93K |
 GLM 4.7 Flash30B（激活 3B） | 11.9 GB | 能跑 | 148.4 | 75K |
| Gemma 4 31B30.7B | 11.8 GB | 能跑 | 51.1 | 41K |
| Qwen3.6 35B A3B36B（激活 3B） | 12.3 GB | 能跑 | 158.6 | 181K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 E4B8B | 5 GB | 能跑 | 114.2 | 128K |
| Qwen3.5 9B9.7B | 5.7 GB | 能跑 | 101.5 | 256K |
| Gemma 4 12B12B | 7.1 GB | 能跑 | 83.2 | 256K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 16.9 GB | 需卸载到内存 | 38.7 | 256K |
| Qwen3.6 27B27.8B | 16.8 GB | 跑不了 | — | — |
| Qwen3.8 27B27.8B | 16.5 GB | 跑不了 | — | — |
| GLM 4.7 Flash30B（激活 3B） | 18.3 GB | 需卸载到内存 | 36.5 | 198K |
| Gemma 4 31B30.7B | 18.3 GB | 跑不了 | — | — |
| Qwen3.6 35B A3B36B（激活 3B） | 22.1 GB | 需卸载到内存 | 52 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 E4B8B | 8.2 GB | 能跑 | 74.6 | 128K |
| Qwen3.5 9B9.7B | 9.5 GB | 能跑 | 65.1 | 196K |
| Gemma 4 12B12B | 12.7 GB | 能跑 | 49.6 | 183K |
| Gemma 4 26B A4B25.2B（激活 3.8B） | 26.9 GB | 需卸载到内存 | 26.2 | 256K |
| Qwen3.6 27B27.8B | 28.6 GB | 跑不了 | — | — |
| Qwen3.8 27B27.8B | 29 GB | 跑不了 | — | — |
| GLM 4.7 Flash30B（激活 3B） | 31.8 GB | 需卸载到内存 | 22.8 | 198K |
| Gemma 4 31B30.7B | 32.6 GB | 跑不了 | — | — |
| Qwen3.6 35B A3B36B（激活 3B） | 36.9 GB | 需卸载到内存 | 34.6 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存，速度按显存带宽估算。
需卸载到内存仅 MoE 模型：专家权重放进内存，速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下，借内存也不行。
详细计算规则可在数据方法页查看。
多张 Tesla V100 16GB 能跑哪些模型？
V100 16GB 跑大型 MoE 要八张（128GB），4-bit 的 Qwen3.8 Flash Next 约 93 tokens/s。vLLM 要停在 0.19 或更早的版本。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 78.9 GB | 8 张 | ¥10,000 | 128 GB | 109.1 | 2,000 W |
 DeepSeek V4 Flash284B（激活 13B） | 96.8 GB | 8 张 | ¥10,000 | 128 GB | 88.9 | 2,000 W |
| GLM 5.3 Flash320B（激活 18B） | 108.7 GB | 8 张 | ¥10,000 | 128 GB | 72.3 | 2,000 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（激活 6B） | 111.3 GB | 8 张 | ¥10,000 | 128 GB | 92.8 | 2,000 W |
这一档量化下，8 张 Tesla V100 16GB 也装不下任何 50B 以上的模型。
详细计算规则可在数据方法页查看。
适合谁
适合
- 小模型要快
Qwen3.5 9B 的 4-bit 约 102 tokens/s，换 8-bit 也有约 65
- 2-bit 跑 35B 级 MoE
Qwen3.6 35B A3B 的 2-bit 约 159 tokens/s、上下文 181K
- 用 SXM2 服务器组 8 卡
SXM2 版的模块之间有 NVLink 直连
不太适合
- 要 4-bit 的 27B
16GB 差一截，只能降到 2-bit 或换 32GB 版
- 要 vLLM、BF16 或长期驱动更新
新版 vLLM 已经不支持这一代，580 是最后一个支持它的驱动分支
买前须知
SXM2 模块还是 PCIe 卡
V100 有两种形态：PCIe 版是标准插卡，250W，一个 CPU 8-pin 供电；SXM2 版是服务器模块，300W，模块之间有 NVLink。二手市场上有不少 SXM2 模块配第三方转接板卖，转接板只管供电和插槽，散热要自己配，有人用 80mm 风扇加 3D 打印导风罩。买转接方案前，先问清散热件和供电线包不包含。
温度线和功耗限制
PCIe 版没有风扇，按 NVIDIA 的产品简介，GPU 到 87°C 会降频一半、90°C 关机，显存最高 85°C。没有服务器风道就必须自己加风扇；也可以用 nvidia-smi -pl 把功耗压低，NVIDIA 给的例子是 180W。
ECC 不占容量，没有视频输出
它的 HBM2 显存原生带 ECC，NVIDIA 写明开着 ECC 也不损失容量和带宽，16GB 全部可用。卡上没有视频输出，主机得靠核显或另一张卡点亮屏幕。
软件的期限
CUDA 13 已经不支持这一代，NVIDIA 580 是最后一个支持它的驱动分支。llama.cpp 和 Ollama 还能用，vLLM 只能停在 0.19 版。它也没有 BF16，BF16 发布的模型要按 FP16 加载。
和同档显卡对比
Tesla V100 16GB 和 Tesla V100 32GB、Tesla T10、GeForce RTX 5060 Ti 16GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | Tesla V100 16GB | Tesla V100 32GB | Tesla T10 | GeForce RTX 5060 Ti 16GB |
|---|---|---|---|---|
| 显存 | 16 GB | 32 GB多 100% | 16 GB相同 | 16 GB相同 |
| 带宽 | 900 GB/s | 900 GB/s相同 | 403 GB/s低 55% | 448 GB/s低 50% |
| BF16 / FP16 算力 | 112 TFLOPS | 112 TFLOPS相同 | 80 TFLOPS低 29% | 95 TFLOPS低 15% |
| INT8 算力 | 56 TOPS | 56 TOPS相同 | 160 TOPS高 185% | 190 TOPS高 238% |
| Qwen3.8 27B 速度（2-bit） | 62.6 t/s | 62.6 t/s相同 | 29.4 t/s慢 53% | 32.6 t/s慢 48% |
| 最高可跑稠密模型（4-bit） | 23B | 51B多 122% | 23B相同 | 23B相同 |
| 功耗 | 250 W | 250 W相同 | 150 W低 40% | 180 W低 28% |
| 接口 | PCIe 3.0 x16 | PCIe 3.0 x16 | PCIe 3.0 x16 | PCIe 5.0 x8 |
| 发布 | 2017-06 | 2018-03 | 2020-02 | 2025-04 |
| 闲鱼中位价 |
部分购买链接是联盟链接：通过它们购买时我们可能获得佣金，你支付的价格不变。
Tesla V100 16GB 租用价格
Tesla V100 16GB 按需租用每小时 ¥0.64 起（Vast.ai），每天用 8 小时约 ¥157/月。买一张（闲鱼中位价 ¥1,250）每天用 4、8、24 小时，分别约 1.8 年、11 个月、4 个月回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
 Vast.ai租用50分钟前更新 | ¥0.64/小时 | ¥78/月 | ¥157/月 | ¥470/月 | 去租 |
 RunPod租用50分钟前更新 | ¥1.27/小时 | ¥155/月 | ¥309/月 | ¥928/月 | 去租 |
 闲鱼10小时前更新 | ¥1,250 | 约 1.8 年回本电费 ¥20/月 | 约 11 个月回本电费 ¥40/月 | 约 4 个月回本电费 ¥120/月 | 去买 |
回本按中国大陆居民电价（每度 ¥0.66）和 250 W 额定功耗估算，不计残值和整机其他部分。
租用链接是推荐链接：通过它们注册时，我们可能获得佣金或平台额度。
其他市场价格
eBay
Amazon.jp作为 eBay 合作伙伴，你通过本页的 eBay 链接购买时，VRAMGlass 可能获得佣金，你支付的价格不变。