Tesla P40 价格走势、显存规格与本地大模型部署
到价提醒
闲鱼价格到了你设的价,就发邮件提醒你。
Tesla P40 是 NVIDIA 2016 年的 24GB 数据中心卡,配 llama.cpp 跑 30B 级 MoE 约 81 tokens/s,vLLM 用不了。供电是 CPU 8-pin,要备好转接线。
闲鱼
Tesla P40 价格走势
闲鱼
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
Tesla P40 完整规格
- 显存24 GB · GDDR5
- 带宽347 GB/s
- INT847 TOPS
- 位宽
- 384-bit
- 架构
- Pascal (GP102)
- 核心
- 3,840
- 生态
- CUDA
- 接口
- PCIe 3.0 x16
- NVLink
- 不支持
- 功耗
- 250 W
- 供电接口
- 8-pin CPU (EPS-12V)
- 槽位
- 2
- 长度
- 267 mm
- 类型
- 数据中心
- 发布日期
- 2016年9月13日
单张 Tesla P40 能跑哪些模型?
单张 P40 最推荐 4-bit 的 30B 级 MoE,约 80 tokens/s、上下文 11 万以上。27B 到 31B 稠密模型只有 14 到 16,8-bit 意义不大。
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 62.6 | 128K | |
| 4.1 GB | 能跑 | 57.8 | 256K | |
| 4.7 GB | 能跑 | 50.2 | 256K | |
| 10.5 GB | 能跑 | 88.1 | 256K | |
| 11.8 GB | 能跑 | 21.4 | 192K | |
| 9.8 GB | 能跑 | 25.5 | 221K | |
| 11.9 GB | 能跑 | 100.1 | 198K | |
| 11.8 GB | 能跑 | 20.6 | 143K | |
| 12.3 GB | 能跑 | 112.8 | 256K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 48.8 | 128K | |
| 5.7 GB | 能跑 | 42.9 | 256K | |
| 7.1 GB | 能跑 | 34.5 | 256K | |
| 16.9 GB | 能跑 | 66.8 | 256K | |
| 16.8 GB | 能跑 | 15.3 | 117K | |
| 16.5 GB | 能跑 | 15.5 | 122K | |
| 18.3 GB | 能跑 | 80.7 | 115K | |
| 18.3 GB | 能跑 | 13.7 | 66K | |
| 22.1 GB | 能跑 | 83.7 | 123K |
| 模型 | 大小 | 能否运行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 30.8 | 128K | |
| 9.5 GB | 能跑 | 26.6 | 256K | |
| 12.7 GB | 能跑 | 20 | 256K | |
| 26.9 GB | 需卸载到内存 | 22.5 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸载到内存 | 21.1 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸载到内存 | 29.7 | 256K |
能跑权重、KV 缓存和运行开销都装得进显存,速度按显存带宽估算。
需卸载到内存仅 MoE 模型:专家权重放进内存,速度按内存带宽 70 GB/s 估算。
跑不了这一档量化下单卡装不下,借内存也不行。
详细计算规则可在数据方法页查看。
Tesla P40 用 Strata 能跑多大的模型?
Tesla P40 配合 Strata 也能跑显存远远装不下的大模型。Strata 把模型主体放在内存和硬盘里,显卡只存最常用的专家。实测数据来自 Strata 作者和社区,多卡配置标了张数,价格由 VRAMGlass 按现价补上。
Strata 把模型分三处放
Qwen3.8 Flash Next Q2_0 · 66.4 GB- 显存 24 GB:每个字都要用的部分,加最常用的专家
- 内存约 40 GB:全部专家,显卡没存的由 CPU 现算
- 硬盘 28.8 GB:查找表,每个字只读几行
IQ2_XS · 68 GB实测
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
多张 Tesla P40 能跑哪些模型?
四张 P40 能装下 4-bit 的 gpt-oss 120B,但 vLLM 不支持 P40,用 llama.cpp 分卡会更慢。两张只够 70B 级的 2-bit,不到 10 tokens/s。
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 张 | ¥5,200 | 96 GB | 61.4 | 1,000 W | |
| 96.8 GB | 8 张 | ¥10,400 | 192 GB | 46.1 | 2,000 W | |
| 107.2 GB | 8 张 | ¥10,400 | 192 GB | 18.8 | 2,000 W | |
| 108.7 GB | 8 张 | ¥10,400 | 192 GB | 35.3 | 2,000 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 111.3 GB | 8 张 | ¥10,400 | 192 GB | 48.9 | 2,000 W | |
| 155.1 GB | 8 张 | ¥10,400 | 192 GB | 31.5 | 2,000 W |
| 模型 | 大小 | 需要几张 | 总价 | 总显存 | 速度 t/s | 总功耗 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 张 | ¥10,400 | 192 GB | 30.4 | 2,000 W |
详细计算规则可在数据方法页查看。
适合谁
适合
- 主要跑 MoE
Qwen3.6 35B A3B、GLM 4.7 Flash 的 4-bit 约 81 到 84 tokens/s,上下文能开到 115K 以上
- 只用 llama.cpp 或 Ollama,能接受 27B 稠密模型约 16 tokens/s
- 有带强风道的服务器,或者愿意自己加导风罩和风扇
不太适合
- 要用 vLLM 或 FP16 计算
vLLM 从来没支持过这一代,FP16 算力只有 FP32 的 1/64
- 想一直跟着新驱动和新 CUDA
CUDA 13 已经不支持它,580 之后的驱动也不再支持
- 普通机箱、没有风道
250W 被动散热,卡上没有风扇
买前须知
供电是 CPU 8-pin,不是显卡 8-pin
P40 卡尾是一个 CPU 8-pin(EPS)插座,和显卡常用的 PCIe 8-pin 针脚定义不同,别把显卡线硬插上去。NVIDIA 写明可以直接接电源的 CPU 线,或者用转接线把两根 PCIe 8-pin 合成一个 CPU 8-pin,转接线要买对。
被动散热要自己加风扇
P40 没有风扇,设计上靠服务器风道散热,散热片两个方向进风都行。放进台式机要自己装导风罩加高转速风扇(常见的是 3D 打印导风罩),有人给每张卡配两只 40mm 风扇。卡上也没有视频输出,装机时要有核显或另一张显卡接显示器。
主板要开 Above 4G Decoding
P40 要占用很大一块地址空间(32 GB),主板 BIOS 不开 Above 4G Decoding 就可能识别不到卡。老平台和部分家用主板没有这个选项,买之前先查主板手册。
先看 ECC 开没开
P40 出厂默认开着 ECC,这时 nvidia-smi 显示的总显存只有 22912 MiB,比 24GB 少了约 1.6 GB。不需要 ECC 的话,可以用 nvidia-smi -e 0 关掉,重启后就能用满 24GB。
软件只剩 llama.cpp 一系
这一代没有 Tensor Core,FP16 算力极低,依赖 FP16 计算的框架在它上面会非常慢。llama.cpp 会自动避开 FP16、改用 FP32 和 INT8 计算,GGUF 量化模型照样能跑;Ollama 也还支持它,但要 570 以上的驱动,而 580 是支持它的最后一个分支。下载 llama.cpp 预编译包时选 CUDA 12 版,CUDA 13 版已经不再支持这张卡。
和同档显卡对比
Tesla P40 和 GeForce RTX 3090、Instinct MI50 32GB、GeForce RTX 2080 Ti 22GB 的价格、显存、带宽、算力与本地大模型速度对比。
| 规格 | Instinct MI50 32GB | |||
|---|---|---|---|---|
| 显存 | 24 GB | 24 GB相同 | 32 GB多 33% | 22 GB少 8% |
| 带宽 | 347 GB/s | 936 GB/s高 170% | 1,024 GB/s高 195% | 616 GB/s高 78% |
| BF16 / FP16 算力 | — | 142 TFLOPS | 27 TFLOPS | 108 TFLOPS |
| INT8 算力 | 47 TOPS | 285 TOPS高 506% | 53 TOPS高 13% | 215 TOPS高 358% |
| Qwen3.8 27B 速度(2-bit) | 25.5 t/s | 64.8 t/s快 154% | 70.3 t/s快 176% | 44 t/s快 73% |
| 最高可跑稠密模型(4-bit) | 37B | 37B相同 | 51B多 38% | 34B少 8% |
| 功耗 | 250 W | 350 W高 40% | 300 W高 20% | 250 W相同 |
| 卡间互联 | 不支持 | NVLink 112.5 GB/s | — | NVLink 100 GB/s |
| 接口 | PCIe 3.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 3.0 x16 |
| 发布 | 2016-09 | 2020-09 | 2018-11 | 2018-09 |
| 闲鱼中位价 |
部分购买链接是联盟链接:通过它们购买时我们可能获得佣金,你支付的价格不变。
Tesla P40 租用价格
Tesla P40 在优云智算按需租用每小时 ¥0.38,每天用 8 小时约 ¥92/月。买一张(闲鱼在售报价中位数 ¥1,300)每天用 4、8、24 小时,分别约 4.1 年、2.1 年、8 个月回本。
| 方案 | 价格 | 每天 4 小时 | 每天 8 小时 | 每天 24 小时 | 去查看 |
|---|---|---|---|---|---|
| ¥0.38/小时 | ¥46/月 | ¥92/月 | ¥277/月 | 去租 | |
| ¥1,300 | 约 4.1 年回本电费 ¥20/月 | 约 2.1 年回本电费 ¥40/月 | 约 8 个月回本电费 ¥120/月 | 去买 |
回本按中国大陆居民电价(每度 ¥0.66)和 250 W 额定功耗估算,不计残值和整机其他部分。
租用链接是推荐链接:通过它们注册时,我们可能获得佣金或平台额度。
其他市场价格
作为 eBay 合作伙伴,VRAMGlass 可能在你通过 eBay 链接购买时获得佣金,你支付的价格不变。