预算有限跑本地大模型:2026 年每个显存档位最省钱的显卡

预算有限的时候,选卡只需要看一个数:显存单价,也就是二手价除以显存容量。它能跨代、跨品牌、跨消费卡与工作站卡直接比。截至 2026 年 9 月 5 日,各档位最便宜的卡是:16GB 档 RX 7800 XT,24GB 档 RX 7900 XTX,32GB 档 Tesla V100 32GB(但不推荐,原因见下),48GB 档 Radeon PRO W7900,64GB 档 CMP 170HX 改装卡与 Instinct MI210,128GB 档 Mac Studio M4 Max。下表实时更新,本文其余部分告诉你哪些便宜卡不该买、二手怎么买。

示意图:木桌上一排不同年代的二手显卡,挂着空白价签
示意图 · 木桌上一排不同年代的二手显卡,挂着空白价签

选预算卡只看一个数:显存单价

显存单价把「便宜」定义清楚了:同样一块钱买到多少 GB 显存,能跑的模型档位就由它决定。 但它有两个前提:

  1. 带宽不能太低:显存决定能不能跑,带宽决定跑多快。低于 500 GB/s 的卡跑 14B 以上模型会明显卡顿,DGX Spark、Strix Halo 这类 256 到 273 GB/s 的机器不参与本文排名。
  2. 生态要能用:CUDA 最省心,ROCm 在 RDNA 3 / 4 上可用(见 AMD 现状),oneAPI(Intel Arc)能跑 llama.cpp 但资料少,老架构(Volta、Pascal)的软件支持正在消失。

首页的排行榜就是按显存单价排的,本文只是把它按档位切开。

每个显存档位最便宜的卡

六个档位的最低价卡与第二名,按当前二手中位价实时排序:

显存档位最便宜的卡闲鱼显存单价带宽 GB/s第二便宜闲鱼
16 GBTesla V100 16GB¥880¥55900GeForce RTX 2080 Ti 22GB¥2,600
24 GBArc Pro B60¥5,275¥220456Radeon RX 7900 XTX¥5,800
32 GBInstinct MI50 32GB¥2,725¥851,024Tesla V100 32GB¥3,200
48 GBRadeon PRO W7900¥22,000¥458864GeForce RTX 4090 48GB¥26,600
64 GBCMP 170HX 64GB¥14,050¥2201,493Instinct MI210¥18,500
128 GBMac Studio M4 Max 128GB¥32,200¥252546DGX Spark 128GB¥32,500

档位覆盖从该容量起到下一档之前的卡;只有当前有报价的卡参与排序。

逐档说明:

  • 16GB:RX 7800 XT 单价最低,624 GB/s 跑 8B 约 57 tokens/s,够用;要 CUDA 就看 RTX 4080 二手。本次收录的 RTX 2080 Ti 为 22GB 改装版,归入下一档。
  • 24GB:RX 7900 XTX 与 RTX 3090 的选择题,见AMD 现状3090 指南。这一档是预算党的甜点:能跑 32B 4-bit。
  • 32GB:Tesla V100 32GB 单价惊人地低,但下一节解释为什么别买;正经选择是 Radeon AI PRO R9700Arc Pro B70 或加钱上 RTX 5090
  • 48GB:Radeon PRO W7900 有质保、双槽、864 GB/s,比 4090 48GB 改装卡稳;两张 3090 是另一条路,见多卡入门
  • 64GBCMP 170HX 64GB 改装卡(HBM2e、1.5 TB/s、PCIe x4)和 Instinct MI210 都是发烧友选项,被动散热、无显示输出。
  • 128GB:Mac Studio M4 Max 是唯一「买回来就能用」的 128GB 设备,见 Mac 统一内存

便宜但别买的卡

三类卡单价再低也不建议:老架构数据中心卡、被动散热加速卡、无质保改装卡。

型号显存 GB带宽 GB/sINT8 TOPS功耗 W闲鱼显存单价
Tesla V100 16GB16900250¥880¥55
Tesla V100 32GB32900250¥3,200¥100
GeForce RTX 2080 Ti 22GB22616215250¥2,600¥118
CMP 170HX 64GB641,493404250¥14,050¥220
CMP 170HX 40GB401,560404250¥11,300¥282
GeForce RTX 4090 48GB481,008661450¥26,600¥554
Instinct MI100321,22992300
GeForce RTX 4080 SUPER 32GB32736418320

灰色价格为沿用上次报价,近期没有新挂单。

  • Tesla V100 16GB / 32GB:Volta 只有 FP16 Tensor Core,没有 BF16 和 INT8,llama.cpp 的很多新内核在它上面走慢路径;PCIe 3.0;被动散热要自己做风道;CUDA 13 已经放弃 Volta,只能停在旧驱动。900 GB/s 的 HBM2 看着美,实际是 2017 年的卡。
  • RTX 2080 Ti 22GB(改装):原版 11GB 扩容至 22GB,Turing 不支持原生 BF16。显存容量提高,但带宽和架构未变;选购时需检查显存稳定性与改装售后。
  • Instinct MI100:CDNA 一代,ROCm 支持已进入维护,BF16 半速。
  • CMP 170HX 改装卡:矿卡核心加换焊的 HBM2e,PCIe 1.1 x4 让模型加载要几分钟,无显示输出,无质保,坏了没人修。
  • RTX 4090 48GB / 4080 SUPER 32GB 改装卡:性能真实、显存真实,风险在于换焊颗粒的寿命和 BIOS 来源,无任何质保。能接受这些的人,它们是 48GB 单卡最便宜的路。
示意图:桌上打开的快递箱,防静电袋里装着一张二手显卡
示意图:桌上打开的快递箱,防静电袋里装着一张二手显卡

二手怎么买不踩坑

闲鱼靠验货宝和录屏测试,eBay 靠 Top Rated 卖家和 30 天退货,两边都要自己复测。

闲鱼:

  1. 只选开通「验货宝」的卖家,平台先验机再放款。
  2. 要求卖家录制 memtest_vulkan 或 OCCT 显存测试 30 分钟的视频,画面里要有当天日期。
  3. 「矿卡打包」「不退不换」「拆机自用」的低价单默认按矿卡处理,价格要再低两成才考虑。
  4. 收货 24 小时内自己跑一次 30 分钟满载,有花屏立刻申请退货。

eBay:

  1. 选 Top Rated Plus 且 returns accepted 30 天的卖家,个人卖家看历史评价里有没有显卡交易。
  2. 标题和描述里出现 for parts、as-is、artifacts、no display 的一律跳过。
  3. 到手先看 nvidia-smi -q 里的功耗上限和 BIOS 版本是否与型号一致,再跑 memtest_vulkan。
  4. 跨境购买的关税、运费本站价格不含,按你所在地自己加。

结论:每个档位买哪张

每档一个答案:16GB 选 RX 7800 XT 或二手 RTX 4080,24GB 选 RX 7900 XTX 或 RTX 3090,48GB 选 Radeon PRO W7900 或两张 3090,128GB 选 Mac Studio M4 Max;32GB 和 64GB 档没有省心的便宜卡。

  • 预算的第一优先级是凑够 24GB:它是 32B 模型的门槛,也是显存单价的甜点。
  • 不要为了单价买老架构和改装卡,除非你能自己修。
  • 买前先算三年总账,见本地部署要花多少钱

常见问题

跑本地大模型最便宜的显卡是什么?

看你要多大显存。16GB 档目前最便宜的是 RX 7800 XT,24GB 档是 RX 7900 XTX,两者都是 AMD 卡,只推荐给用 llama.cpp / Ollama / LM Studio 的人;坚持 NVIDIA 的话 24GB 档选 RTX 3090。具体价格见文中实时表格。

为什么不推荐 Tesla V100 和 P40 这类便宜的数据中心卡?

V100 没有 BF16 和 INT8 Tensor Core,新模型的很多算子退回 FP16 慢路径;被动散热要自己加风扇;PCIe 3.0;驱动支持随时可能结束。P40 更老,只有 FP32 有效算力。2026 年它们的显存单价优势换不回折腾的时间。

二手显卡在闲鱼上怎么买不踩坑?

只选支持「验货宝」的卖家,收货前平台验机;要求卖家录制 30 分钟显存压力测试视频;避开「矿卡打包」「不退不换」的低价单;付款走平台,不加微信。

eBay 买二手显卡要注意什么?

选 Top Rated 且接受 30 天退货的卖家;看清 listing 里是不是「for parts / not working」;到手先跑 memtest_vulkan 和 30 分钟满载;关税和运费按你所在地另算,本站价格不含。

文中提到的显卡

文中提到的模型