Tesla V100 16GB 價格與中古行情：能部署哪些大型語言模型？
到價提醒
閒魚價格到達你設定的價位時，寄信通知你。
Tesla V100 16GB 是 NVIDIA 2017 年的資料中心卡，頻寬 900 GB/s，12B 級 4-bit 仍有約 83 tokens/s。新版 CUDA 和 vLLM 都已放棄這一代，軟體支援快到盡頭。
閒魚
Tesla V100 16GB 價格走勢
閒魚
部分購買連結是聯盟連結：透過它們購買時我們可能獲得佣金，你支付的價格不變。
Tesla V100 16GB 完整規格
- 顯存16 GB · HBM2
- 頻寬900 GB/s
- FP16 / BF16112 TFLOPS
- INT856.1 TOPS
- 位寬
- 4,096-bit
- 架構
- Volta (GV100)
- 核心
- 5,120
- 張量核心
- 640
- 生態
- CUDA
- 介面
- PCIe 3.0 x16
- NVLink
- 不支援
- 功耗
- 250 W
- 供電介面
- 8-pin CPU (EPS-12V)
- 槽位
- 2
- 長度
- 267 mm
- 類型
- 資料中心
- 發布日期
- 2017年6月21日
單張 Tesla V100 16GB 能跑哪些模型？
單張 V100 16GB 用 4-bit 跑 12B 以內最合適。30B 級 MoE 用 2-bit 整卡跑，約 150 tokens/s；4-bit 借用系統記憶體只剩三分之一。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
 Gemma 4 E4B8B | 3.8 GB | 能跑 | 142.5 | 128K |
 Qwen3.5 9B9.7B | 4.1 GB | 能跑 | 132.7 | 256K |
| Gemma 4 12B12B | 4.7 GB | 能跑 | 117 | 256K |
| Gemma 4 26B A4B25.2B（啟用 3.8B） | 10.5 GB | 能跑 | 137.7 | 256K |
| Qwen3.6 27B27.8B | 11.8 GB | 能跑 | 53 | 64K |
| Qwen3.8 27B27.8B | 9.8 GB | 能跑 | 62.6 | 93K |
 GLM 4.7 Flash30B（啟用 3B） | 11.9 GB | 能跑 | 148.4 | 75K |
| Gemma 4 31B30.7B | 11.8 GB | 能跑 | 51.1 | 41K |
| Qwen3.6 35B A3B36B（啟用 3B） | 12.3 GB | 能跑 | 158.6 | 181K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 E4B8B | 5 GB | 能跑 | 114.2 | 128K |
| Qwen3.5 9B9.7B | 5.7 GB | 能跑 | 101.5 | 256K |
| Gemma 4 12B12B | 7.1 GB | 能跑 | 83.2 | 256K |
| Gemma 4 26B A4B25.2B（啟用 3.8B） | 16.9 GB | 需卸載到記憶體 | 38.7 | 256K |
| Qwen3.6 27B27.8B | 16.8 GB | 跑不了 | — | — |
| Qwen3.8 27B27.8B | 16.5 GB | 跑不了 | — | — |
| GLM 4.7 Flash30B（啟用 3B） | 18.3 GB | 需卸載到記憶體 | 36.5 | 198K |
| Gemma 4 31B30.7B | 18.3 GB | 跑不了 | — | — |
| Qwen3.6 35B A3B36B（啟用 3B） | 22.1 GB | 需卸載到記憶體 | 52 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| Gemma 4 E4B8B | 8.2 GB | 能跑 | 74.6 | 128K |
| Qwen3.5 9B9.7B | 9.5 GB | 能跑 | 65.1 | 196K |
| Gemma 4 12B12B | 12.7 GB | 能跑 | 49.6 | 183K |
| Gemma 4 26B A4B25.2B（啟用 3.8B） | 26.9 GB | 需卸載到記憶體 | 26.2 | 256K |
| Qwen3.6 27B27.8B | 28.6 GB | 跑不了 | — | — |
| Qwen3.8 27B27.8B | 29 GB | 跑不了 | — | — |
| GLM 4.7 Flash30B（啟用 3B） | 31.8 GB | 需卸載到記憶體 | 22.8 | 198K |
| Gemma 4 31B30.7B | 32.6 GB | 跑不了 | — | — |
| Qwen3.6 35B A3B36B（啟用 3B） | 36.9 GB | 需卸載到記憶體 | 34.6 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存，速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型：專家權重放進記憶體，速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下，借記憶體也不行。
詳細計算規則可在資料方法頁查看。
多張 Tesla V100 16GB 能跑哪些模型？
V100 16GB 跑大型 MoE 要八張（128GB），4-bit 的 Qwen3.8 Flash Next 約 93 tokens/s。vLLM 要停在 0.19 或更舊的版本。
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（啟用 6B） | 78.9 GB | 8 張 | NT$48,759 | 128 GB | 109.1 | 2,000 W |
 DeepSeek V4 Flash284B（啟用 13B） | 96.8 GB | 8 張 | NT$48,759 | 128 GB | 88.9 | 2,000 W |
| GLM 5.3 Flash320B（啟用 18B） | 108.7 GB | 8 張 | NT$48,759 | 128 GB | 72.3 | 2,000 W |
| 模型 | 大小 | 需要幾張 | 總價 | 總顯示記憶體 | 速度 t/s | 總功耗 |
|---|---|---|---|---|---|---|
| Qwen3.8 Flash Next176B（啟用 6B） | 111.3 GB | 8 張 | NT$48,759 | 128 GB | 92.8 | 2,000 W |
這一檔量化下，8 張 Tesla V100 16GB 也裝不下任何 50B 以上的模型。
詳細計算規則可在資料方法頁查看。
適合誰
適合
- 小模型要快
Qwen3.5 9B 的 4-bit 約 102 tokens/s，換成 8-bit 也有約 65
- 用 2-bit 跑 35B 級 MoE
Qwen3.6 35B A3B 的 2-bit 約 159 tokens/s、上下文 181K
- 用 SXM2 伺服器組 8 卡
SXM2 版的模組之間有 NVLink 直連
不太適合
- 要跑 4-bit 的 27B
16GB 差了一截，只能降到 2-bit 或改用 32GB 版
- 需要 vLLM、BF16 或長期驅動程式更新
新版 vLLM 已經不支援這一代，580 是最後一個支援它的驅動程式分支
買前須知
SXM2 模組還是 PCIe 卡
V100 有兩種形式：PCIe 版是標準插卡，250W，一個 CPU 8-pin 供電；SXM2 版是伺服器模組，300W，模組之間有 NVLink。二手市場上有不少 SXM2 模組搭配第三方轉接板販售，轉接板只負責供電和插槽，散熱要自己準備，有人用 80mm 風扇加 3D 列印導風罩。購買轉接方案前，先問清楚有沒有附散熱零件和供電線。
溫度門檻與功耗限制
PCIe 版沒有風扇，依 NVIDIA 的產品簡介，GPU 到 87°C 會降頻一半、90°C 關機，顯示記憶體最高 85°C。沒有伺服器風道就一定要自己加風扇；也可以用 nvidia-smi -pl 壓低功耗，NVIDIA 舉的例子是 180W。
ECC 不佔容量，沒有影像輸出
它的 HBM2 顯示記憶體原生具備 ECC，NVIDIA 明確寫到開啟 ECC 也不會損失容量和頻寬，16GB 全部可用。卡上沒有影像輸出，主機得靠內顯或另一張卡來點亮螢幕。
軟體支援的期限
CUDA 13 已經不支援這一代，NVIDIA 580 是最後一個支援它的驅動程式分支。llama.cpp 和 Ollama 還能用，vLLM 只能停在 0.19 版。它也沒有 BF16，以 BF16 發布的模型要改用 FP16 載入。
與同級顯卡比較
Tesla V100 16GB 與 Tesla V100 32GB、Tesla T10、GeForce RTX 5060 Ti 16GB 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | Tesla V100 16GB | Tesla V100 32GB | Tesla T10 | GeForce RTX 5060 Ti 16GB |
|---|---|---|---|---|
| 顯存 | 16 GB | 32 GB多 100% | 16 GB相同 | 16 GB相同 |
| 頻寬 | 900 GB/s | 900 GB/s相同 | 403 GB/s低 55% | 448 GB/s低 50% |
| BF16 / FP16 算力 | 112 TFLOPS | 112 TFLOPS相同 | 80 TFLOPS低 29% | 95 TFLOPS低 15% |
| INT8 算力 | 56 TOPS | 56 TOPS相同 | 160 TOPS高 185% | 190 TOPS高 238% |
| Qwen3.8 27B 速度（2-bit） | 62.6 t/s | 62.6 t/s相同 | 29.4 t/s慢 53% | 32.6 t/s慢 48% |
| 最高可跑稠密模型（4-bit） | 23B | 51B多 122% | 23B相同 | 23B相同 |
| 功耗 | 250 W | 250 W相同 | 150 W低 40% | 180 W低 28% |
| 介面 | PCIe 3.0 x16 | PCIe 3.0 x16 | PCIe 3.0 x16 | PCIe 5.0 x8 |
| 發布 | 2017-06 | 2018-03 | 2020-02 | 2025-04 |
| 閒魚中位價 |
部分購買連結是聯盟連結：透過它們購買時我們可能獲得佣金，你支付的價格不變。
Tesla V100 16GB 租用價格
Tesla V100 16GB 隨需租用每小時 NT$3.14 起（Vast.ai），每天用 8 小時約 NT$765/月。買一張（閒魚中位價 NT$6,095）每天用 4、8、24 小時，分別約 1.7 年、10 個月、3 個月回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
 Vast.ai租用50 分鐘前更新 | NT$3.14/小時 | NT$382/月 | NT$765/月 | NT$2,294/月 | 去租 |
 RunPod租用50 分鐘前更新 | NT$6.2/小時 | NT$754/月 | NT$1,508/月 | NT$4,525/月 | 去租 |
 閒魚10 小時前更新 | NT$6,095 | 約 1.7 年回本電費 NT$87/月 | 約 10 個月回本電費 NT$175/月 | 約 3 個月回本電費 NT$524/月 | 去買 |
回本依台灣住宅平均電價（每度 NT$2.87）和 250 W 額定功耗估算，不計殘值和整機其他部分。
租用連結是推薦連結：透過它們註冊時，我們可能獲得佣金或平台額度。
其他市場價格
eBay
Amazon.jp身為 eBay 合作夥伴，你透過本頁的 eBay 連結購買時，VRAMGlass 可能獲得佣金，你支付的價格不變。