Tesla V100 16GB 價格與中古行情:能部署哪些大型語言模型?
Tesla V100 16GB 有 16GB HBM2 顯存,頻寬 900 GB/s。目前AmazonJP中位價 NT$20,739。Q4 量化下最大能跑到 14B 參數的模型,預估 69 tokens/s。
Tesla V100 16GB 價走勢
價格更新於
AmazonJP
AmazonJP
NT$21,179NT$20,802NT$20,426
NT$20,866
NT$20,739
9月9日 下午06:009月9日 下午09:009月10日 上午12:00
Tesla V100 16GB 完整規格
核心5,120
張量核心640
架構Volta (GV100)
顯存16 GB · HBM2
位寬4,096-bit
頻寬900 GB/s
BF16 / FP8 / INT8112 / — / —
生態CUDA
別名V100 16G · V100 16GB PCIe
類型資料中心
功耗250 W
供電介面8-pin CPU (EPS-12V)
槽位2
長度267 mm
介面PCIe 3.0 x16
發布日期2017年6月21日
官方定價—
Tesla V100 16GB 能跑哪些模型?
只列 2026 年起發布、50B 以內的版本| 模型 | 2-bit | 4-bit | 8-bit | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | |
| GemmaGemma 4 E4B | ✓ | 162.7 | 128K | ✓ | 116.8 | 128K | ✓ | 67.7 | 32K |
| QwenQwen3.5 9B | ✓ | 134.9 | 32K | ✓ | 96.9 | 32K | ✓ | 56.1 | 32K |
| GemmaGemma 4 12B | ✓ | 96.2 | 8K | ✓ | 71.4 | 8K | ✗ | — | — |
| GemmaGemma 4 26B A4B | ✓ | 126.6 | 8K | 卸載 | 40.5 | — | 卸載 | 24.3 | — |
| QwenQwen3.6 27B | ✓ | 52.2 | 8K | ✗ | — | — | ✗ | — | — |
| QwenQwen3.8 27B | ✓ | 52.2 | 8K | ✗ | — | — | ✗ | — | — |
| GLMGLM 4.7 Flash | ✓ | 162.9 | 32K | 卸載 | 37.9 | — | 卸載 | 22.1 | — |
| GemmaGemma 4 31B | ✗ | — | — | ✗ | — | — | ✗ | — | — |
| QwenQwen3.6 35B A3B | ✓ | 158.6 | 8K | 卸載 | 53.7 | — | 卸載 | 32.5 | — |
判定口徑:權重 + KV cache + 執行開銷 ≤ 可用記憶體,單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑(顯存只放注意力層與 KV cache),速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。
各平台價格
eBay美國二手
34 筆掛單
NT$9,598在 eBay 查看
Amazon.co.jp日本新品
4 筆掛單
NT$20,739在 Amazon.co.jp 查看
閒魚中國大陸二手
13 筆掛單
沿用上次報價NT$4,118在閒魚查看
購買連結可能含聯盟標記,不影響你支付的價格。
常見問題
Tesla V100 16GB 有多大顯存?
Tesla V100 16GB 有 16GB HBM2 顯存,頻寬 900 GB/s。
Tesla V100 16GB 能跑 70B 模型嗎?
單卡跑不了。在 Q4_K_M 量化、8K 上下文下,70B 稠密模型約需 43GB,超過 Tesla V100 16GB 的 16GB。
Tesla V100 16GB 多少錢?
目前AmazonJP中位價 NT$20,739。取自平台掛單價的中位數,每 6 小時更新。