Tesla V100 32GB 價格與中古行情:能部署哪些大型語言模型?
Tesla V100 32GB 有 32GB HBM2 顯存,頻寬 900 GB/s。目前AmazonJP中位價 NT$35,903。Q4 量化下最大能跑到 32B 參數的模型,預估 32 tokens/s。
Tesla V100 32GB 價走勢
價格更新於
AmazonJP
AmazonJP
NT$36,441NT$35,903NT$35,364
NT$35,903
NT$35,903
9月9日 下午06:009月9日 下午09:009月10日 上午12:00
Tesla V100 32GB 完整規格
核心5,120
張量核心640
架構Volta (GV100)
顯存32 GB · HBM2
位寬4,096-bit
頻寬900 GB/s
BF16 / FP8 / INT8112 / — / —
生態CUDA
別名V100 32G · V100 32GB PCIe
類型資料中心
功耗250 W
供電介面8-pin CPU (EPS-12V)
槽位2
長度267 mm
介面PCIe 3.0 x16
發布日期2018年3月27日
官方定價—
Tesla V100 32GB 能跑哪些模型?
只列 2026 年起發布、50B 以內的版本| 模型 | 2-bit | 4-bit | 8-bit | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | |
| GemmaGemma 4 E4B | ✓ | 162.7 | 128K | ✓ | 116.8 | 128K | ✓ | 67.7 | 128K |
| QwenQwen3.5 9B | ✓ | 134.9 | 128K | ✓ | 96.9 | 128K | ✓ | 56.1 | 128K |
| GemmaGemma 4 12B | ✓ | 96.2 | 32K | ✓ | 71.4 | 32K | ✓ | 42.9 | 32K |
| GemmaGemma 4 26B A4B | ✓ | 126.6 | 32K | ✓ | 109.8 | 32K | ✓ | 81.8 | 8K |
| QwenQwen3.6 27B | ✓ | 52.2 | 32K | ✓ | 36.3 | 32K | ✓ | 20.4 | 8K |
| QwenQwen3.8 27B | ✓ | 52.2 | 32K | ✓ | 36.3 | 32K | ✓ | 20.4 | 8K |
| GLMGLM 4.7 Flash | ✓ | 162.9 | 128K | ✓ | 142 | 128K | 卸載 | 22.1 | — |
| GemmaGemma 4 31B | ✓ | 39 | 8K | ✓ | 28.5 | 8K | ✗ | — | — |
| QwenQwen3.6 35B A3B | ✓ | 158.6 | 128K | ✓ | 138.7 | 128K | 卸載 | 32.5 | — |
判定口徑:權重 + KV cache + 執行開銷 ≤ 可用記憶體,單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑(顯存只放注意力層與 KV cache),速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。
各平台價格
eBay美國二手
23 筆掛單
NT$22,659在 eBay 查看
Amazon.co.jp日本新品
3 筆掛單
NT$35,903在 Amazon.co.jp 查看
閒魚中國大陸二手
11 筆掛單
沿用上次報價NT$14,974在閒魚查看
購買連結可能含聯盟標記,不影響你支付的價格。
常見問題
Tesla V100 32GB 有多大顯存?
Tesla V100 32GB 有 32GB HBM2 顯存,頻寬 900 GB/s。
Tesla V100 32GB 能跑 70B 模型嗎?
單卡跑不了。在 Q4_K_M 量化、8K 上下文下,70B 稠密模型約需 43GB,超過 Tesla V100 32GB 的 32GB。
Tesla V100 32GB 多少錢?
目前AmazonJP中位價 NT$35,903。取自平台掛單價的中位數,每 6 小時更新。