Tesla V100 32GB 能跑什麼模型？32GB 記憶體 · 二手價 · 速度
查價
Tesla V100 32GB 有 32GB HBM2 顯存，頻寬 900 GB/s。暫無二手價資料。Q4 量化下最大能跑到 32B 參數的模型，預估 32 tokens/s。
Tesla V100 32GB 完整規格
核心5,120
張量核心640
架構Volta (GV100)
顯存32 GB · HBM2
位寬4,096-bit
頻寬900 GB/s
BF16 / FP8 / INT8112 / — / —
生態CUDA
別名V100 32G · V100 32GB PCIe
閒魚二手—暫無價格資料
類型資料中心
功耗250 W
供電介面8-pin CPU (EPS-12V)
槽位2
長度267 mm
介面PCIe 3.0 x16
發布日期2018年3月27日
官方定價—
Tesla V100 32GB 能跑哪些模型？
參考模型取每個家族的主力版本| 模型 | Q4_K_M | Q8_0 | FP16 | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | |
| DeepSeekDeepSeek R1 Qwen3 8B | ✓ | 109.9 | 128K | ✓ | 64.6 | 128K | ✓ | 36.1 | 32K |
| GemmaGemma 4 31B | ✓ | 28.5 | 8K | ✗ | — | — | ✗ | — | — |
| GLMGLM 4.7 Flash | ✓ | 142 | 128K | 卸載 | 22.1 | — | 卸載 | 12.3 | — |
| gpt-ossgpt-oss 20B | ✓ | 132.4 | 128K | ✓ | 96.6 | 128K | 卸載 | 9.2 | — |
| KimiKimi Linear 48B A3B | ✓ | 147.9 | 128K | 卸載 | 25.8 | — | 卸載 | 14.4 | — |
| LlamaLlama 3.1 8B | ✓ | 112.9 | 128K | ✓ | 66.2 | 128K | ✓ | 36.9 | 32K |
| MistralMistral 7B v0.3 | ✓ | 122.7 | 32K | ✓ | 72.5 | 32K | ✓ | 40.6 | 32K |
| QwenQwen3 8B | ✓ | 109.9 | 32K | ✓ | 64.6 | 32K | ✓ | 36.1 | 32K |
判定口徑：權重 + KV cache + 執行開銷 ≤ 可用記憶體，單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑（顯存只放注意力層與 KV cache），速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。
Tesla V100 32GB 二手價走勢
歷史資料還不夠繪製走勢圖，價格追蹤剛開始。
各平台價格
常見問題
Tesla V100 32GB 有多大顯存？
Tesla V100 32GB 有 32GB HBM2 顯存，頻寬 900 GB/s。
Tesla V100 32GB 能跑 70B 模型嗎？
單卡跑不了。在 Q4_K_M 量化、8K 上下文下，70B 稠密模型約需 43GB，超過 Tesla V100 32GB 的 32GB。
Tesla V100 32GB 二手多少錢？
暫無二手價資料，價格接入後會顯示在這裡。