A100 40GB PCIe 價格與中古行情：能部署哪些大型語言模型？
A100 40GB PCIe 有 40GB HBM2 顯存，頻寬 1,555 GB/s。暫無價資料。Q4 量化下最大能跑到 32B 參數的模型，預估 54 tokens/s。
A100 40GB PCIe 價走勢
AmazonJP
A100 40GB PCIe 完整規格
核心6,912
張量核心432
架構Ampere (GA100)
顯存40 GB · HBM2
位寬5,120-bit
頻寬1,555 GB/s
BF16 / FP8 / INT8312 / — / 624
生態CUDA
別名A100 40G · A100 PCIe 40GB
類型資料中心
功耗250 W
供電介面8-pin EPS
槽位2
長度267 mm
介面PCIe 4.0 x16
發布日期2020年6月22日
官方定價—
A100 40GB PCIe 能跑哪些模型？
只列 2026 年起發布、50B 以內的版本| 模型 | 2-bit | 4-bit | 8-bit | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | 裝得下 | 速度 t/s | 上下文 | |
| GemmaGemma 4 E4B | ✓ | 256.8 | 128K | ✓ | 189 | 128K | ✓ | 112.5 | 128K |
| QwenQwen3.5 9B | ✓ | 216.1 | 128K | ✓ | 158.4 | 128K | ✓ | 93.8 | 128K |
| GemmaGemma 4 12B | ✓ | 157.4 | 32K | ✓ | 118.5 | 32K | ✓ | 72.3 | 32K |
| GemmaGemma 4 26B A4B | ✓ | 159.8 | 32K | ✓ | 143.8 | 32K | ✓ | 114.2 | 32K |
| QwenQwen3.6 27B | ✓ | 87.6 | 32K | ✓ | 61.5 | 32K | ✓ | 34.8 | 32K |
| QwenQwen3.8 27B | ✓ | 87.6 | 32K | ✓ | 61.5 | 32K | ✓ | 34.8 | 32K |
| GLMGLM 4.7 Flash | ✓ | 190.9 | 128K | ✓ | 173.6 | 128K | ✓ | 140.6 | 128K |
| GemmaGemma 4 31B | ✓ | 66 | 8K | ✓ | 48.5 | 8K | ✗ | — | — |
| QwenQwen3.6 35B A3B | ✓ | 187.5 | 128K | ✓ | 170.7 | 128K | ✓ | 138.7 | 8K |
判定口徑：權重 + KV cache + 執行開銷 ≤ 可用記憶體，單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑（顯存只放注意力層與 KV cache），速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。
各平台價格
常見問題
A100 40GB PCIe 有多大顯存？
A100 40GB PCIe 有 40GB HBM2 顯存，頻寬 1,555 GB/s。
A100 40GB PCIe 能跑 70B 模型嗎？
單卡跑不了。在 Q4_K_M 量化、8K 上下文下，70B 稠密模型約需 43GB，超過 A100 40GB PCIe 的 40GB。
A100 40GB PCIe 多少錢？
暫無價資料，價格接入後會顯示在這裡。