A100 40GB PCIe：40GB VRAMで動かせるローカルLLMは？
価格を見る
A100 40GB PCIe は 40GB の HBM2 メモリと 1,555 GB/s の帯域幅を備えます。中古価格のデータはまだありません。Q4 量子化では最大 32B パラメータのモデルが動き、推定 54 tokens/s です。
A100 40GB PCIe の詳細スペック
コア6,912
Tensor コア432
アーキテクチャAmpere (GA100)
メモリ40 GB · HBM2
バス幅5,120-bit
帯域幅1,555 GB/s
BF16 / FP8 / INT8312 / — / 624
エコシステムCUDA
別名A100 40G · A100 PCIe 40GB
eBay（米国中古）—価格データなし
種別データセンター
消費電力250 W
補助電源8-pin EPS
スロット2
長さ267 mm
インターフェースPCIe 4.0 x16
発売日2020年6月22日
希望小売価格—
A100 40GB PCIe で動かせるモデルは？
各ファミリーの主力バージョンを参照モデルとしています| モデル | Q4_K_M | Q8_0 | FP16 | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 収まる | 速度 t/s | コンテキスト | 収まる | 速度 t/s | コンテキスト | 収まる | 速度 t/s | コンテキスト | |
| DeepSeekDeepSeek R1 Qwen3 8B | ✓ | 178.4 | 128K | ✓ | 107.6 | 128K | ✓ | 61.1 | 128K |
| GemmaGemma 4 31B | ✓ | 48.5 | 8K | ✗ | — | — | ✗ | — | — |
| GLMGLM 4.7 Flash | ✓ | 173.6 | 128K | ✓ | 140.6 | 128K | オフロード | 12.5 | — |
| gpt-ossgpt-oss 20B | ✓ | 165.1 | 128K | ✓ | 130.2 | 128K | オフロード | 9.3 | — |
| KimiKimi Linear 48B A3B | ✓ | 178.6 | 128K | オフロード | 26.5 | — | オフロード | 14.8 | — |
| LlamaLlama 3.1 8B | ✓ | 183 | 128K | ✓ | 110.1 | 128K | ✓ | 62.4 | 128K |
| MistralMistral 7B v0.3 | ✓ | 197.8 | 32K | ✓ | 120.2 | 32K | ✓ | 68.6 | 32K |
| QwenQwen3 8B | ✓ | 178.4 | 32K | ✓ | 107.6 | 32K | ✓ | 61.1 | 32K |
判定基準：重み + KV キャッシュ + 実行時オーバーヘッド ≤ 利用可能メモリ、1 枚構成。MoE モデルの「オフロード」はエキスパート重みをシステム RAM に置けば動作することを示し（VRAM にはアテンション層と KV キャッシュのみ）、その速度は RAM 帯域幅 70 GB/s を前提に推定。コンテキスト列は収まる最大段階です。
A100 40GB PCIe の中古価格推移
推移グラフを描くにはデータが足りません。価格の追跡を始めたばかりです。
プラットフォーム別価格
メルカリ中古
出品なし
Amazon.co.jp新品
出品なし
楽天市場新品
出品なし
Yahoo!ショッピング新品
出品なし
購入リンクにはアフィリエイトタグが含まれる場合がありますが、支払額は変わりません。
よくある質問
A100 40GB PCIe の VRAM 容量は？
A100 40GB PCIe は 40GB の HBM2 メモリを搭載し、帯域幅は 1,555 GB/s です。
A100 40GB PCIe で 70B モデルは動きますか？
1 枚では動きません。Q4_K_M・8K コンテキストで 70B 密モデルには約 43GB が必要で、A100 40GB PCIe の 40GB を超えます。
A100 40GB PCIe の中古価格は？
中古価格のデータはまだありません。取得が始まり次第ここに表示します。