A100 40GB PCIe の価格・中古相場：実行できるローカルLLMは？

A100 40GB PCIe は 2020 年の NVIDIA データセンター向けカードで、40GB あれば 35B までのモデルを 8-bit で動かせます。中古では SXM4 モジュールを載せた変換カードの偽 PCIe 版に注意。

Amazon.jp

A100 40GB PCIe の価格推移

見積もりなし

Amazon.jp

価格更新日時 —

データ不足のため、推移を表示できません

有効な価格データが十分に集まると、中央値の推移を表示します。

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

A100 40GB PCIe の詳細スペック

メモリ40 GB · HBM2
帯域幅1,555 GB/s
FP16 / BF16312 TFLOPS
INT8624 TOPS

バス幅: 5,120-bit
アーキテクチャ: Ampere (GA100)
コア: 6,912
Tensor コア: 432
エコシステム: CUDA
インターフェース: PCIe 4.0 x16
NVLink: 600 GB/s
消費電力: 250 W
補助電源: 8-pin EPS
スロット: 2
長さ: 267 mm
種別: データセンター
発売日: 2020年6月22日

A100 40GB PCIe 1 枚で動かせるモデルは？

A100 40GB 1 枚なら 35B までは 8-bit のまま収まり、Qwen3.8 27B で約 39 tokens/s、コンテキストは 19 万まで取れます。70B 級は 4-bit でも入りません。

モデル	サイズ	動作	速度 t/s	最大コンテキスト
Qwen3.5 9B9.7B	4.1 GB	動く	202	256K
Gemma 4 12B12B	4.7 GB	動く	180.6	256K
Gemma 4 26B A4B25.2B（有効 3.8B）	10.5 GB	動く	161.7	256K
Qwen3.6 27B27.8B	11.8 GB	動く	86.8	256K
Qwen3.8 27B27.8B	9.8 GB	動く	101.6	256K
GLM 4.7 Flash30B（有効 3B）	11.9 GB	動く	170.1	198K
Gemma 4 31B30.7B	11.8 GB	動く	83.9	256K
Qwen3.6 35B A3B36B（有効 3B）	12.3 GB	動く	177.6	256K

モデル	サイズ	動作	速度 t/s	最大コンテキスト
Qwen3.5 9B9.7B	5.7 GB	動く	158.9	256K
Gemma 4 12B12B	7.1 GB	動く	132.5	256K
Gemma 4 26B A4B25.2B（有効 3.8B）	16.9 GB	動く	143	256K
Qwen3.6 27B27.8B	16.8 GB	動く	63.6	256K
Qwen3.8 27B27.8B	16.5 GB	動く	64.7	256K
GLM 4.7 Flash30B（有効 3B）	18.3 GB	動く	155.8	198K
Gemma 4 31B30.7B	18.3 GB	動く	57.6	256K
Qwen3.6 35B A3B36B（有効 3B）	22.1 GB	動く	158.3	256K

モデル	サイズ	動作	速度 t/s	最大コンテキスト
Qwen3.5 9B9.7B	9.5 GB	動く	105.5	256K
Gemma 4 12B12B	12.7 GB	動く	81.6	256K
Gemma 4 26B A4B25.2B（有効 3.8B）	26.9 GB	動く	121.1	256K
Qwen3.6 27B27.8B	28.6 GB	動く	39	197K
Qwen3.8 27B27.8B	29 GB	動く	38.5	191K
GLM 4.7 Flash30B（有効 3B）	31.8 GB	動く	132.5	181K
Gemma 4 31B30.7B	32.6 GB	動く	34	100K
Qwen3.6 35B A3B36B（有効 3B）	36.9 GB	動く	136	237K

動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。

RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。

入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。

詳しい計算ルールはデータの作り方ページをご覧ください。

A100 40GB PCIe を複数枚使うと動かせるモデルは？

A100 40GB 2 枚で 70B 級の Dense モデルと 8-bit の gpt-oss 120B が動き、2026 年の大型 MoE は 4 枚からです。NVLink ブリッジは 2 枚ずつしかつなげません。

モデル	サイズ	必要枚数	合計価格	合計 VRAM	速度 t/s	合計消費電力
Qwen3.8 Flash Next176B（有効 6B）	78.9 GB	4 枚	価格なし	160 GB	137.2	1,000 W
DeepSeek V4 Flash284B（有効 13B）	96.8 GB	4 枚	価格なし	160 GB	117.8	1,000 W
Hy3295B（有効 21B）	107.2 GB	4 枚	価格なし	160 GB	64.5	1,000 W
GLM 5.3 Flash320B（有効 18B）	108.7 GB	4 枚	価格なし	160 GB	100.2	1,000 W
GLM 5.3744B（有効 40B）	253.9 GB	8 枚	価格なし	320 GB	57.6	2,000 W

モデル	サイズ	必要枚数	合計価格	合計 VRAM	速度 t/s	合計消費電力
Qwen3.8 Flash Next176B（有効 6B）	111.3 GB	4 枚	価格なし	160 GB	121.7	1,000 W
DeepSeek V4 Flash284B（有効 13B）	155.1 GB	8 枚	価格なし	320 GB	93.2	2,000 W
Hy3295B（有効 21B）	182.2 GB	8 枚	価格なし	320 GB	50	2,000 W
GLM 5.3 Flash320B（有効 18B）	199.7 GB	8 枚	価格なし	320 GB	70	2,000 W

モデル	サイズ	必要枚数	合計価格	合計 VRAM	速度 t/s	合計消費電力
DeepSeek V4 Flash284B（有効 13B）	161.9 GB	8 枚	価格なし	320 GB	91	2,000 W
Qwen3.8 Flash Next176B（有効 6B）	188.2 GB	8 枚	価格なし	320 GB	96	2,000 W

詳しい計算ルールはデータの作り方ページをご覧ください。

向いている人・向かない人

向いている

30B クラスのモデルを 8-bit で動かしたい
24GB のカードではこのクラスは 4-bit が限界ですが、このカードなら 8-bit で動かせます
vLLM などの推論エンジンを使いたい
Ampere 世代はソフトウェアの対応が充実しており、FlashAttention 2 などの高速化もすべて使えます
1 枚を複数人で共有したい
MIG で 20GB × 2 に分割すれば、それぞれが 4-bit の 27B を 1 つずつ動かせます

向かない

70B クラスを 1 枚で動かしたい
Llama 3.3 70B は 4-bit でコンテキストを 8K に絞っても 46.3 GB 必要で、収まりません
FP8 で高速化したい
この世代のチップには FP8 演算ユニットがなく、FP8 モデルは読み込めても速くはなりません
一般的なデスクトップ PC に組み込みたい
カードにファンがなく、冷却はサーバーのエアフロー頼みです。映像出力もありません

購入前のチェックポイント

SXM4 の変換カードに注意
中古市場では、サーバー専用の SXM4 モジュールをサードパーティ製の変換基板に載せ、PCIe カードとして売っている例があり、商品名に「SXM4 converted」と入っていることがよくあります。こうしたカードの冷却、給電、安定性はすべて変換基板の出来次第で、メーカー保証もありません。見分けるには、取り付けたあと nvidia-smi に表示される型番を確認します。純正の PCIe 版は「A100-PCIE-40GB」、SXM4 モジュールは「A100-SXM4-40GB」と表示されます。lspci のデバイス ID はそれぞれ 20F1 と 20B0 です。
電源は変換ケーブルが必要、冷却は自前で
電源コネクタは 8-pin の CPU 用（EPS）で、グラフィックスカードで一般的な 8-pin PCIe とはプラグが違います。普通の電源ユニットにつなぐには、変換ケーブルで電源ユニット側の PCIe 8-pin 2 本を CPU 8-pin 1 本にまとめます。カードにファンはなく、フィンの詰まったヒートシンクがあるだけで、サーバーの強力なファンで風を送り込む前提の設計です。一般的なケースに入れるなら、高静圧ファンを別に用意するか水冷ヘッドに換える必要があります。普通のケースファンでは風がヒートシンクを抜けきりません。
MIG が役立つのはどんなときか
MIG は A100 のパーティション機能で、1 枚のカードを VRAM と演算性能が互いに干渉しない複数の「小さなカード」に分割でき、複数人での共有に向いています。実用的なのは 20GB × 2 に分けてそれぞれ 4-bit の 27B を動かす形か、10GB × 3 に分けてそれぞれ 4-bit の 12B を動かす形です。上限の 7 分割にすると 1 つあたり 5GB しかなく、2-bit の Gemma 4 E4B のような小型モデルしか載りません。1 人で 1 つのモデルを動かすだけなら出番はありません。

同クラスの GPU との比較

A100 40GB PCIe と A100 80GB PCIe、CMP 170HX 40GB、L40S の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。

スペック	A100 40GB PCIe	A100 80GB PCIe	CMP 170HX 40GB	L40S
メモリ	40 GB	80 GB100% 多い	40 GB同じ	48 GB20% 多い
帯域幅	1,555 GB/s	1,935 GB/s24% 高い	1,560 GB/s同じ	864 GB/s44% 低い
BF16 / FP16 演算性能	312 TFLOPS	312 TFLOPS同じ	202 TFLOPS35% 低い	362 TFLOPS16% 高い
INT8 演算性能	624 TOPS	624 TOPS同じ	404 TOPS35% 低い	733 TOPS17% 高い
Qwen3.8 27B の速度（2-bit）	101.6 t/s	122.2 t/s20% 速い	101.9 t/s同じ	60.3 t/s41% 遅い
最大で動かせる密モデル（4-bit）	65B	136B109% 多い	65B同じ	79B22% 多い
消費電力	250 W	300 W20% 高い	250 W同じ	350 W40% 高い
GPU 間接続	NVLink 600 GB/s	NVLink 600 GB/s	非対応	非対応
インターフェース	PCIe 4.0 x16	PCIe 4.0 x16	PCIe 2.0 x4	PCIe 4.0 x16
発売	2020-06	2021-06	2021-09	2023-08
Amazon.jp中央値	Amazon.jp で見る · A100 40GB PCIe	Amazon.jp で見る · A100 80GB PCIe	Amazon.jp で見る · CMP 170HX 40GB	Amazon.jp で見る · L40S

他市場の価格

eBay · 米国

¥1,226,236

15 件の出品

見る

Xianyu · 中国本土

¥780,324

5 件の出品

見る

eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。