A100 80GB PCIe の価格・中古相場：実行できるローカルLLMは？

• メモリ80 GB · HBM2e
• 帯域幅1,935 GB/s
• FP16 / BF16312 TFLOPS
• INT8624 TOPS

バス幅

5,120-bit

アーキテクチャ

Ampere (GA100)

コア

6,912

Tensor コア

432

エコシステム

CUDA

インターフェース

PCIe 4.0 x16

NVLink

600 GB/s

消費電力

300 W

補助電源

8-pin EPS

スロット

2

長さ

267 mm

種別

データセンター

発売日

2021年6月28日

モデル	サイズ	必要枚数	合計価格	合計 VRAM	速度 t/s	合計消費電力
Qwen3.8 Flash Next176B（有効 6B）	111.3 GB	2 枚	価格なし	160 GB	132.9	600 W
DeepSeek V4 Flash284B（有効 13B）	155.1 GB	4 枚	価格なし	320 GB	104.7	1,200 W
Hy3295B（有効 21B）	182.2 GB	4 枚	価格なし	320 GB	58.9	1,200 W
GLM 5.3 Flash320B（有効 18B）	199.7 GB	4 枚	価格なし	320 GB	80.7	1,200 W
GLM 5.3744B（有効 40B）	467.3 GB	8 枚	価格なし	640 GB	44.2	2,400 W
Hy4 preview770B（有効 49B）	467.3 GB	8 枚	価格なし	640 GB	38.9	2,400 W
Muse Spark Open816B（有効 42B）	505.5 GB	8 枚	価格なし	640 GB	43.3	2,400 W
DeepSeek V4.1 Flash763B（有効 8 / 16B）	510.3 GB	8 枚Engram は RAM	価格なし	640 GB	71.7	2,400 W
Kimi K2.61,000B（有効 32B）	583.7 GB	8 枚	価格なし	640 GB	55.4	2,400 W
Kimi K2.7 Code1,000B（有効 32B）	583.7 GB	8 枚	価格なし	640 GB	55.4	2,400 W
Mistral Large 41,000B（有効 52B）	604.8 GB	8 枚	価格なし	640 GB	37.5	2,400 W

「Engram は RAM」の行は、別途約 203 GB のシステムメモリが必要です。詳しい計算ルールはデータの作り方ページをご覧ください。

1. 1

   純正 PCIe 版と SXM4 変換カードを見分ける

   中古市場では、サーバー用の SXM4 モジュールに変換基板を付けて PCIe カードとして売っている例があり、商品名にはよく「SXM4 converted」と書かれています。売り手自身も、ファームウェア上は SXM 版として認識されると認めています。変換カードでも動きはしますが、冷却、給電、安定性は変換基板のメーカー次第で、純正品のメーカー保証はありません。届いたら nvidia-smi を実行しましょう。純正 PCIe 版は「A100 80GB PCIe」、変換カードは「A100-SXM4-80GB」と表示されます（lspci のデバイス ID はそれぞれ 20B5 と 20B2）。

2. 2

   300W の熱はすべてエアフロー頼み

   カードにファンはなく、300W の熱はすべてヒートシンクとケースのエアフローで逃がします。40GB 版より 50W 多い数字です。ワークステーションに入れるなら、ダクトと高静圧ファンを組み合わせるか、水冷ヘッドに換えるかのどちらかです。電源コネクタは 8-pin の CPU 用（EPS）が 1 つで、普通の電源ユニットにつなぐには PCIe → CPU 8-pin の変換ケーブルが必要です。

3. 3

   MIG で複数人に分ける

   MIG を使うと 1 枚のカードを互いに干渉しない小さなカードに分割でき、80GB 版は 1 つあたりの容量が 40GB 版の 2 倍になります。上限の 7 分割なら 1 つ 10GB で、4-bit の Gemma 4 12B が動きます。40GB × 2 に分ければ、それぞれ 8-bit の Qwen3.8 27B（29 GB）を 1 つずつ動かせます。

4. 4

   FP8 モデルは動くが、速くはならない

   Ampere は FP8 演算に対応していません。FP8 形式のモデルも vLLM で問題なく読み込めますが、重みを FP8 のまま保持し、計算時に FP16/BF16 へ変換するため、VRAM は節約できても速くはなりません。スループットを求めるなら AWQ や GPTQ などの INT4 版を探しましょう。VRAM に余裕があれば、BF16 の元モデルをそのまま使う手もあります。

スペック	A100 80GB PCIe	H100 PCIe	RTX PRO 6000
メモリ	80 GB	80 GB同じ	96 GB20% 多い
帯域幅	1,935 GB/s	2,000 GB/s3% 高い	1,792 GB/s7% 低い
BF16 / FP16 演算性能	312 TFLOPS	756 TFLOPS142% 高い	500 TFLOPS60% 高い
INT8 演算性能	624 TOPS	1,513 TOPS142% 高い	1,000 TOPS60% 高い
Qwen3.8 27B の速度（2-bit）	122.2 t/s	125.6 t/s同じ	114.6 t/s6% 遅い
最大で動かせる密モデル（4-bit）	136B	136B同じ	165B21% 多い
消費電力	300 W	350 W17% 高い	600 W100% 高い
GPU 間接続	NVLink 600 GB/s	NVLink 600 GB/s	非対応
インターフェース	PCIe 4.0 x16	PCIe 5.0 x16	PCIe 5.0 x16
発売	2021-06	2022-03	2025-03
Amazon.jp中央値	Amazon.jp で見るAmazon.jp で見る · A100 80GB PCIe	Amazon.jp で見るAmazon.jp で見る · H100 PCIe	¥3,738,800購入 RTX PRO 6000

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

eBay · 米国

¥3,036,030

13 件の出品

見る

Xianyu · 中国本土

¥2,581,676

5 件の出品

見る

eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。