H100 PCIe の価格・中古相場：実行できるローカルLLMは？

• メモリ80 GB · HBM2e
• 帯域幅2,000 GB/s
• FP16 / BF16756 TFLOPS
• FP8 / INT81,513 / 1,513 TOPS

バス幅

5,120-bit

アーキテクチャ

Hopper (GH100)

コア

14,592

Tensor コア

456

エコシステム

CUDA

インターフェース

PCIe 5.0 x16

NVLink

600 GB/s

消費電力

350 W

補助電源

16-pin

スロット

2

長さ

268 mm

種別

データセンター

発売日

2022年3月22日

モデル	サイズ	必要枚数	合計価格	合計 VRAM	速度 t/s	合計消費電力
Qwen3.8 Flash Next176B（有効 6B）	111.3 GB	2 枚	価格なし	160 GB	134.6	700 W
DeepSeek V4 Flash284B（有効 13B）	155.1 GB	4 枚	価格なし	320 GB	106.5	1,400 W
Hy3295B（有効 21B）	182.2 GB	4 枚	価格なし	320 GB	60.3	1,400 W
GLM 5.3 Flash320B（有効 18B）	199.7 GB	4 枚	価格なし	320 GB	82.3	1,400 W
GLM 5.3744B（有効 40B）	467.3 GB	8 枚	価格なし	640 GB	45.4	2,800 W
Hy4 preview770B（有効 49B）	467.3 GB	8 枚	価格なし	640 GB	39.9	2,800 W
Muse Spark Open816B（有効 42B）	505.5 GB	8 枚	価格なし	640 GB	44.5	2,800 W
DeepSeek V4.1 Flash763B（有効 8 / 16B）	510.3 GB	8 枚Engram は RAM	価格なし	640 GB	73.3	2,800 W
Kimi K2.61,000B（有効 32B）	583.7 GB	8 枚	価格なし	640 GB	56.8	2,800 W
Kimi K2.7 Code1,000B（有効 32B）	583.7 GB	8 枚	価格なし	640 GB	56.8	2,800 W
Mistral Large 41,000B（有効 52B）	604.8 GB	8 枚	価格なし	640 GB	38.5	2,800 W

「Engram は RAM」の行は、別途約 203 GB のシステムメモリが必要です。詳しい計算ルールはデータの作り方ページをご覧ください。

1. 1

   16-pin の給電は十分に

   H100 PCIe は 16-pin の電源コネクタを 1 つ使います。カードはケーブルの信号ピンで電源ユニットが供給できる電力を判断し、それに応じて自分の動作速度を決めます。ケーブルが示すクラスが 300W を超えていれば 350W でフルに動作しますが、151〜300W のクラスだと 310W に制限され、150W のクラスにはそもそも対応していません。CPU 8-pin → 16-pin の変換ケーブルを使うときは、カードにどのクラスを伝えるものかを先に確認しましょう。

2. 2

   H100 NVL や SXM と混同しない

   出品では何種類かの H100 がまとめて書かれていることがよくあります。H100 NVL は別製品の PCIe カードで、94GB、400W です。SXM5 モジュールは専用の HGX ベースボードに挿すもので、個人の PC では使えません。届いたら nvidia-smi で型番を確認しましょう。純正の H100 PCIe は「H100 PCIe」と表示されます（lspci のデバイス ID は 2331、NVL は 2321）。

3. 3

   エアフローと NVLink 用のスペース

   カードにファンはなく、ヒートシンクはどちらの方向からでも吸気できますが、風量はサーバー基準で確保する必要があります。NVLink ブリッジを付けるときは、カードの上に少なくとも 2.5 mm、裏面に 2.67 mm のスペースを空けておく必要があり、3 本のブリッジをすべて挿して初めてフル帯域になります。

4. 4

   ソフトウェア：Hopper は主力プラットフォーム

   新しい推論ソフトウェアは、基本的に Hopper への対応が最優先です。vLLM は FP8 モデルをそのまま FP8 で計算し、FlashAttention 3 も H100 と H800 にしか対応していません。MIG は最大 10GB × 7 に分割でき、40GB × 2 にも分けられます。ただし llama.cpp で 1 人分を動かすだけなら、速度は主に帯域幅で決まるので、FP8 や演算性能の強みは生きません。

スペック	H100 PCIe	A100 80GB PCIe	RTX PRO 6000
メモリ	80 GB	80 GB同じ	96 GB20% 多い
帯域幅	2,000 GB/s	1,935 GB/s3% 低い	1,792 GB/s10% 低い
BF16 / FP16 演算性能	756 TFLOPS	312 TFLOPS59% 低い	500 TFLOPS34% 低い
INT8 演算性能	1,513 TOPS	624 TOPS59% 低い	1,000 TOPS34% 低い
Qwen3.8 27B の速度（2-bit）	125.6 t/s	122.2 t/s同じ	114.6 t/s9% 遅い
最大で動かせる密モデル（4-bit）	136B	136B同じ	165B21% 多い
消費電力	350 W	300 W14% 低い	600 W71% 高い
GPU 間接続	NVLink 600 GB/s	NVLink 600 GB/s	非対応
インターフェース	PCIe 5.0 x16	PCIe 4.0 x16	PCIe 5.0 x16
発売	2022-03	2021-06	2025-03
Amazon.jp中央値	Amazon.jp で見るAmazon.jp で見る · H100 PCIe	Amazon.jp で見るAmazon.jp で見る · A100 80GB PCIe	¥3,738,800購入 RTX PRO 6000

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

eBay · 米国

なし

出品なし

見る

Xianyu · 中国本土

なし

出品なし

見る

eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。