H100 PCIe の価格・中古相場：実行できるローカルLLMは？

H100 PCIe 1 枚の VRAM は 80GB の HBM2e です。4-bit 量子化・8K コンテキストなら最大で約 136B パラメータの Dense モデルが収まり、8-bit では約 73B です。

はい。4-bit・8K コンテキストでは 70B Dense モデルに約 43GB が必要で、H100 PCIe の 80GB に収まります。

2026 年リリースのモデルのうち、4-bit で VRAM に丸ごと収まる最大の Dense モデルは Gemma 4 31B で、推定 72.7 tokens/s です。MoE モデルでは Qwen3.6 35B A3B が最速で、約 188.3 tokens/s です。全リストは上の「動かせるモデル」の表にあります。

VRAM 帯域から推定すると、4-bit・8K コンテキストで 8B の Dense モデルで約 226.5 tokens/s、14B の Dense モデルで約 142.8 tokens/s、32B の Dense モデルで約 68.8 tokens/s、70B の Dense モデルで約 33.1 tokens/s です。MoE モデルは 1 トークンごとにアクティブパラメータだけを読むため、ずっと速くなります。実測は推定値の 70%〜100% になることが多いです。

H100 PCIe 2 枚（合計 160GB）なら、vLLM のテンソル並列・4-bit・32K コンテキストで Qwen3.8 Flash Next が収まります。Kimi K2.7 Code を 4-bit・32K コンテキストで動かすには 8 枚必要です。

価格のデータはまだありません。取得が始まり次第ここに表示します。

2026年9月29日時点の料金：RunPod は 1 時間 ¥313、Vast.ai は 1 時間 ¥407。いずれも 1 GPU のオンデマンド料金で、ストレージと通信量は含みません。

A100 80GB PCIe は VRAM 80GB・帯域 1,935 GB/s、H100 PCIe は 80GB・2,000 GB/s です。70B の Dense モデル（4-bit）では、推定で H100 PCIe が約 33.1 tokens/s、A100 80GB PCIe が約 32 tokens/s です。