A100 80GB PCIe の価格・中古相場：実行できるローカルLLMは？

A100 80GB PCIe 1 枚の VRAM は 80GB の HBM2e です。4-bit 量子化・8K コンテキストなら最大で約 136B パラメータの Dense モデルが収まり、8-bit では約 73B です。

はい。4-bit・8K コンテキストでは 70B Dense モデルに約 43GB が必要で、A100 80GB PCIe の 80GB に収まります。

2026 年リリースのモデルのうち、4-bit で VRAM に丸ごと収まる最大の Dense モデルは Gemma 4 31B で、推定 70.5 tokens/s です。MoE モデルでは Qwen3.6 35B A3B が最速で、約 186.8 tokens/s です。全リストは上の「動かせるモデル」の表にあります。

VRAM 帯域から推定すると、4-bit・8K コンテキストで 8B の Dense モデルで約 220.5 tokens/s、14B の Dense モデルで約 138.7 tokens/s、32B の Dense モデルで約 66.6 tokens/s、70B の Dense モデルで約 32 tokens/s です。MoE モデルは 1 トークンごとにアクティブパラメータだけを読むため、ずっと速くなります。実測は推定値の 70%〜100% になることが多いです。

A100 80GB PCIe 2 枚（合計 160GB）なら、vLLM のテンソル並列・4-bit・32K コンテキストで Qwen3.8 Flash Next が収まります。Kimi K2.7 Code を 4-bit・32K コンテキストで動かすには 8 枚必要です。

2026年9月29日時点の価格：eBay の中央値 ¥2,774,567（出品 8 件）、Xianyu の中央値 ¥2,806,853（出品 4 件）。出品中の掲載価格の中央値で、6 時間ごとに更新します。

2026年9月29日時点で、Xianyu の中央値は過去 7 日間で20%下落、過去 30 日間で20%下落となっています。

2026年9月29日時点の料金：Compshare は 1 時間 ¥239。いずれも 1 GPU のオンデマンド料金で、ストレージと通信量は含みません。

Xianyu の中央値 ¥2,806,853、電気料金 1kWh あたり ¥31 で計算すると、1 日 8 時間使う場合、購入は約 4.2 年で元が取れます（Compshare の 1 時間 ¥239 と比較）。4.2 年以上使うなら購入、それより短いならレンタルがお得です。

H100 PCIe は VRAM 80GB・帯域 2,000 GB/s、A100 80GB PCIe は 80GB・1,935 GB/s です。70B の Dense モデル（4-bit）では、推定で A100 80GB PCIe が約 32 tokens/s、H100 PCIe が約 33.1 tokens/s です。