RTX A6000 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX A6000 は NVIDIA の 2020 年の 48GB ワークステーション向けカードで、35B まで 8-bit で動き、帯域幅が低いぶん MoE が得意です。VRAM は ECC 付き、電源は CPU 用 8-pin です。
Amazon.jp
RTX A6000 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
RTX A6000 の詳細スペック
- メモリ48 GB · GDDR6 ECC
- 帯域幅768 GB/s
- FP16 / BF16154.9 TFLOPS
- INT8309.7 TOPS
- バス幅
- 384-bit
- アーキテクチャ
- Ampere (GA102)
- コア
- 10,752
- Tensor コア
- 336
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x16
- NVLink
- 112.5 GB/s
- 消費電力
- 300 W
- 補助電源
- 8-pin EPS
- スロット
- 2
- 長さ
- 267 mm
- 種別
- ワークステーション
- 発売日
- 2020年10月5日
RTX A6000 1 枚で動かせるモデルは?
A6000 1 枚でいちばんの狙い目は 4-bit の 30B 級 MoE で、約 125 tokens/s です。Dense の Qwen3.8 27B は 8-bit で約 20、4-bit でも 30 台前半です。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 4.7 GB | 動く | 102.3 | 256K | |
| 10.5 GB | 動く | 129.8 | 256K | |
| 11.8 GB | 動く | 45.7 | 256K | |
| 9.8 GB | 動く | 54.1 | 256K | |
| 11.9 GB | 動く | 141 | 198K | |
| 11.8 GB | 動く | 44.1 | 256K | |
| 12.3 GB | 動く | 151.9 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 7.1 GB | 動く | 72.2 | 256K | |
| 16.9 GB | 動く | 107 | 256K | |
| 16.8 GB | 動く | 32.9 | 256K | |
| 16.5 GB | 動く | 33.5 | 256K | |
| 18.3 GB | 動く | 122.3 | 198K | |
| 18.3 GB | 動く | 29.6 | 256K | |
| 22.1 GB | 動く | 125.4 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 12.7 GB | 動く | 42.8 | 256K | |
| 26.9 GB | 動く | 84 | 256K | |
| 28.6 GB | 動く | 19.8 | 256K | |
| 29 GB | 動く | 19.6 | 256K | |
| 31.8 GB | 動く | 95.5 | 198K | |
| 32.6 GB | 動く | 17.2 | 202K | |
| 36.9 GB | 動く | 99.3 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
RTX A6000 を複数枚使うと動かせるモデルは?
A6000 2 枚(96GB)は主に MoE 向けで、gpt-oss 120B が約 97 tokens/s、4 枚で 4-bit の DeepSeek V4 Flash が動きます。NVLink は 2 枚ずつしかつなげません。
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 枚 | ¥3,133,620 | 96 GB | 100.6 | 600 W | |
| 96.8 GB | 4 枚 | ¥6,267,240 | 192 GB | 80.8 | 1,200 W | |
| 107.2 GB | 4 枚 | ¥6,267,240 | 192 GB | 37.6 | 1,200 W | |
| 108.7 GB | 4 枚 | ¥6,267,240 | 192 GB | 65 | 1,200 W | |
| 253.9 GB | 8 枚 | ¥12,534,480 | 384 GB | 33 | 2,400 W | |
| 307.2 GB推定 | 8 枚 | ¥12,534,480 | 384 GB | 24.8 | 2,400 W | |
| 311.2 GB | 8 枚 | ¥12,534,480 | 384 GB | 29.4 | 2,400 W | |
| 339.5 GB | 8 枚 | ¥12,534,480 | 384 GB | 39.9 | 2,400 W | |
| 340.5 GB | 8 枚 | ¥12,534,480 | 384 GB | 39.8 | 2,400 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 枚 | ¥6,267,240 | 192 GB | 84.6 | 1,200 W | |
| 155.1 GB | 4 枚 | ¥6,267,240 | 192 GB | 59.1 | 1,200 W | |
| 182.2 GB | 8 枚 | ¥12,534,480 | 384 GB | 28 | 2,400 W | |
| 199.7 GB | 8 枚 | ¥12,534,480 | 384 GB | 41.5 | 2,400 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 枚 | ¥6,267,240 | 192 GB | 57.3 | 1,200 W | |
| 188.2 GB | 8 枚 | ¥12,534,480 | 384 GB | 61.5 | 2,400 W | |
| 317.7 GB | 8 枚 | ¥12,534,480 | 384 GB | 19.2 | 2,400 W | |
| 341 GB | 8 枚 | ¥12,534,480 | 384 GB | 26.6 | 2,400 W |
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 48GB と CUDA のフルエコシステムの両方が欲しい
Qwen3.8 27B の 8-bit(29 GB)が 1 枚に載り、約 20 tokens/s
- 主に MoE を動かす
帯域幅の弱点の影響が小さく、Qwen3.6 35B A3B の 4-bit で約 125 tokens/s と、Dense の Qwen3.8 27B の 4 倍近い
- 2 枚を組み合わせて使うつもり
NVLink ブリッジに対応し、2 枚で計 96GB
- システム全体の消費電力とサイズを気にする
300W・2 スロットで、3090 を 2 枚積むより収めやすい
向かない
- 生成速度を重視する
4-bit の Qwen3.8 27B で約 34 tokens/s と、3090 よりも RTX 6000 Ada よりも遅い
- FP8 や FP4 を使いたい
この世代は FP8 演算に対応しておらず、FP8 モデルは VRAM の節約にはなっても速くはならない
購入前のチェックポイント
電源コネクタは CPU 8-pin
A6000 の電源コネクタは、グラフィックスカードで一般的な PCIe 8-pin ではなく CPU 8-pin(EPS-12V)で、両者に互換性はありません。NVIDIA の電源ガイドでは「PCIe 8-pin 2 本を CPU 8-pin 1 本に変換する」ケーブルの使用が認められています。ケースや電源ユニットを替える前に、ケーブルを確認してください。
NVLink ブリッジはスロット間隔に合わせて買う
公式のブリッジには 2 スロット間隔と 3 スロット間隔の 2 種類があり、つなげるのは 2 枚だけです。ブリッジを買う前にマザーボード上の 2 本の x16 スロットの間隔を測ってください。間隔が合わないと挿せません。
量子化フォーマットの選び方
この世代は FP8 演算に対応していないため、vLLM で FP8 モデルを使っても重みを FP8 で保持するだけで、演算は 16 ビットのままです。VRAM は節約できても速くはなりません。このカードでは GGUF の 4-bit〜8-bit か、AWQ や GPTQ などの 4-bit フォーマットを優先しましょう。
3090 と同じチップ
A6000 はフル仕様の GA102 で、3090 は同じチップの削減版です。ただし 3090 はより高速な GDDR6X を積んでいるので、モデルを動かすとかえって速くなります。A6000 の 48GB の VRAM は ECC 付きで、VRAM 内のシングルビットエラーを自動で訂正できます。
同クラスの GPU との比較
RTX A6000 と RTX 6000 Ada、GeForce RTX 3090、GeForce RTX 4090 48GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 48 GB | 48 GB同じ | 24 GB50% 少ない | 48 GB同じ |
| 帯域幅 | 768 GB/s | 960 GB/s25% 高い | 936 GB/s22% 高い | 1,008 GB/s31% 高い |
| BF16 / FP16 演算性能 | 155 TFLOPS | 364 TFLOPS135% 高い | 142 TFLOPS8% 低い | 330 TFLOPS113% 高い |
| INT8 演算性能 | 310 TOPS | 729 TOPS135% 高い | 285 TOPS8% 低い | 661 TOPS113% 高い |
| Qwen3.8 27B の速度(2-bit) | 54.1 t/s | 66.3 t/s23% 速い | 64.8 t/s20% 速い | 69.3 t/s28% 速い |
| 最大で動かせる密モデル(4-bit) | 79B | 79B同じ | 37B53% 少ない | 79B同じ |
| 消費電力 | 300 W | 300 W同じ | 350 W17% 高い | 450 W50% 高い |
| GPU 間接続 | NVLink 112.5 GB/s | 非対応 | NVLink 112.5 GB/s | 非対応 |
| インターフェース | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 |
| 発売 | 2020-10 | 2022-09 | 2020-09 | 2022-10 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
RTX A6000 のレンタル料金
RTX A6000 のレンタルは 1 時間 ¥53 から(RunPod)、1 日 8 時間なら月約 ¥12,832 です。カード購入費(Amazon.jp 中央値 ¥1,566,810)は 1 日 4・8・24 時間の利用で、約 24.7 年・12.4 年・4.1 年で回収できます。
| 方法 | 価格 | 1 日 4 時間 | 1 日 8 時間 | 1 日 24 時間 | 見る |
|---|---|---|---|---|---|
| ¥53/時間 | ¥6,416/月 | ¥12,832/月 | ¥38,496/月 | 借りる | |
| ¥69/時間 | ¥8,353/月 | ¥16,706/月 | ¥50,118/月 | 借りる | |
| ¥1,566,810 | 約 24.7 年で回収電気代 ¥1,132/月 | 約 12.4 年で回収電気代 ¥2,263/月 | 約 4.1 年で回収電気代 ¥6,789/月 | 買う |
回収期間は電気代 1kWh ¥31(電力料金目安単価)と定格 300 W で試算。売却額やほかのパーツ代は含みません。
レンタルのリンクは紹介リンクです。リンク経由で登録すると、当サイトが手数料またはクレジットを受け取ることがあります。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。