RTX PRO 4000 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX PRO 4000 Blackwell は NVIDIA の 2025 年の 1 スロット・24GB・145W カードで、30B 級 MoE は約 100 tokens/s。3 分の 1 遅い 70W の SFF 版と取り違えないように。
Amazon.jp
RTX PRO 4000 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
RTX PRO 4000 の詳細スペック
- メモリ24 GB · GDDR7 ECC
- 帯域幅672 GB/s
- FP16 / BF16161.3 TFLOPS
- FP8 / INT8322.5 / 322.5 TOPS
- バス幅
- 192-bit
- アーキテクチャ
- Blackwell (GB203)
- コア
- 8,960
- Tensor コア
- 280
- エコシステム
- CUDA
- インターフェース
- PCIe 5.0 x16
- NVLink
- 非対応
- 消費電力
- 145 W
- スロット
- 1
- 長さ
- 241 mm
- 種別
- ワークステーション
- 発売日
- 2025年3月18日
RTX PRO 4000 1 枚で動かせるモデルは?
PRO 4000 1 枚なら 4-bit で 35B までが入りますが、きついのはコンテキストで、Gemma 4 31B は約 66K までです。長い文書をよく渡すなら 2-bit に下げましょう。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 112 | 128K | |
| 4.1 GB | 動く | 104 | 256K | |
| 4.7 GB | 動く | 91.2 | 256K | |
| 10.5 GB | 動く | 123 | 256K | |
| 11.8 GB | 動く | 40.3 | 192K | |
| 9.8 GB | 動く | 47.8 | 221K | |
| 11.9 GB | 動く | 134.6 | 198K | |
| 11.8 GB | 動く | 38.8 | 143K | |
| 12.3 GB | 動く | 145.9 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 88.9 | 128K | |
| 5.7 GB | 動く | 78.6 | 256K | |
| 7.1 GB | 動く | 64 | 256K | |
| 16.9 GB | 動く | 99.9 | 256K | |
| 16.8 GB | 動く | 29 | 117K | |
| 16.5 GB | 動く | 29.5 | 122K | |
| 18.3 GB | 動く | 115.3 | 115K | |
| 18.3 GB | 動く | 26.1 | 66K | |
| 22.1 GB | 動く | 118.5 | 123K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 動く | 57.3 | 128K | |
| 9.5 GB | 動く | 49.8 | 256K | |
| 12.7 GB | 動く | 37.7 | 256K | |
| 26.9 GB | RAM オフロードが必要 | 25.3 | 256K | |
| 28.6 GB | 入らない | — | — | |
| 29 GB | 入らない | — | — | |
| 31.8 GB | RAM オフロードが必要 | 22.4 | 198K | |
| 32.6 GB | 入らない | — | — | |
| 36.9 GB | RAM オフロードが必要 | 33.4 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- ケースに 1 スロット分の空きしかない、または 1 台のワークステーションに何枚も挿したい
1 スロット、145W、ブロワー型冷却
- 主にアクティブパラメータの少ない MoE を動かす
Qwen3.6 35B A3B も GLM 4.7 Flash も 4-bit で 115 tokens/s 以上
- 新品で、ECC 付き VRAM と FP8・FP4 対応が欲しい
向かない
- 長いコンテキストが必要
4-bit の Gemma 4 31B は約 66K、Qwen3.8 27B は約 122K までしか取れない
- 生成速度を重視する
Qwen3.8 27B の 4-bit で約 30 tokens/s、中古の 3090 なら約 40
- 27B を 8-bit で動かしたい
Qwen3.8 27B の 8-bit は 29 GB 必要で、載らない
購入前のチェックポイント
8-pin 1 本で給電できる
カードの電源コネクタは 16-pin 1 つで、フル負荷時は 145W です。NVIDIA の電源ガイドによると、PCIe 8-pin 1 本を 16-pin に変換するケーブルで最大 150W 供給できるので、ちょうど足ります。電源ユニットに 8-pin ケーブルしかなくても動かせます。
SFF 版と間違えない
RTX PRO 4000 Blackwell SFF Edition というモデルもあり、同じ 24GB ですが、消費電力は 70W しかなく、ロープロファイルの 2 スロットです。帯域幅は標準版の約 3 分の 2 で、モデルを動かす速度も 3 分の 1 遅くなります。出品に「PRO 4000 24G」としか書かれていない場合は、SFF 版かどうかを確認してください。
CUDA 12.8 以降が必要
この世代は CUDA 12.8 以降でないとサポートされず、PyTorch も 2.7 からようやく対応版があります。古い Docker イメージや古いバージョンの vLLM はこのカードでは動かないので、先にドライバーとフレームワークを更新してください。
MIG には非対応
RTX PRO のこの世代のワークステーション向けカードで MIG(1 枚のカードを複数に分割する機能)に対応しているのは、5000 以上のモデルだけです。1 枚のカードを複数の人やサービスで分けて使いたくても、このカードではできません。
同クラスの GPU との比較
RTX PRO 4000 と GeForce RTX 3090、Arc Pro B60、RTX PRO 4500 の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 24 GB | 24 GB同じ | 24 GB同じ | 32 GB33% 多い |
| 帯域幅 | 672 GB/s | 936 GB/s39% 高い | 456 GB/s32% 低い | 896 GB/s33% 高い |
| BF16 / FP16 演算性能 | 161 TFLOPS | 142 TFLOPS12% 低い | 99 TFLOPS39% 低い | 211 TFLOPS31% 高い |
| INT8 演算性能 | 323 TOPS | 285 TOPS12% 低い | 197 TOPS39% 低い | 422 TOPS31% 高い |
| Qwen3.8 27B の速度(2-bit) | 47.8 t/s | 64.8 t/s36% 速い | 33.1 t/s31% 遅い | 62.3 t/s30% 速い |
| 最大で動かせる密モデル(4-bit) | 37B | 37B同じ | 37B同じ | 51B38% 多い |
| 消費電力 | 145 W | 350 W141% 高い | 200 W38% 高い | 200 W38% 高い |
| GPU 間接続 | 非対応 | NVLink 112.5 GB/s | — | 非対応 |
| インターフェース | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x8 | PCIe 5.0 x16 |
| 発売 | 2025-03 | 2020-09 | 2025-08 | 2025-03 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
RTX PRO 4000 のレンタル料金
RTX PRO 4000 のレンタルは 1 時間 ¥45.3 から(Vast.ai)、1 日 8 時間なら月約 ¥11,023 です。カード購入費(Amazon.jp 中央値 ¥655,072)は 1 日 4・8・24 時間の利用で、約 11 年・5.5 年・1.8 年で回収できます。
| 方法 | 価格 | 1 日 4 時間 | 1 日 8 時間 | 1 日 24 時間 | 見る |
|---|---|---|---|---|---|
| ¥45.3/時間 | ¥5,511/月 | ¥11,023/月 | ¥33,068/月 | 借りる | |
| ¥90/時間 | ¥10,973/月 | ¥21,946/月 | ¥65,837/月 | 借りる | |
| ¥655,072 | 約 11 年で回収電気代 ¥547/月 | 約 5.5 年で回収電気代 ¥1,094/月 | 約 1.8 年で回収電気代 ¥3,281/月 | 買う |
回収期間は電気代 1kWh ¥31(電力料金目安単価)と定格 145 W で試算。売却額やほかのパーツ代は含みません。
レンタルのリンクは紹介リンクです。リンク経由で登録すると、当サイトが手数料またはクレジットを受け取ることがあります。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。