GeForce RTX 4090 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX 4090 は NVIDIA の 2022 年の 24GB フラッグシップゲーミングカードで、Qwen3.8 27B の 4-bit が約 43 tokens/s です。中古にはチップを抜かれた空のカードもあり、起動と満負荷の確認が必須です。
Amazon.jp
GeForce RTX 4090 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4090 の詳細スペック
- メモリ24 GB · GDDR6X
- 帯域幅1,008 GB/s
- FP16 / BF16330.3 TFLOPS
- FP8 / INT8660.6 / 660.6 TOPS
- バス幅
- 384-bit
- アーキテクチャ
- Ada Lovelace (AD102)
- コア
- 16,384
- Tensor コア
- 512
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x16
- NVLink
- 非対応
- 消費電力
- 450 W
- 補助電源
- 16-pin 12VHPWR
- スロット
- 3
- 長さ
- 304 mm
- 種別
- コンシューマ
- 発売日
- 2022年10月12日
- 希望小売価格
- ¥253,000
GeForce RTX 4090 1 枚で動かせるモデルは?
RTX 4090 1 枚なら 4-bit で 35B 級まで載り、27B で約 43 tokens/s ですが、コンテキストの余裕は少なめです。8-bit で入るのは 12B 級までです。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 155.8 | 128K | |
| 4.1 GB | 動く | 145.4 | 256K | |
| 4.7 GB | 動く | 128.5 | 256K | |
| 10.5 GB | 動く | 143.1 | 256K | |
| 11.8 GB | 動く | 58.8 | 192K | |
| 9.8 GB | 動く | 69.3 | 221K | |
| 11.9 GB | 動く | 153.4 | 198K | |
| 11.8 GB | 動く | 56.7 | 143K | |
| 12.3 GB | 動く | 163 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 125.5 | 128K | |
| 5.7 GB | 動く | 111.8 | 256K | |
| 7.1 GB | 動く | 91.9 | 256K | |
| 16.9 GB | 動く | 121.4 | 256K | |
| 16.8 GB | 動く | 42.6 | 117K | |
| 16.5 GB | 動く | 43.3 | 122K | |
| 18.3 GB | 動く | 136.1 | 115K | |
| 18.3 GB | 動く | 38.4 | 66K | |
| 22.1 GB | 動く | 139 | 123K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 動く | 82.6 | 128K | |
| 9.5 GB | 動く | 72.1 | 256K | |
| 12.7 GB | 動く | 55.1 | 256K | |
| 26.9 GB | RAM オフロードが必要 | 26.4 | 256K | |
| 28.6 GB | 入らない | — | — | |
| 29 GB | 入らない | — | — | |
| 31.8 GB | RAM オフロードが必要 | 22.9 | 198K | |
| 32.6 GB | 入らない | — | — | |
| 36.9 GB | RAM オフロードが必要 | 35 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
GeForce RTX 4090 を複数枚使うと動かせるモデルは?
4090 2 枚は 48B 級 MoE 向きで、4 枚(96GB)でようやく 2-bit の Qwen3.8 Flash Next が入り、DeepSeek V4 Flash は 8 枚必要です。4090 に NVLink はありません。
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 枚 | ¥3,448,544 | 96 GB | 115.1 | 1,800 W | |
| 96.8 GB | 8 枚 | ¥6,897,088 | 192 GB | 94.8 | 3,600 W | |
| 107.2 GB | 8 枚 | ¥6,897,088 | 192 GB | 46.8 | 3,600 W | |
| 108.7 GB | 8 枚 | ¥6,897,088 | 192 GB | 77.8 | 3,600 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 111.3 GB | 8 枚 | ¥6,897,088 | 192 GB | 98.8 | 3,600 W | |
| 155.1 GB | 8 枚 | ¥6,897,088 | 192 GB | 71.4 | 3,600 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 枚 | ¥6,897,088 | 192 GB | 69.4 | 3,600 W |
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 27B〜31B の Dense モデルを 1 枚で動かす
4-bit の Qwen3.8 27B で約 43 tokens/s、コンテキスト 122K、Gemma 4 31B は約 38
- 30B 級の MoE を VRAM に丸ごと載せたい
4-bit の Qwen3.6 35B A3B で約 139 tokens/s、GLM 4.7 Flash は約 136
- 長い文書をよく読ませる、バッチ処理を回す
演算性能は 3090 の 2.3 倍で、FP8 にも対応
向かない
- 1 人でチャットするだけ
生成速度は帯域幅で決まり、4090 は 3090 より 8% 高いだけなので、同じ Dense モデルでは 7% ほどしか速くならない
- 27B を 8-bit で動かしたい
Qwen3.8 27B の 8-bit は 29 GB 要るため、32GB の 5090 に替える必要がある
- 2 枚構成で NVLink を使いたい
40 シリーズでは NVLink が廃止され、カード間は PCIe 経由のみ
購入前のチェックポイント
コアを抜かれた抜け殻カードに注意
中国国内では大量の 4090 からコアと VRAM が取り外され、2 スロットのブロワー型や 48GB カードに改造されています。その結果、中古市場には基板だけになった 4090 や、偽のチップに載せ替えられた 4090 まで出回るようになり、海外の修理店からも何度も報告されています。受け取ったら必ず通電して高負荷で動かし、nvidia-smi で型番と 24GB の VRAM を確認してください。写真だけで判断してはいけません。
12VHPWR は奥までしっかり挿す
2022 年末、NVIDIA にはコネクタ溶損の報告が約 50 件寄せられ、調査では主な原因はコネクタが奥まで挿さっていなかったことだとされました。Gamers Nexus のテストでも、挿し込みが不十分だったり、挿した後にケーブルが斜めに引っ張られたりすると、コネクタが数 mm 抜けて発熱することがわかっています。組み込むときは周囲に隙間がなくなるまで挿し込み、コネクタの根元でケーブルを急に曲げないようにしてください。確認のために何度も抜き挿しすると、かえって緩みやすくなるので避けます。中古カードはまず端子が黄ばんだり焦げたりしていないかを見てください。
電源ユニットとサイズ
NVIDIA は 450W の 4090 に 850W の電源ユニットを推奨しています。Founders Edition は 3 スロット厚で長さ 304 mm、オリジナルモデルにはさらに厚いものも多く、最大で 4 スロットを占有します。組む前にケースの寸法とマザーボードのスロット間隔を測っておきましょう。
中国国内には 4090 D もある
2023 年末に中国国内で発売された 4090 D は仕様を落としたモデルです。コアが約 1 割少なく、消費電力は 425W、VRAM は同じ 24GB で帯域幅も同じです。生成速度は 4090 とほぼ変わりませんが、長いプロンプトの処理はやや遅くなります。出品がどちらのモデルなのかよく確認してください。
同クラスの GPU との比較
GeForce RTX 4090 と GeForce RTX 3090、GeForce RTX 5090、GeForce RTX 4090 48GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 24 GB | 24 GB同じ | 32 GB33% 多い | 48 GB100% 多い |
| 帯域幅 | 1,008 GB/s | 936 GB/s7% 低い | 1,792 GB/s78% 高い | 1,008 GB/s同じ |
| BF16 / FP16 演算性能 | 330 TFLOPS | 142 TFLOPS57% 低い | 419 TFLOPS27% 高い | 330 TFLOPS同じ |
| INT8 演算性能 | 661 TOPS | 285 TOPS57% 低い | 838 TOPS27% 高い | 661 TOPS同じ |
| Qwen3.8 27B の速度(2-bit) | 69.3 t/s | 64.8 t/s6% 遅い | 114.6 t/s65% 速い | 69.3 t/s同じ |
| 最大で動かせる密モデル(4-bit) | 37B | 37B同じ | 51B38% 多い | 79B114% 多い |
| 消費電力 | 450 W | 350 W22% 低い | 575 W28% 高い | 450 W同じ |
| GPU 間接続 | 非対応 | NVLink 112.5 GB/s | 非対応 | 非対応 |
| インターフェース | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 発売 | 2022-10 | 2020-09 | 2025-01 | 2022-10 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4090 のレンタル料金
GeForce RTX 4090 のレンタルは 1 時間 ¥54 から(RunPod)、1 日 8 時間なら月約 ¥13,090 です。カード購入費(Amazon.jp 中央値 ¥862,136)は 1 日 4・8・24 時間の利用で、約 14.8 年・7.4 年・2.5 年で回収できます。
| 方法 | 価格 | 1 日 4 時間 | 1 日 8 時間 | 1 日 24 時間 | 見る |
|---|---|---|---|---|---|
| ¥54/時間 | ¥6,545/月 | ¥13,090/月 | ¥39,271/月 | 借りる | |
| ¥112/時間 | ¥13,668/月 | ¥27,336/月 | ¥82,008/月 | 借りる | |
| ¥862,136 | 約 14.8 年で回収電気代 ¥1,697/月 | 約 7.4 年で回収電気代 ¥3,395/月 | 約 2.5 年で回収電気代 ¥10,184/月 | 買う |
回収期間は電気代 1kWh ¥31(電力料金目安単価)と定格 450 W で試算。売却額やほかのパーツ代は含みません。
レンタルのリンクは紹介リンクです。リンク経由で登録すると、当サイトが手数料またはクレジットを受け取ることがあります。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。