GeForce RTX 4090 48GB の価格・中古相場:実行できるローカルLLMは?
RTX 4090 48GB は 4090 のチップを新基板に移して VRAM を倍増させた改造カードで、35B までを 8-bit で動かせます。NVIDIA にこの型番はなく、保証と受け取り前テストの可否を確認してから買いましょう。
Amazon.jp
GeForce RTX 4090 48GB の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4090 48GB の詳細スペック
- メモリ48 GB · GDDR6X
- 帯域幅1,008 GB/s
- FP16 / BF16330.3 TFLOPS
- FP8 / INT8660.6 / 660.6 TOPS
- バス幅
- 384-bit
- アーキテクチャ
- Ada Lovelace (AD102)
- コア
- 16,384
- Tensor コア
- 512
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x16
- NVLink
- 非対応
- 消費電力
- 450 W
- 補助電源
- 16-pin 12VHPWR
- スロット
- 2
- 種別
- コンシューマ
- 発売日
- 2022年10月12日
GeForce RTX 4090 48GB 1 枚で動かせるモデルは?
4090 48GB 1 枚には 8-bit が最適で、Qwen3.8 27B は約 26 tokens/s、30B 級 MoE は約 110 です。4-bit なら短いコンテキストで 70B 級も入ります。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 4.7 GB | 動く | 128.5 | 256K | |
| 10.5 GB | 動く | 143.1 | 256K | |
| 11.8 GB | 動く | 58.8 | 256K | |
| 9.8 GB | 動く | 69.3 | 256K | |
| 11.9 GB | 動く | 153.4 | 198K | |
| 11.8 GB | 動く | 56.7 | 256K | |
| 12.3 GB | 動く | 163 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 7.1 GB | 動く | 91.9 | 256K | |
| 16.9 GB | 動く | 121.4 | 256K | |
| 16.8 GB | 動く | 42.6 | 256K | |
| 16.5 GB | 動く | 43.3 | 256K | |
| 18.3 GB | 動く | 136.1 | 198K | |
| 18.3 GB | 動く | 38.4 | 256K | |
| 22.1 GB | 動く | 139 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 12.7 GB | 動く | 55.1 | 256K | |
| 26.9 GB | 動く | 98.1 | 256K | |
| 28.6 GB | 動く | 25.8 | 256K | |
| 29 GB | 動く | 25.5 | 256K | |
| 31.8 GB | 動く | 109.9 | 198K | |
| 32.6 GB | 動く | 22.4 | 202K | |
| 36.9 GB | 動く | 113.7 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
GeForce RTX 4090 48GB を複数枚使うと動かせるモデルは?
4090 48GB 2 枚(96GB)で 2-bit の Qwen3.8 Flash Next が約 115 tokens/s、4 枚で 4-bit の DeepSeek V4 Flash が動きます。NVLink はありません。
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 枚 | 価格なし | 96 GB | 115.1 | 900 W | |
| 96.8 GB | 4 枚 | 価格なし | 192 GB | 94.8 | 1,800 W | |
| 107.2 GB | 4 枚 | 価格なし | 192 GB | 46.8 | 1,800 W | |
| 108.7 GB | 4 枚 | 価格なし | 192 GB | 77.8 | 1,800 W | |
| 253.9 GB | 8 枚 | 価格なし | 384 GB | 41.3 | 3,600 W | |
| 307.2 GB推定 | 8 枚 | 価格なし | 384 GB | 31.4 | 3,600 W | |
| 311.2 GB | 8 枚 | 価格なし | 384 GB | 37 | 3,600 W | |
| 339.5 GB | 8 枚 | 価格なし | 384 GB | 49.5 | 3,600 W | |
| 340.5 GB | 8 枚 | 価格なし | 384 GB | 49.4 | 3,600 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 枚 | 価格なし | 192 GB | 98.8 | 1,800 W | |
| 155.1 GB | 4 枚 | 価格なし | 192 GB | 71.4 | 1,800 W | |
| 182.2 GB | 8 枚 | 価格なし | 384 GB | 35.4 | 3,600 W | |
| 199.7 GB | 8 枚 | 価格なし | 384 GB | 51.4 | 3,600 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 枚 | 価格なし | 192 GB | 69.4 | 1,800 W | |
| 188.2 GB | 8 枚 | 価格なし | 384 GB | 74 | 3,600 W | |
| 317.7 GB | 8 枚 | 価格なし | 384 GB | 24.5 | 3,600 W | |
| 341 GB | 8 枚 | 価格なし | 384 GB | 33.6 | 3,600 W |
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 70B クラスの Dense モデルを 1 枚で動かしたい
Llama 3.3 70B の 4-bit は 8K で 46.3 GB 必要で、これが収まります
- 27B〜35B を 8-bit の精度で使いたい
Qwen3.8 27B の 8-bit で約 26 tokens/s、Qwen3.6 35B A3B の 8-bit で約 114 tokens/s です
- 48GB で、しかも FP8 と充実した CUDA エコシステムも欲しく、2 スロットに収めたい
普通のケースにもマルチ GPU のサーバーにも入れやすいサイズです
向かない
- 静かさを重視する
レビューでは、シングルファンのブロワーがベンチマーク中に最大 65 dB に達しました
- 保証が欲しい、または 24 時間 365 日動かし続けたい
チップは取り外し品の可能性があり、BIOS は流出した NVIDIA の内部ツールで改変されたと報じられています
- 同じモデルをもっと速く動かしたいだけ
帯域幅は 24GB のオリジナルと同じなので、速度も同じです
購入前のチェックポイント
どのように改造されているか
オリジナルの 4090 は、VRAM が基板の表面にしか実装されていません。改造業者はチップを、表裏両面にメモリチップを実装できる新しい基板(レイアウトは RTX 3090 に近い)に移し、表と裏に 2GB の VRAM を 12 個ずつ載せたうえで、容量を書き換えた BIOS を書き込んでいます。hardware-corner は、改造業者が流出した NVIDIA の内部ツールを使っていると見ています。BIOS の署名は壊れていないため、公式ドライバーを入れるだけで 48GB として認識されます。
裏面の VRAM の温度
VRAM の半分は基板の裏面にあり、バックプレートだけで冷やしています。ロシアのチャンネル МК のレビューでは、チップが約 70°C だったのに対し、VRAM は 86°C に達し、カード全体で最も熱い部分でした。届いたら 10 分間フルロードで動かし、HWiNFO で VRAM の温度を確認しましょう。ケースに入れたら、バックプレート側にも風が当たるようにするのが理想です。
騒音、消費電力、スロット
レビューされたカードは 2 スロットのシングルファンのブロワー型で、複数枚を並べるのに向いています。その代わり騒音が大きく、ベンチマーク中は最大約 65 dB に達するので、机の下に置くとかなり目立ちます。電源コネクタは 16-pin の 12VHPWR で、電源ユニットは 450W を前提に用意しましょう。
出どころと保証
出どころは売り手によって異なります。レビューされたカードはチップに使用感があった一方、メモリチップは新品でロットもそろっていました。PC Gamer が報じた個人の改造では、手元にあった古い VRAM が使われていました。NVIDIA やボードパートナーの保証はなく、売り手に頼るしかないので、保証期間や、テストで不具合が出たら返品できるかを確認しましょう。24 個の VRAM はすべてはんだ付けし直されたものなので、memtest_vulkan でテストするときは 48GB 全体をカバーする必要があります。一部だけのテストでは不良チップを見つけられません。
同クラスの GPU との比較
GeForce RTX 4090 48GB と GeForce RTX 4090D 48GB、RTX 6000 Ada、RTX PRO 5000 48GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 48 GB | 48 GB同じ | 48 GB同じ | 48 GB同じ |
| 帯域幅 | 1,008 GB/s | 1,008 GB/s同じ | 960 GB/s5% 低い | 1,344 GB/s33% 高い |
| BF16 / FP16 演算性能 | 330 TFLOPS | 294 TFLOPS11% 低い | 364 TFLOPS10% 高い | 258 TFLOPS22% 低い |
| INT8 演算性能 | 661 TOPS | 589 TOPS11% 低い | 729 TOPS10% 高い | 516 TOPS22% 低い |
| Qwen3.8 27B の速度(2-bit) | 69.3 t/s | 69.3 t/s同じ | 66.3 t/s4% 遅い | 89.5 t/s29% 速い |
| 最大で動かせる密モデル(4-bit) | 79B | 79B同じ | 79B同じ | 79B同じ |
| 消費電力 | 450 W | 425 W6% 低い | 300 W33% 低い | 300 W33% 低い |
| インターフェース | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 発売 | 2022-10 | 2023-12 | 2022-09 | 2025-03 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4090 48GB のレンタル料金
GeForce RTX 4090 48GB は Vast.ai で 1 時間 ¥158、1 日 8 時間なら月約 ¥38,558 でレンタルできます。
| 方法 | 価格 | 1 日 4 時間 | 1 日 8 時間 | 1 日 24 時間 | 見る |
|---|---|---|---|---|---|
| ¥158/時間 | ¥19,279/月 | ¥38,558/月 | ¥115,675/月 | 借りる |
レンタルのリンクは紹介リンクです。リンク経由で登録すると、当サイトが手数料またはクレジットを受け取ることがあります。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。