GeForce RTX 3090 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX 3090 は NVIDIA の 2020 年の 24GB フラッグシップで、Qwen3.8 27B の 4-bit が約 40 tokens/s、今はほぼ中古のみです。マイニング上がりが多く、満負荷時の VRAM 温度で見極めます。
Amazon.jp
GeForce RTX 3090 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 3090 の詳細スペック
- メモリ24 GB · GDDR6X
- 帯域幅936 GB/s
- FP16 / BF16142.3 TFLOPS
- INT8284.7 TOPS
- バス幅
- 384-bit
- アーキテクチャ
- Ampere (GA102)
- コア
- 10,496
- Tensor コア
- 328
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x16
- NVLink
- 112.5 GB/s
- 消費電力
- 350 W
- 補助電源
- 12-pin (Founders Edition)
- スロット
- 3
- 長さ
- 313 mm
- 種別
- コンシューマ
- 発売日
- 2020年9月24日
- 希望小売価格
- ¥237,178
GeForce RTX 3090 1 枚で動かせるモデルは?
RTX 3090 1 枚で 35B 級が載るのは 4-bit だけで、27B〜31B の Dense は 35〜40 tokens/s、30B 級 MoE は 130 超です。8-bit で入るのは 12B 級までです。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 147 | 128K | |
| 4.1 GB | 動く | 137.1 | 256K | |
| 4.7 GB | 動く | 120.9 | 256K | |
| 10.5 GB | 動く | 139.6 | 256K | |
| 11.8 GB | 動く | 54.9 | 192K | |
| 9.8 GB | 動く | 64.8 | 221K | |
| 11.9 GB | 動く | 150.1 | 198K | |
| 11.8 GB | 動く | 53 | 143K | |
| 12.3 GB | 動く | 160.1 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 118 | 128K | |
| 5.7 GB | 動く | 105 | 256K | |
| 7.1 GB | 動く | 86.1 | 256K | |
| 16.9 GB | 動く | 117.5 | 256K | |
| 16.8 GB | 動く | 39.7 | 117K | |
| 16.5 GB | 動く | 40.4 | 122K | |
| 18.3 GB | 動く | 132.4 | 115K | |
| 18.3 GB | 動く | 35.8 | 66K | |
| 22.1 GB | 動く | 135.4 | 123K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 動く | 77.3 | 128K | |
| 9.5 GB | 動く | 67.5 | 256K | |
| 12.7 GB | 動く | 51.5 | 256K | |
| 26.9 GB | RAM オフロードが必要 | 26.3 | 256K | |
| 28.6 GB | 入らない | — | — | |
| 29 GB | 入らない | — | — | |
| 31.8 GB | RAM オフロードが必要 | 22.8 | 198K | |
| 32.6 GB | 入らない | — | — | |
| 36.9 GB | RAM オフロードが必要 | 34.7 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
GeForce RTX 3090 を複数枚使うと動かせるモデルは?
3090 2 枚(48GB)は 48B 級 MoE 向き、4 枚(96GB)で 4-bit の Llama 3.3 70B と gpt-oss 120B が動きます。NVLink ブリッジ対応で、vLLM の 2 枚構成ははっきり速めです。
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 枚 | ¥1,627,688 | 96 GB | 111.1 | 1,400 W | |
| 96.8 GB | 8 枚 | ¥3,255,376 | 192 GB | 90.9 | 2,800 W | |
| 107.2 GB | 8 枚 | ¥3,255,376 | 192 GB | 44.1 | 2,800 W | |
| 108.7 GB | 8 枚 | ¥3,255,376 | 192 GB | 74.2 | 2,800 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 111.3 GB | 8 枚 | ¥3,255,376 | 192 GB | 94.9 | 2,800 W | |
| 155.1 GB | 8 枚 | ¥3,255,376 | 192 GB | 67.9 | 2,800 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 枚 | ¥3,255,376 | 192 GB | 66 | 2,800 W |
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- Qwen3.8 27B や Gemma 4 31B のような 27B〜31B の Dense モデルを 1 枚で動かしたい
4-bit で収まり、約 36〜40 tokens/s です
- Qwen3.6 35B A3B や GLM 4.7 Flash のような MoE を動かしたい
1 トークンあたり 3B のパラメータしか使わないので、1 枚で 130 tokens/s 以上出ます
- ソフトウェアで苦労したくない
CUDA エコシステムが最も充実していて、vLLM も ExLlamaV2 もそのまま使えます
- 後からもう 1 枚追加するつもり
30 シリーズで NVLink ブリッジによる 2 枚構成ができるのは 3090 と 3090 Ti だけです
向かない
- 70B クラスの Dense モデルを 1 枚で動かしたい
24GB では 4-bit でも収まらず、最低 2 枚必要です
- 長時間フルロードで使い、電気代や騒音が気になる
カード全体で 350W、裏面の VRAM は夏場かなり熱くなります
- FP8 が必要
この世代のチップは FP8 演算に対応しておらず、FP8 モデルを使っても速くなりません
購入前のチェックポイント
まず裏面の VRAM 温度を確認
3090 は VRAM チップの半分(24 個中 12 個)が基板の裏面に実装され、バックプレートだけで冷やしています。マイニングでは、これらのチップが年中 100°C〜110°C で動いていました。検品時は 10 分間フルロードで動かし、HWiNFO で Memory Junction Temperature を確認しましょう。100°C 以下で安定していれば比較的安心です。110°C に迫るようならサーマルパッドが劣化しているサインで、新しいものに交換すれば通常 10°C〜20°C 下がります。
電源ユニットには十分な余裕を
3090 はフルロード時に瞬間的な消費電力のスパイクがあり、電源ユニットの余裕が足りなかったり劣化していたりすると、保護回路が働いて電源が落ち、再起動してしまいます。NVIDIA の公式推奨は PC 全体で 750W ですが、このカード 1 枚だけでも 850W をおすすめします。リファレンスモデルは 12-pin コネクタで変換ケーブルが付属し、ほかのモデルは 8-pin 2〜3 つが一般的です。
ケースに収まるか
リファレンスモデルは長さ 313 mm、厚さ 3 スロットで、ほかのモデルには 320 mm を超えるものも少なくありません。2 枚構成にするなら、マザーボードの 2 本のグラフィックスカード用スロットの間が少なくとも 3 スロット分空いているか先に確認しましょう。そうでないと、上側のカードに熱がこもってしまいます。
ソフトウェア
ソフトウェアの心配はほぼ不要で、llama.cpp、Ollama、vLLM、ExLlamaV2 のどれもそのまま使えます。唯一注意したいのは FP8 に対応していないことです。モデルをダウンロードするときは GGUF の 4-bit や 5-bit、あるいは AWQ や GPTQ のような 4-bit 形式を選び、FP8 版は避けましょう。
同クラスの GPU との比較
GeForce RTX 3090 と GeForce RTX 4090、Radeon RX 7900 XTX、GeForce RTX 5070 Ti の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | Radeon RX 7900 XTX | |||
|---|---|---|---|---|
| メモリ | 24 GB | 24 GB同じ | 24 GB同じ | 16 GB33% 少ない |
| 帯域幅 | 936 GB/s | 1,008 GB/s8% 高い | 960 GB/s同じ | 896 GB/s4% 低い |
| BF16 / FP16 演算性能 | 142 TFLOPS | 330 TFLOPS132% 高い | 123 TFLOPS14% 低い | 176 TFLOPS23% 高い |
| INT8 演算性能 | 285 TOPS | 661 TOPS132% 高い | 123 TOPS57% 低い | 352 TOPS23% 高い |
| Qwen3.8 27B の速度(2-bit) | 64.8 t/s | 69.3 t/s7% 速い | 66.3 t/s同じ | 62.3 t/s4% 遅い |
| 最大で動かせる密モデル(4-bit) | 37B | 37B同じ | 37B同じ | 23B38% 少ない |
| 消費電力 | 350 W | 450 W29% 高い | 355 W同じ | 300 W14% 低い |
| GPU 間接続 | NVLink 112.5 GB/s | 非対応 | — | 非対応 |
| インターフェース | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 発売 | 2020-09 | 2022-10 | 2022-12 | 2025-02 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 3090 のレンタル料金
GeForce RTX 3090 のレンタルは 1 時間 ¥34.8 から(RunPod)、1 日 8 時間なら月約 ¥8,470 です。カード購入費(Amazon.jp 中央値 ¥406,922)は 1 日 4・8・24 時間の利用で、約 11.6 年・5.8 年・1.9 年で回収できます。
| 方法 | 価格 | 1 日 4 時間 | 1 日 8 時間 | 1 日 24 時間 | 見る |
|---|---|---|---|---|---|
| ¥34.8/時間 | ¥4,235/月 | ¥8,470/月 | ¥25,411/月 | 借りる | |
| ¥56/時間 | ¥6,759/月 | ¥13,518/月 | ¥40,555/月 | 借りる | |
| ¥406,922 | 約 11.6 年で回収電気代 ¥1,320/月 | 約 5.8 年で回収電気代 ¥2,640/月 | 約 1.9 年で回収電気代 ¥7,921/月 | 買う |
回収期間は電気代 1kWh ¥31(電力料金目安単価)と定格 350 W で試算。売却額やほかのパーツ代は含みません。
レンタルのリンクは紹介リンクです。リンク経由で登録すると、当サイトが手数料またはクレジットを受け取ることがあります。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。