GeForce RTX 4080 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX 4080 は NVIDIA の 2022 年の 16GB ハイエンドゲーミングカードで、12B 級なら 8-bit でも約 40 tokens/s で動きます。12VHPWR コネクタは溶損事故があり、奥まで確実に挿してください。
Amazon.jp
GeForce RTX 4080 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4080 の詳細スペック
- メモリ16 GB · GDDR6X
- 帯域幅717 GB/s
- FP16 / BF16195 TFLOPS
- FP8 / INT8389.9 / 389.9 TOPS
- バス幅
- 256-bit
- アーキテクチャ
- Ada Lovelace (AD103)
- コア
- 9,728
- Tensor コア
- 304
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x16
- NVLink
- 非対応
- 消費電力
- 320 W
- 補助電源
- 16-pin 12VHPWR
- 種別
- コンシューマ
- 発売日
- 2022年11月16日
- 希望小売価格
- ¥189,711
GeForce RTX 4080 1 枚で動かせるモデルは?
RTX 4080 1 枚では 12B までを 4-bit で 70〜90 tokens/s 台で動かせます。27B 以上は 2-bit が必要で、なかでも約 149 tokens/s の Qwen3.6 35B A3B が狙い目です。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 118.3 | 128K | |
| 4.1 GB | 動く | 109.9 | 256K | |
| 4.7 GB | 動く | 96.4 | 256K | |
| 10.5 GB | 動く | 126.3 | 256K | |
| 11.8 GB | 動く | 42.8 | 64K | |
| 9.8 GB | 動く | 50.7 | 93K | |
| 11.9 GB | 動く | 137.7 | 75K | |
| 11.8 GB | 動く | 41.3 | 41K | |
| 12.3 GB | 動く | 148.9 | 181K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 94 | 128K | |
| 5.7 GB | 動く | 83.2 | 256K | |
| 7.1 GB | 動く | 67.8 | 256K | |
| 16.9 GB | RAM オフロードが必要 | 37.7 | 256K | |
| 16.8 GB | 入らない | — | — | |
| 16.5 GB | 入らない | — | — | |
| 18.3 GB | RAM オフロードが必要 | 36 | 198K | |
| 18.3 GB | 入らない | — | — | |
| 22.1 GB | RAM オフロードが必要 | 50.7 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 動く | 60.7 | 128K | |
| 9.5 GB | 動く | 52.8 | 196K | |
| 12.7 GB | 動く | 40.1 | 183K | |
| 26.9 GB | RAM オフロードが必要 | 25.5 | 256K | |
| 28.6 GB | 入らない | — | — | |
| 29 GB | 入らない | — | — | |
| 31.8 GB | RAM オフロードが必要 | 22.5 | 198K | |
| 32.6 GB | 入らない | — | — | |
| 36.9 GB | RAM オフロードが必要 | 33.7 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 12B モデルを 8-bit で使いたい
Gemma 4 12B の 8-bit(12.7 GB)で約 40 tokens/s、4-bit なら約 68 tokens/s です
- 長いプロンプトの処理は 5070 Ti よりわずかに速い
BF16 の演算性能が 1 割上回り、帯域幅の低さが響くのは生成時だけです
- FP8 が欲しいが、ソフトウェアのバージョンには気を遣いたくない
この世代は FP8 に対応していて、CUDA 11.8 からサポートされています。50 シリーズのように CUDA 12.8 以上が必要になることはありません
向かない
- FP4 を使いたい
FP4 は 50 シリーズからの機能です
- ケースが小さい
リファレンスモデルは 3 スロットで長さ 304 mm、5080 のリファレンスモデルより 1 スロット厚くなっています
- 消費電力が気になる
320W と、より速い 5070 Ti より 20W 多くなっています
購入前のチェックポイント
4080 か 4080 SUPER か
2024 年 1 月に出た 4080 SUPER はコアが 5% 多く、VRAM は同じ 16GB で帯域幅はわずかに高いものの、モデルを動かした場合の差は数 % です。出品では両者が混同されがちですが、型番を確認すれば十分で、収まるモデルに違いはありません。
12VHPWR コネクタ
4080 と 4090 はどちらも第 1 世代の 16-pin 12VHPWR を使っています。4090 ではプラグが溶ける事故があり、NVIDIA の調査では主な原因はプラグが奥まで挿さっていなかったこととされています。そのため、まず変換ケーブルをグラフィックスカードに挿して奥まで入っていることを確認してから、電源ケーブルをつなぎましょう。挿し方と検品のポイントは RTX 4090 のページで解説しています。
リファレンスモデルのサイズと電源
リファレンスモデルは 3 スロット、長さ 304 mm で、4090 のリファレンスモデルと同じ大きさです。NVIDIA は PC 全体で 750W の電源ユニットを推奨しています。後から 2 枚目を追加したくなっても、一般的なマザーボードで 3 スロットのカードを 2 枚並べるのは困難です。
同クラスの GPU との比較
GeForce RTX 4080 と GeForce RTX 5070 Ti、GeForce RTX 3090、GeForce RTX 4080 SUPER 32GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 16 GB | 16 GB同じ | 24 GB50% 多い | 32 GB100% 多い |
| 帯域幅 | 717 GB/s | 896 GB/s25% 高い | 936 GB/s31% 高い | 736 GB/s同じ |
| BF16 / FP16 演算性能 | 195 TFLOPS | 176 TFLOPS10% 低い | 142 TFLOPS27% 低い | 209 TFLOPS7% 高い |
| INT8 演算性能 | 390 TOPS | 352 TOPS10% 低い | 285 TOPS27% 低い | 418 TOPS7% 高い |
| Qwen3.8 27B の速度(2-bit) | 50.7 t/s | 62.3 t/s23% 速い | 64.8 t/s28% 速い | 52 t/s同じ |
| 最大で動かせる密モデル(4-bit) | 23B | 23B同じ | 37B61% 多い | 51B122% 多い |
| 消費電力 | 320 W | 300 W6% 低い | 350 W9% 高い | 320 W同じ |
| GPU 間接続 | 非対応 | 非対応 | NVLink 112.5 GB/s | 非対応 |
| インターフェース | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 |
| 発売 | 2022-11 | 2025-02 | 2020-09 | 2024-01 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4080 のレンタル料金
GeForce RTX 4080 のレンタルは 1 時間 ¥42.7 から(RunPod)、1 日 8 時間なら月約 ¥10,395 です。カード購入費(Amazon.jp 中央値 ¥317,044)は 1 日 4・8・24 時間の利用で、約 6.6 年・3.3 年・1.1 年で回収できます。
| 方法 | 価格 | 1 日 4 時間 | 1 日 8 時間 | 1 日 24 時間 | 見る |
|---|---|---|---|---|---|
| ¥42.7/時間 | ¥5,198/月 | ¥10,395/月 | ¥31,186/月 | 借りる | |
| ¥68/時間 | ¥8,299/月 | ¥16,598/月 | ¥49,795/月 | 借りる | |
| ¥317,044 | 約 6.6 年で回収電気代 ¥1,207/月 | 約 3.3 年で回収電気代 ¥2,414/月 | 約 1.1 年で回収電気代 ¥7,242/月 | 買う |
回収期間は電気代 1kWh ¥31(電力料金目安単価)と定格 320 W で試算。売却額やほかのパーツ代は含みません。
レンタルのリンクは紹介リンクです。リンク経由で登録すると、当サイトが手数料またはクレジットを受け取ることがあります。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。