GeForce RTX 4070 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX 4070 は NVIDIA が 2023 年に出した 12GB のミドルレンジカードで、4-bit の Gemma 4 12B が約 49 tokens/s で動きます。2024 年 8 月以降の出荷分には GDDR6 メモリに替わったものがあり、生成がやや遅くなります。
Amazon.jp
GeForce RTX 4070 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4070 の詳細スペック
- メモリ12 GB · GDDR6X
- 帯域幅504 GB/s
- FP16 / BF16116.8 TFLOPS
- FP8 / INT8233.6 / 233.6 TOPS
- バス幅
- 192-bit
- アーキテクチャ
- Ada Lovelace (AD104)
- コア
- 5,888
- Tensor コア
- 184
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x16
- NVLink
- 非対応
- 消費電力
- 200 W
- 補助電源
- 公版 16-pin 12VHPWR(附转接线);多数非公版 1× 8-pin
- スロット
- 2
- 長さ
- 244 mm
- 種別
- コンシューマ
- 発売日
- 2023年4月13日
- 希望小売価格
- ¥95,720
GeForce RTX 4070 1 枚で動かせるモデルは?
RTX 4070 1 枚で動かすなら 4-bit の 9B〜12B モデルが最適で、Gemma 4 12B は約 49 tokens/s です。それより上では 2-bit の Gemma 4 26B A4B までは VRAM に収まりますが、Dense モデルは 2-bit の Qwen3.8 27B しか残らず、コンテキストもかなり窮屈です。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 87.5 | 128K | |
| 4.1 GB | 動く | 81 | 229K | |
| 4.7 GB | 動く | 70.6 | 256K | |
| 10.5 GB | 動く | 107.8 | 52K | |
| 11.8 GB | 入らない | — | — | |
| 9.8 GB | 動く | 36.4 | 29K | |
| 11.9 GB | RAM オフロードが必要 | 49.1 | 185K | |
| 11.8 GB | 入らない | — | — | |
| 12.3 GB | RAM オフロードが必要 | 73 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 68.8 | 128K | |
| 5.7 GB | 動く | 60.6 | 182K | |
| 7.1 GB | 動く | 49.1 | 256K | |
| 16.9 GB | RAM オフロードが必要 | 35.9 | 256K | |
| 16.8 GB | 入らない | — | — | |
| 16.5 GB | 入らない | — | — | |
| 18.3 GB | RAM オフロードが必要 | 35.1 | 180K | |
| 18.3 GB | 入らない | — | — | |
| 22.1 GB | RAM オフロードが必要 | 48.3 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 動く | 43.8 | 128K | |
| 9.5 GB | 動く | 38 | 68K | |
| 12.7 GB | 入らない | — | — | |
| 26.9 GB | RAM オフロードが必要 | 24.2 | 256K | |
| 28.6 GB | 入らない | — | — | |
| 29 GB | 入らない | — | — | |
| 31.8 GB | RAM オフロードが必要 | 21.9 | 170K | |
| 32.6 GB | 入らない | — | — | |
| 36.9 GB | RAM オフロードが必要 | 32 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 9B〜12B のモデルを動かしたい
4-bit の Qwen3.5 9B で約 61 tokens/s、コンテキストを 180K 以上に伸ばせます
- 26B 級 MoE を 2-bit で動かしたい
Gemma 4 26B A4B は 10.5 GB しか使わず、VRAM だけで約 108 tokens/s、コンテキストは 52K です
- 古い PC のカードを載せ替えたい
カード全体で 200W、NVIDIA の推奨はシステム全体で 650W で、8-pin 1 本で給電できるオリジナルモデルも多くあります
向かない
- 12B を 8-bit で動かしたい
Gemma 4 12B の 8-bit は重みだけで 12.7 GB あり、コンテキストと実行時のオーバーヘッドを足すと 12GB の VRAM には収まりません
- 27B 級の Dense モデルを動かしたい
4-bit は最小でも 16.5 GB。載るのは 2-bit の Qwen3.8 27B だけで、コンテキストは 29K、約 36 tokens/s です
- 30B 級 MoE を VRAM だけで動かしたい
Qwen3.6 35B A3B は 2-bit でも 12.3 GB あり、コンテキストを加えると 12GB の VRAM には収まらないため、エキスパートをメインメモリに置く必要があります。その場合は約 73 tokens/s です
購入前のチェックポイント
GDDR6 版は生成が 5% ほど遅い
NVIDIA は 2024 年 8 月から GDDR6 メモリを使った 4070 を追加しました。ほかの仕様は同じですが、帯域幅は 504 から 480 GB/s に下がっています。ゲームでは 1% ほどの差しかないものの、モデルの生成速度は帯域幅に連動するため 5% ほど遅くなります。メモリの種類はパッケージと GPU-Z で確認できます。
4 種類の 4070 を見間違えない
4070、4070 SUPER、4070 Ti はどれも 12GB・192-bit で、載るモデルは同じです。16GB なのは 4070 Ti SUPER だけです。フリマや中古の出品で「4070S」とあれば SUPER のことで、このカードではありません。注文前に売り手に GPU-Z のスクリーンショットを送ってもらい、CUDA コア数が 5888 であることを確認しましょう。
ノート PC の 4070 は 8GB しかない
ノート PC 向けの RTX 4070 Laptop は VRAM が 8GB、メモリバス幅が 128-bit しかなく、モデルを動かす力は大きく劣ります。「4070 搭載ノート」を見かけても、このページのデータで見積もらないでください。
Founders Edition は 2 スロットで小型ケースにも収まる
NVIDIA は Founders Edition を出しており、2 スロットで長さ 244 mm です。電源コネクタは 16-pin で、箱には変換ケーブルが付属します。オリジナルモデルには 8-pin 1 本で給電するものも多くあります。サイズは各モデルの仕様で確認してください。
同クラスの GPU との比較
GeForce RTX 4070 と GeForce RTX 5070、GeForce RTX 3060 12GB、GeForce RTX 4060 Ti 16GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 12 GB | 12 GB同じ | 12 GB同じ | 16 GB33% 多い |
| 帯域幅 | 504 GB/s | 672 GB/s33% 高い | 360 GB/s29% 低い | 288 GB/s43% 低い |
| BF16 / FP16 演算性能 | 117 TFLOPS | 124 TFLOPS6% 高い | 51 TFLOPS56% 低い | 88 TFLOPS24% 低い |
| INT8 演算性能 | 234 TOPS | 247 TOPS6% 高い | 102 TOPS56% 低い | 177 TOPS24% 低い |
| Qwen3.8 27B の速度(2-bit) | 36.4 t/s | 47.8 t/s31% 速い | 26.4 t/s27% 遅い | 21.3 t/s41% 遅い |
| 最大で動かせる密モデル(4-bit) | 16B | 16B同じ | 16B同じ | 23B44% 多い |
| 消費電力 | 200 W | 250 W25% 高い | 170 W15% 低い | 165 W18% 低い |
| インターフェース | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x8 |
| 発売 | 2023-04 | 2025-03 | 2021-02 | 2023-07 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。