GeForce RTX 4060 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX 4060 は NVIDIA の 2023 年の 8GB エントリーカードで、4-bit なら 9B までのモデル向き、12B は 2-bit に落とす必要があります。カード全体で 115W しかなく、NVIDIA の推奨はシステム全体で 550W の電源ユニットです。
Amazon.jp
GeForce RTX 4060 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 4060 の詳細スペック
- メモリ8 GB · GDDR6
- 帯域幅272 GB/s
- FP16 / BF1660.5 TFLOPS
- FP8 / INT8121 / 121 TOPS
- バス幅
- 128-bit
- アーキテクチャ
- Ada Lovelace (AD107)
- コア
- 3,072
- Tensor コア
- 96
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x8
- NVLink
- 非対応
- 消費電力
- 115 W
- 補助電源
- 1× 8-pin
- 種別
- コンシューマ
- 発売日
- 2023年6月29日
- 希望小売価格
- ¥47,780
GeForce RTX 4060 1 枚で動かせるモデルは?
RTX 4060 1 枚には 9B までの 4-bit が最適で、Qwen3.5 9B は約 34 tokens/s、コンテキストは 54K です。2-bit の 30B 級 MoE はエキスパートをメインメモリに置くと、VRAM だけで動かす 9B よりむしろ速くなりますが、メインメモリに収まることが前提です。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 50 | 128K | |
| 4.1 GB | 動く | 46.1 | 101K | |
| 4.7 GB | 動く | 39.9 | 147K | |
| 10.5 GB | RAM オフロードが必要 | 45.7 | 250K | |
| 11.9 GB | RAM オフロードが必要 | 45.7 | 107K | |
| 12.3 GB | RAM オフロードが必要 | 65.2 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 38.8 | 128K | |
| 5.7 GB | 動く | 34 | 54K | |
| 7.1 GB | 入らない | — | — | |
| 16.9 GB | RAM オフロードが必要 | 31.4 | 221K | |
| 18.3 GB | RAM オフロードが必要 | 32.7 | 102K | |
| 22.1 GB | RAM オフロードが必要 | 42.5 | 250K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 入らない | — | — | |
| 9.5 GB | 入らない | — | — | |
| 12.7 GB | 入らない | — | — | |
| 26.9 GB | RAM オフロードが必要 | 21.1 | 176K | |
| 31.8 GB | RAM オフロードが必要 | 20.4 | 93K | |
| 36.9 GB | RAM オフロードが必要 | 27.9 | 212K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 小さなモデルを日常的に使う
Gemma 4 E4B の 4-bit は 5 GB しか使わず、コンテキストを上限の 128K まで使えます
- 30B 級 MoE を試したい
2-bit の Qwen3.6 35B A3B はエキスパートをメインメモリに置いて約 65 tokens/s で、速度は主にメインメモリで決まります
- 事務用 PC や小型 PC にカードを足したい
消費電力が低く、給電は 8-pin 1 本で足ります
向かない
- 生成速度を重視する
VRAM の帯域幅は 272 GB/s しかなく、同じモデルでも生成ははっきり遅めです
- 12B 以上を動かしたい
Gemma 4 12B の 4-bit は 7.1 GB あり、コンテキストを足すと 8GB の VRAM には収まりません。27B 級の Dense モデルはまったく載りません
購入前のチェックポイント
帯域幅は 3060 12GB より低い
モデルを動かすとき、生成速度はほぼ VRAM の帯域幅だけで決まります。4060 はメモリバス幅が 128-bit に削られ、帯域幅は 272 GB/s と前世代の RTX 3060 12GB の 360 GB/s より低く、VRAM も 4GB 少なくなっています。強みは消費電力と発熱の少なさです。
4060 と 4060 Ti を見間違えない
名前に Ti が付く 4060 Ti には 8GB 版と 16GB 版があり、コアが多く、帯域幅は 288 GB/s です。倍の VRAM が欲しいなら RTX 4060 Ti 16GB を見てください。出品に「4060」としか書かれていなければ、売り手に GPU-Z のスクリーンショットを送ってもらい、コア数が 3072 であることを確認しましょう。
ノート PC の 4060 は別に考える
ノート PC 向けの RTX 4060 Laptop はコア数がデスクトップ版と同じ 3072 で、VRAM も 8GB ですが、消費電力はノート PC メーカーが決めるため、モデルを動かす速度はこのページのデータでは見積もれません。
同クラスの GPU との比較
GeForce RTX 4060 と GeForce RTX 5060、GeForce RTX 3060 12GB、GeForce RTX 4060 Ti 16GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 8 GB | 8 GB同じ | 12 GB50% 多い | 16 GB100% 多い |
| 帯域幅 | 272 GB/s | 448 GB/s65% 高い | 360 GB/s32% 高い | 288 GB/s6% 高い |
| BF16 / FP16 演算性能 | 61 TFLOPS | 77 TFLOPS27% 高い | 51 TFLOPS16% 低い | 88 TFLOPS46% 高い |
| INT8 演算性能 | 121 TOPS | 154 TOPS27% 高い | 102 TOPS16% 低い | 177 TOPS46% 高い |
| Qwen3.8 27B の速度(2-bit) | 非対応 | 非対応 | 26.4 t/s | 21.3 t/s |
| 最大で動かせる密モデル(4-bit) | 10B | 10B同じ | 16B60% 多い | 23B130% 多い |
| 消費電力 | 115 W | 145 W26% 高い | 170 W48% 高い | 165 W43% 高い |
| インターフェース | PCIe 4.0 x8 | PCIe 5.0 x8 | PCIe 4.0 x16 | PCIe 4.0 x8 |
| 発売 | 2023-06 | 2025-05 | 2021-02 | 2023-07 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。