GeForce RTX 3060 12GB の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
RTX 3060 12GB は NVIDIA の 2021 年のエントリー向けゲーミングカードで、12B までのモデルに向き、消費電力は 170W です。帯域幅が 3 分の 1 少ない 8GB 版ではないか、スクショで確認を。
Amazon.jp
GeForce RTX 3060 12GB の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
GeForce RTX 3060 12GB の詳細スペック
- メモリ12 GB · GDDR6
- 帯域幅360 GB/s
- FP16 / BF1651 TFLOPS
- INT8101.9 TOPS
- バス幅
- 192-bit
- アーキテクチャ
- Ampere (GA106)
- コア
- 3,584
- Tensor コア
- 112
- エコシステム
- CUDA
- インターフェース
- PCIe 4.0 x16
- NVLink
- 非対応
- 消費電力
- 170 W
- 種別
- コンシューマ
- 発売日
- 2021年2月25日
- 希望小売価格
- ¥52,574
GeForce RTX 3060 12GB 1 枚で動かせるモデルは?
RTX 3060 12GB 1 枚には 12B までの 4-bit が最適で、Gemma 4 12B は約 36 tokens/s です。30B 級 MoE もメインメモリを借りれば約 45 tokens/s ですが、メモリ容量が前提です。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 64.7 | 128K | |
| 4.1 GB | 動く | 59.8 | 229K | |
| 4.7 GB | 動く | 51.9 | 256K | |
| 10.5 GB | 動く | 90 | 52K | |
| 11.8 GB | 入らない | — | — | |
| 9.8 GB | 動く | 26.4 | 29K | |
| 11.9 GB | RAM オフロードが必要 | 47.4 | 185K | |
| 11.8 GB | 入らない | — | — | |
| 12.3 GB | RAM オフロードが必要 | 69.1 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 50.5 | 128K | |
| 5.7 GB | 動く | 44.4 | 182K | |
| 7.1 GB | 動く | 35.8 | 256K | |
| 16.9 GB | RAM オフロードが必要 | 33.6 | 256K | |
| 16.8 GB | 入らない | — | — | |
| 16.5 GB | 入らない | — | — | |
| 18.3 GB | RAM オフロードが必要 | 33.9 | 180K | |
| 18.3 GB | 入らない | — | — | |
| 22.1 GB | RAM オフロードが必要 | 45.4 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 動く | 31.9 | 128K | |
| 9.5 GB | 動く | 27.5 | 68K | |
| 12.7 GB | 入らない | — | — | |
| 26.9 GB | RAM オフロードが必要 | 22.7 | 256K | |
| 28.6 GB | 入らない | — | — | |
| 29 GB | 入らない | — | — | |
| 31.8 GB | RAM オフロードが必要 | 21.2 | 170K | |
| 32.6 GB | 入らない | — | — | |
| 36.9 GB | RAM オフロードが必要 | 29.9 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
GeForce RTX 3060 12GB で Strata を使うとどこまで大きなモデルが動く?
Strata はモデルの大部分をメインメモリと SSD に置き、よく使うエキスパートだけを GPU に載せるので、GeForce RTX 3060 12GB でも VRAM に到底収まらない大きなモデルが動きます。以下は Strata の作者とコミュニティがこのカードで実際に測った結果で(複数枚の構成は枚数を表示)、価格は当サイトが現在の相場で補っています。
Strata はモデルを 3 か所に分けて置く
Qwen3.8 Flash Next Q2_0 · 66.4 GB- VRAM 12 GB:毎トークン使う部分と、よく使うエキスパート
- メモリ約 40 GB:全エキスパート。GPU にないものは CPU がその場で計算
- SSD 28.8 GB:ルックアップテーブル。1 トークンごとに数行だけ読む
2.00 bpw · 257 GB実測
Qwen3.8 Flash Next
IQ3_XXS · 75.8 GB実測
Qwen3.8 Flash Next
IQ2_XS · 68 GB実測
Qwen3.8 Flash Next
IQ2_XS · 68 GB実測
Qwen3.8 Flash Next
Q2_0 · 66.4 GB実測
Qwen3.8 Flash Next
IQ3_XXS · 75.8 GB実測
Qwen3.8 Flash Next
IQ3_S · 83.6 GB実測
Qwen3.8 Flash Next
IQ3_S · 83.6 GB実測一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
向いている人・向かない人
向いている
- 12B までのモデルを動かしたい
Gemma 4 12B や Qwen3.5 9B の 4-bit なら VRAM に丸ごと収まり、約 36〜44 tokens/s、コンテキストは 180K 以上まで伸ばせます
- 30B クラスの MoE を試したい
Qwen3.6 35B A3B の 4-bit はエキスパートをメインメモリに置いて約 45 tokens/s と、VRAM だけで動かす Gemma 4 12B より速くなります
- 古い PC のグラフィックスカードを交換したい
カード全体で 170W、NVIDIA の推奨は 550W の電源ユニットで、PCIe 3.0 の古いマザーボードに挿してもフルの 16 レーンを使えます
- Strata で Qwen3.8 Flash Next を動かしたい
12GB はちょうどその最低 VRAM 要件で、64GB のメインメモリと組み合わせればすべての版が動きます(Strata は 3060 での実測をまだ公表していません)
向かない
- 生成速度を重視する
同じ Gemma 4 12B で、RTX 5060 Ti 16GB は約 44、RTX 5070 は約 64 tokens/s です
- 12B を 8-bit で動かしたい
Gemma 4 12B の 8-bit は 12.7 GB 必要で、わずかに収まりません
- 27B〜31B の Dense モデルを動かしたい
4-bit はどれも 16.5 GB 以上です。収まるのは 2-bit の Qwen3.8 27B だけで、コンテキスト 29K、約 26 tokens/s です
購入前のチェックポイント
12GB のデスクトップ版を選ぶ
RTX 3060 には 8GB 版もあり、メモリバス幅が 192-bit から 128-bit に削られて、帯域幅は 3 分の 1 少なくなっています。名前が上の RTX 3060 Ti も 8GB しかありません。出品に「3060」としか書かれていなければ、売り手に GPU-Z のスクリーンショットを送ってもらい、VRAM が 12GB でバス幅が 192-bit であることを確認しましょう。
リファレンスモデルはない
NVIDIA は 3060 のリファレンスモデルを出していないので、市場に出回っているのはすべてパートナー各社のカードです。長さ、厚さ、電源コネクタは個別のモデルごとに確認する必要があります。
古いマザーボードでもレーンは足りる
3060 は PCIe 16 レーンをフルに使うので、PCIe 3.0 の古いマザーボードでも 3.0 x16 で動きます。RTX 4060 Ti 16GB と RTX 5060 Ti 16GB は 8 レーンしか使わないので、同じマザーボードでは帯域幅が 3060 の半分しかありません。モデルを丸ごと VRAM に載せてしまえば、PCIe が影響するのは主に読み込み速度です。
MoE を動かすならまずメインメモリを確認
12GB のカードで 30B クラスの MoE を動かすには、エキスパートをメインメモリに置く必要があります。4-bit の Qwen3.6 35B A3B は合計 22.1 GB で、VRAM に収まらない部分はすべてメインメモリに置かれるため、メインメモリが足りないと起動できません。このとき生成速度もメインメモリの帯域幅で決まり、DDR5 のプラットフォームのほうが DDR4 より速くなります。
同クラスの GPU との比較
GeForce RTX 3060 12GB と GeForce RTX 5070、GeForce RTX 4060 Ti 16GB、GeForce RTX 2080 Ti 22GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 12 GB | 12 GB同じ | 16 GB33% 多い | 22 GB83% 多い |
| 帯域幅 | 360 GB/s | 672 GB/s87% 高い | 288 GB/s20% 低い | 616 GB/s71% 高い |
| BF16 / FP16 演算性能 | 51 TFLOPS | 124 TFLOPS142% 高い | 88 TFLOPS73% 高い | 108 TFLOPS111% 高い |
| INT8 演算性能 | 102 TOPS | 247 TOPS142% 高い | 177 TOPS73% 高い | 215 TOPS111% 高い |
| Qwen3.8 27B の速度(2-bit) | 26.4 t/s | 47.8 t/s81% 速い | 21.3 t/s19% 遅い | 44 t/s67% 速い |
| 最大で動かせる密モデル(4-bit) | 16B | 16B同じ | 23B44% 多い | 34B113% 多い |
| 消費電力 | 170 W | 250 W47% 高い | 165 W同じ | 250 W47% 高い |
| GPU 間接続 | 非対応 | 非対応 | 非対応 | NVLink 100 GB/s |
| インターフェース | PCIe 4.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x8 | PCIe 3.0 x16 |
| 発売 | 2021-02 | 2025-03 | 2023-07 | 2018-09 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。