GeForce RTX 4080:16GB VRAMで動かせるローカルLLMは?
価格を見る
GeForce RTX 4080 は 16GB の GDDR6X メモリと 717 GB/s の帯域幅を備えます。中古価格のデータはまだありません。Q4 量子化では最大 14B パラメータのモデルが動き、推定 55 tokens/s です。
GeForce RTX 4080 の詳細スペック
コア9,728
Tensor コア304
アーキテクチャAda Lovelace (AD103)
メモリ16 GB · GDDR6X
バス幅256-bit
帯域幅717 GB/s
BF16 / FP8 / INT8195 / 389.9 / 389.9
エコシステムCUDA
別名RTX 4080 · 4080
eBay(米国中古)—価格データなし
種別コンシューマ
消費電力320 W
補助電源16-pin 12VHPWR
スロット—
長さ—
インターフェースPCIe 4.0 x16
発売日2022年11月16日
希望小売価格¥187,232
GeForce RTX 4080 で動かせるモデルは?
各ファミリーの主力バージョンを参照モデルとしています| モデル | Q4_K_M | Q8_0 | FP16 | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 収まる | 速度 t/s | コンテキスト | 収まる | 速度 t/s | コンテキスト | 収まる | 速度 t/s | コンテキスト | |
| DeepSeekDeepSeek R1 Qwen3 8B | ✓ | 89.1 | 32K | ✓ | 52 | 32K | ✗ | — | — |
| GemmaGemma 4 31B | ✗ | — | — | ✗ | — | — | ✗ | — | — |
| GLMGLM 4.7 Flash | オフロード | 37.4 | — | オフロード | 21.8 | — | オフロード | 12.1 | — |
| gpt-ossgpt-oss 20B | ✓ | 118.2 | 32K | オフロード | 16.6 | — | オフロード | 9.1 | — |
| KimiKimi Linear 48B A3B | オフロード | 43.3 | — | オフロード | 25.4 | — | オフロード | 14.1 | — |
| LlamaLlama 3.1 8B | ✓ | 91.6 | 32K | ✓ | 53.3 | 32K | ✗ | — | — |
| MistralMistral 7B v0.3 | ✓ | 99.7 | 32K | ✓ | 58.4 | 32K | ✗ | — | — |
| QwenQwen3 8B | ✓ | 89.1 | 32K | ✓ | 52 | 32K | ✗ | — | — |
判定基準:重み + KV キャッシュ + 実行時オーバーヘッド ≤ 利用可能メモリ、1 枚構成。MoE モデルの「オフロード」はエキスパート重みをシステム RAM に置けば動作することを示し(VRAM にはアテンション層と KV キャッシュのみ)、その速度は RAM 帯域幅 70 GB/s を前提に推定。コンテキスト列は収まる最大段階です。
GeForce RTX 4080 の中古価格推移
推移グラフを描くにはデータが足りません。価格の追跡を始めたばかりです。
プラットフォーム別価格
メルカリ中古
出品なし
Amazon.co.jp新品
出品なし
楽天市場新品
出品なし
Yahoo!ショッピング新品
出品なし
購入リンクにはアフィリエイトタグが含まれる場合がありますが、支払額は変わりません。
よくある質問
GeForce RTX 4080 の VRAM 容量は?
GeForce RTX 4080 は 16GB の GDDR6X メモリを搭載し、帯域幅は 717 GB/s です。
GeForce RTX 4080 で 70B モデルは動きますか?
1 枚では動きません。Q4_K_M・8K コンテキストで 70B 密モデルには約 43GB が必要で、GeForce RTX 4080 の 16GB を超えます。
GeForce RTX 4080 の中古価格は?
中古価格のデータはまだありません。取得が始まり次第ここに表示します。