ローカル LLM 向け GPU ランキング

Amazon.jp

モデル								エコシステム
H100 PCIe	この市場では価格なし	—	80	2,000	756	1,513	350	CUDA
RTX PRO 6000	この市場では価格なし	—	96	1,792	500	1,000	600	CUDA
GeForce RTX 5090	¥1,472,4014 件の出品	+20.4%	32	1,792	419	838	575	CUDA
RTX PRO 6000D	この市場では価格なし	—	84	1,398	385.2	770.5	600	CUDA
L40S	この市場では価格なし	—	48	864	362.1	733	350	CUDA
RTX 6000 Ada	この市場では価格なし	—	48	960	364.3	728.5	300	CUDA
GeForce RTX 4090	¥788,0548 件の出品	+4.6%	24	1,008	330.3	660.6	450	CUDA
GeForce RTX 4090 48GB	この市場では価格なし	—	48	1,008	330.3	660.6	450	CUDA
A100 40GB PCIe	この市場では価格なし	—	40	1,555	312	624	250	CUDA
A100 80GB PCIe	この市場では価格なし	—	80	1,935	312	624	300	CUDA
GeForce RTX 5090 D	この市場では価格なし	—	32	1,792	296.9	593.8	575	CUDA
GeForce RTX 5090 D V2	この市場では価格なし	—	24	1,344	296.9	593.8	575	CUDA
GeForce RTX 4090D 48GB	この市場では価格なし	—	48	1,008	294.3	588.5	425	CUDA
RTX PRO 5000 48GB	この市場では価格なし	—	48	1,344	258	516	300	CUDA
RTX PRO 5000 72GB	この市場では価格なし	—	72	1,344	258	516	300	CUDA
GeForce RTX 5080	¥313,50516 件の出品	+0.4%	16	960	225.1	450.2	360	CUDA
GeForce RTX 4080 SUPER 32GB	この市場では価格なし	—	32	736	208.9	417.8	320	CUDA
RTX PRO 4500	この市場では価格なし	—	32	896	202.1	404.3	200	CUDA
CMP 170HX 40GB	この市場では価格なし	—	40	1,560	202	404	250	CUDA
CMP 170HX 64GB	この市場では価格なし	—	64	1,493	202	404	250	CUDA
GeForce RTX 4080	¥373,83413 件の出品	+2.4%	16	717	195	389.9	320	CUDA
Radeon RX 9070 XT	¥140,80014 件の出品	+0.4%	16	640	195	389	304	ROCm
Radeon AI PRO R9700	¥358,8007 件の出品	0.0%	32	640	191	383	300	ROCm
Arc Pro B70	¥344,3013 件の出品	0.0%	32	608	183.5	367	230	oneAPI
GeForce RTX 5070 Ti	¥229,22513 件の出品	-0.1%	16	896	175.8	351.5	300	CUDA
RTX PRO 4000	¥674,8715 件の出品	+43.7%	24	672	161.3	322.5	145	CUDA
RTX A6000	¥1,380,8484 件の出品	-7.9%	48	768	154.9	309.7	300	CUDA
GeForce RTX 3090	¥392,7639 件の出品	-9.2%	24	936	142.3	284.7	350	CUDA
DGX Spark 128GB	この市場では価格なし	—	128	273	125	250	240	CUDA
GeForce RTX 5070	¥164,43613 件の出品	+1.1%	12	672	123.5	247	250	CUDA
GeForce RTX 2080 Ti 22GB	この市場では価格なし	—	22	616	107.6	215.2	250	CUDA
Arc Pro B60	¥175,2217 件の出品	-0.9%	24	456	98.5	197	200	oneAPI
Arc Pro B65	この市場では価格なし	—	32	608	98.5	197	200	oneAPI
GeForce RTX 5060 Ti 16GB	¥145,25214 件の出品	-2.9%	16	448	94.9	189.8	180	CUDA
Instinct MI210	この市場では価格なし	—	64	1,638	181	181	300	ROCm
GeForce RTX 4060 Ti 16GB	¥208,8003 件の出品	-16.4%	16	288	88.3	176.5	165	CUDA
Tesla T10	この市場では価格なし	—	16	403	80	160	150	CUDA
Radeon PRO W7900	この市場では価格なし	—	48	864	123	123	295	ROCm
Radeon RX 7900 XTX	¥350,6789 件の出品	0.0%	24	960	123	123	355	ROCm
Radeon RX 7900 XT	¥219,11213 件の出品	+14.7%	20	800	103	103	315	ROCm
GeForce RTX 3060 12GB	¥68,8007 件の出品	-15.7%	12	360	51	101.9	170	CUDA
Radeon RX 6950 XT	¥247,9574 件の出品	0.0%	16	576	47.3	94.6	335	ROCm
Instinct MI100	この市場では価格なし	—	32	1,229	92.3	92.3	300	ROCm
Radeon PRO W7800	この市場では価格なし	—	32	576	90.4	90.4	260	ROCm
Radeon RX 7800 XT	¥174,13011 件の出品	+2.2%	16	624	74.7	74.7	263	ROCm
Ryzen AI Max+ 395 128GB	¥656,4699 件の出品	+1.6%	128	256	59.4	59.4	120	ROCm
Tesla V100 16GB	¥111,3713 件の出品	0.0%	16	900	112	56.1	250	CUDA
Tesla V100 32GB	この市場では価格なし	—	32	900	112	56.1	250	CUDA
Instinct MI50 32GB	この市場では価格なし	—	32	1,024	26.5	53	300	ROCm
Tesla P40	この市場では価格なし	—	24	347	—	47	250	CUDA
Mac Studio M3 Ultra 512GB	この市場では価格なし	—	512	819	—	—	480	Metal
Mac Studio M4 Max 128GB	この市場では価格なし	—	128	546	—	—	480	Metal
Mac Studio M5 Max 128GB	この市場では価格なし	—	128	614	—	—	—	Metal
MacBook Pro M4 Max 128GB	この市場では価格なし	—	128	546	—	—	140	Metal
MacBook Pro M5 Max 128GB	この市場では価格なし	—	128	614	—	—	140	Metal
RTX PRO 5500	この市場では価格なし	—	84	1,398	—	—	600	CUDA

DDR4 メモリ価格

Amazon.jp

規格	1 枚単価	GB 単価	最大チャネル数	最大帯域幅	最大メモリ容量
16 GB3200 MT/sデスクトップ	¥19,83514 件の出品	¥1,240	2	51.2 GB/s	64 GB4 枚 × 16 GB
32 GB3200 MT/sデスクトップ	¥45,4854 件の出品	¥1,421	2	51.2 GB/s	128 GB4 枚 × 32 GB
16 GB2666 MT/sサーバー	¥33,5927 件の出品	¥2,099	8	170.6 GB/s	128 GB8 枚 × 16 GB
32 GB2666 MT/sサーバー	¥58,54712 件の出品	¥1,830	8	170.6 GB/s	256 GB8 枚 × 32 GB

DDR5 メモリ価格

Amazon.jp

規格	1 枚単価	GB 単価	最大チャネル数	最大帯域幅	最大メモリ容量
16 GB6000 MT/sデスクトップ	¥37,99515 件の出品	¥2,375	2	96 GB/s	64 GB4 枚 × 16 GB
32 GB6000 MT/sデスクトップ	¥77,6644 件の出品	¥2,427	2	96 GB/s	128 GB4 枚 × 32 GB
32 GB5600 MT/sサーバー	¥323,61816 件の出品	¥10,113	12	537.6 GB/s	384 GB12 枚 × 32 GB
64 GB5600 MT/sサーバー	¥584,5556 件の出品	¥9,134	12	537.6 GB/s	768 GB12 枚 × 64 GB

ローカルLLMはモデル選びから始める

ローカルLLMに適したGPUを見つけましょう。VRAM容量、GPU価格、モデルの必要メモリを比較して、使いたいモデルと予算に合うハードウェアを選べます。

VRAMとは？どのくらい必要？

VRAMはグラフィックカードに搭載された高速メモリです。推論にはモデルの重みだけでなく、コンテキストのKVキャッシュと実行用バッファも必要です。量子化で重みを小さくできますが、長いコンテキストや同時利用者の増加で必要量は増えます。VRAMに収まることは、特定の生成速度を保証しません。

ローカル環境を計画する

モデル、量子化、コンテキスト長を決め、VRAMとシステムRAMの両方を確認します。CPUやエキスパートへのオフロードはVRAMの必要量を減らせますが、RAM帯域に依存し、速度が大きく落ちる場合があります。購入前にCUDA、ROCm、Metalの対応と電源・冷却も確認してください。

ローカルLLMとGPU選びのガイド

ローカル LLM 向け GPU ランキング

DDR4 メモリ価格

DDR5 メモリ価格

ローカルLLMはモデル選びから始める

VRAMとは？どのくらい必要？

ローカル環境を計画する

ランキングと価格の読み方

データソース