「AMD GPUでローカルLLMは動くのか」という問いへの2026年の答えは、動きます。しかも2年前よりずっと扱いやすくなりました。ROCm 7.2以降、RDNA 3とRDNA 4はWindowsとLinuxでllama.cpp、Ollama、LM Studioを直接実行できます。 ただし「動く」と「買う価値がある」は別です。2026年9月5日時点でAMDの利点は一つ、同容量のNVIDIAよりVRAM単価が約3割低いことです。代わりに同じ帯域幅での速度は2〜3割低く、vLLMとファインチューニングは今も扱いにくいままです。llama.cpp系ツールだけを使い、ときどきドキュメントを調べることを受け入れられるなら、RX 7900 XTXは24GBで最安の選択肢です。それ以外の人にはNVIDIAを勧めます。
AMD GPUでローカルLLMを動かす現状:ROCmは実用的か、買うべきカードは何か(2026年)
简体中文版からの翻訳 · 原文を読む
本文とFAQの数値は2026年9月5日時点です。表には最新の公開済み価格を使用し、収集日は機種ごとに異なる場合があります。

ROCmは現在どのカードとフレームワークに対応しているか?
コンシューマーカードでは、RDNA 3(RX 7900 XTX / XT、W7800 / W7900)とRDNA 4(RX 9070 XT、R9700)が公式対応リストにあり、RX 7800 XTのようなミドルレンジRDNA 3は回避策が必要です。 2026年9月時点の対応状況です。
| GPU | ROCm公式対応 | llama.cpp / Ollama / LM Studio | vLLM | Windows |
|---|---|---|---|---|
| RX 7900 XTX / XT | はい(gfx1100) | そのまま使える | コミュニティ対応、性能は平均的 | ROCmまたはVulkan |
| Radeon PRO W7800 / W7900 | はい(gfx1100) | そのまま使える | 同上 | ROCmまたはVulkan |
| RX 9070 XT / AI PRO R9700 | はい(gfx1201、ROCm 7.2以降) | そのまま使える | コミュニティ対応 | ROCmまたはVulkan |
| RX 7800 XT | いいえ(gfx1101) | HSA_OVERRIDE_GFX_VERSION=11.0.0の設定またはVulkanが必要 |
非推奨 | Vulkan |
| Instinct MI210 / MI100 | はい(CDNA) | 使える | はい(本領域) | いいえ |
VulkanバックエンドはAMDユーザーの保険です。llama.cppのVulkanバックエンドはRDNA 3でROCmの8〜9割の速度に達しており、どのAMDカードでも使え、ROCmも不要です。
AMDカードのVRAM単価の優位性はどれほどか?
同容量ならAMDカードのVRAM単価はNVIDIAより2〜4割低く、24GB帯のRX 7900 XTXはサイト内でVRAM単価が最も低いコンシューマーカードの一つです。 現在の中古価格と単価は以下のとおりです。
| モデル | VRAM GB | 帯域幅 GB/s | INT8 TOPS | 消費電力 W | eBay | GB 単価 |
|---|---|---|---|---|---|---|
| 32 | 1,229 | 92 | 300 | ¥169,2916 件の出品 | ¥5,291 | |
| 20 | 800 | 103 | 315 | ¥109,16529 件の出品 | ¥5,458 | |
| 16 | 624 | 75 | 263 | ¥87,76929 件の出品 | ¥5,486 | |
| 24 | 960 | 123 | 355 | ¥156,17325 件の出品 | ¥6,508 | |
| 16 | 640 | 389 | 304 | ¥117,13019 件の出品 | ¥7,321 | |
| 48 | 864 | 123 | 295 | ¥545,8243 件の出品 | ¥11,371 | |
| 64 | 1,638 | 181 | 300 | ¥788,04811 件の出品 | ¥12,313 |
同容量のNVIDIAを比較対象にします。
| モデル | VRAM GB | 帯域幅 GB/s | INT8 TOPS | 消費電力 W | eBay | GB 単価 |
|---|---|---|---|---|---|---|
| 24 | 936 | 285 | 350 | ¥253,78183 件の出品 | ¥10,574 | |
| 16 | 896 | 352 | 300 | ¥179,59917 件の出品 | ¥11,226 | |
| 16 | 717 | 390 | 320 | ¥187,25137 件の出品 | ¥11,704 | |
| 32 | 896 | 404 | 200 | ¥671,5433 件の出品 | ¥20,987 |
RX 7900 XTXとRTX 3090はどちらも24GBです。前者は約3割安く、2022年末のカードであるため、中古の状態も2020年の3090より概ね良好です。これがAMDの価格面での根拠のすべてです。
AMDカードはNVIDIAよりどれほど遅いか?
帯域幅が近い場合、ROCmバックエンドの実効速度はCUDAの約7割です。さらに帯域幅自体も一段低いことが多いです。 推定デコード速度(4-bit、8Kコンテキスト):
| モデル | Qwen3 8B | gpt-oss 20B | Qwen3.8 27B | DeepSeek R1 Distill Qwen 32B |
|---|---|---|---|---|
| 86 | 115 | 28 | 24 | |
| 72 | 104 | 23 | 収まらない | |
| 58 | 91 | 収まらない | 収まらない | |
| 57 | 90 | 収まらない | 収まらない | |
| 58 | 91 | 19 | 16 | |
| 114 | 135 | 38 | 32 | |
| 109 | 132 | 収まらない | 収まらない |
4-bit、コンテキスト 8K、単一ストリームでの推定デコード速度。* 付きは MoE モデルのエキスパート重みをシステム RAM(70 GB/s と仮定)に置いて動かした場合です。
RX 7900 XTXの960 GB/sはRTX 3090より高いものの、Qwen3 8Bは推定86対114 tokens/sです。差はバックエンド効率にあります。公開実測(llama.cpp、Llama 3.1 8B Q4_K_M)でも7900 XTXは約96 tokens/sで、推定と整合します。RX 9070 XTは640 GB/sのため、16GB帯ではRTX 5070 Tiより明らかに遅くなります。
どんな落とし穴があるか?
遭遇する順に、ドライバーのバージョン、公式一覧外のカード、量子化形式、マルチGPUの四つです。
- ドライバーとROCmのバージョン:Linuxではカーネル、amdgpuドライバー、ROCmのバージョンを揃える必要があり、ディストリビューションの更新後には再インストールが頻繁に必要です。WindowsではROCm 7.2以降は単一インストーラーになり、問題は大幅に減りました。
- 一覧外のカード:RX 7800 XTと7700 XTは
HSA_OVERRIDE_GFX_VERSIONで7900を装う必要があります。多くの場合は動きますが、ときどきクラッシュします。Vulkanバックエンドのほうが安定します。 - 量子化形式:GGUFはすべて使えます。vLLMエコシステムのAWQ、GPTQ、FP8は、RDNAではカーネルがないか、非常に遅いです。GGUFだけを使えばこの問題はありません。
- マルチGPU:llama.cppのレイヤー分割はROCmで使えますが、テンソル並列とNCCL級のマルチGPU通信(RCCL)はコンシューマーカードでは問題が多いです。7900 XTXを2枚使えば70Bは実行できますが、vLLMは期待しないでください。
- Flash Attention:llama.cppの
-faはROCmで使えますが、RDNA 3には専用の行列演算ユニットがないため、長いコンテキストのprefillはNVIDIAより目に見えて遅くなります。

買う価値があるAMDカード
無条件で勧められるAMDコンシューマーカードはRX 7900 XTXだけです。R9700は32GBが必要なワークステーションユーザー向けで、その他は用途次第です。
- RX 7900 XTX(24GB、960 GB/s):24GBカードでVRAM単価が最も低く、32Bの4-bitは約24 tokens/sです。3090と同じモデルを動かせます。これを買ってください。
- RX 7900 XT(20GB、800 GB/s):XTXより4GB少なく、32Bの4-bitのしきい値に届きません。予算を足してXTXにするほうがよいです。
- RX 9070 XT(16GB、640 GB/s):RDNA 4にはFP8と倍増した行列演算性能がありますが、640 GB/sのため16GB帯では最も遅いです。WindowsでLM Studioを使い、予算が非常に厳しい場合だけ選びます。
- Radeon AI PRO R9700(32GB、640 GB/s):コンシューマー級の価格で32GB、2スロットのブロワー型です。70Bを動かすためにワークステーションへ2枚入れる用途に適しますが、帯域幅は低く単体の速度は平凡です。
- Radeon PRO W7900(48GB、864 GB/s):48GBの1枚で70Bの4-bitを約10 tokens/sで動かせます。4090の48GB改造カードに近い価格ですが、保証があり2スロットです。
- Instinct MI210(64GB HBM2e、1.6 TB/s):中古価格は手頃で70Bを約19 tokens/sで動かせますが、パッシブ冷却、300W、Linux専用です。愛好家向けのカードです。
結論:AMDカードを買うべき人
LinuxまたはWindowsでllama.cpp / Ollama / LM Studioだけを使うならRX 7900 XTXで約3割節約できます。vLLM、ファインチューニング、画像生成、あるいは手間をかけたくない場合はNVIDIAを選んでください。
- 24GB帯の比較は中古RTX 3090と新型RTX 5070 Tiを参照し、7900 XTXを第三の選択肢として考えてください。
- VRAM帯ごとに最安のカードを探すなら、予算で選ぶローカルLLM用GPUを参照してください。
- Strix Haloを含むユニファイドメモリの選択肢は、MacのユニファイドメモリとディスクリートGPUを参照してください。
よくある質問
AMD GPUでOllamaは動きますか?
動きます。OllamaにはROCmバックエンドが含まれ、RX 7900シリーズとRX 9070シリーズはWindowsとLinuxで直接認識されます。RX 7800 XTのような公式一覧外のカードは、LinuxでHSA_OVERRIDE_GFX_VERSIONを設定するか、Vulkanバックエンドのllama.cppを使います。
RX 7900 XTXとRTX 3090なら、モデル実行にはどちらがよいですか?
実行できるモデルは同じです(どちらも24GB)。3090は近い帯域幅でもCUDAの効率が高く、約3割高速です。7900 XTXは約3割安く、保証があり、消費電力は同程度です。llama.cpp系ツールを使うなら7900 XTX、vLLM、ファインチューニング、手間の少なさを求めるなら3090を選んでください。
WindowsでAMD GPUを使い、最も手軽にLLMを動かすには?
LM Studioです。ROCmとVulkanの両方のバックエンドを備え、RDNA 3 / 4では自動的にROCmを使い、他のカードではVulkanへ切り替わります。GPUドライバー以外を入れる必要はありません。
中古のInstinct MI210のようなアクセラレーターは買う価値がありますか?
64GB HBM2e、1.6 TB/sで、70Bの4-bitは推定19 tokens/sと2枚の3090より速いです。ただしパッシブ冷却のため強制エアフローが必要で、300W、PCIe 4.0、CDNA2に対するROCmサポートもいつ保守フェーズに入るかわかりません。自作と保守に慣れた人向けです。