AMD GPUでローカルLLMを動かす現状:ROCmは実用的か、買うべきカードは何か(2026年)

简体中文版からの翻訳 · 原文を読む

「AMD GPUでローカルLLMは動くのか」という問いへの2026年の答えは、動きます。しかも2年前よりずっと扱いやすくなりました。ROCm 7.2以降、RDNA 3とRDNA 4はWindowsとLinuxでllama.cpp、Ollama、LM Studioを直接実行できます。 ただし「動く」と「買う価値がある」は別です。2026年9月5日時点でAMDの利点は一つ、同容量のNVIDIAよりVRAM単価が約3割低いことです。代わりに同じ帯域幅での速度は2〜3割低く、vLLMとファインチューニングは今も扱いにくいままです。llama.cpp系ツールだけを使い、ときどきドキュメントを調べることを受け入れられるなら、RX 7900 XTXは24GBで最安の選択肢です。それ以外の人にはNVIDIAを勧めます。

イメージ図:赤いアクセントのGPUが開いたワークステーションに収まり、背景のモニターにはぼかしたターミナル画面が映る
イメージ図 · 赤いアクセントのGPUが開いたワークステーションに収まり、背景のモニターにはぼかしたターミナル画面が映る

ROCmは現在どのカードとフレームワークに対応しているか?

コンシューマーカードでは、RDNA 3(RX 7900 XTX / XT、W7800 / W7900)とRDNA 4(RX 9070 XTR9700)が公式対応リストにあり、RX 7800 XTのようなミドルレンジRDNA 3は回避策が必要です。 2026年9月時点の対応状況です。

GPU ROCm公式対応 llama.cpp / Ollama / LM Studio vLLM Windows
RX 7900 XTX / XT はい(gfx1100) そのまま使える コミュニティ対応、性能は平均的 ROCmまたはVulkan
Radeon PRO W7800 / W7900 はい(gfx1100) そのまま使える 同上 ROCmまたはVulkan
RX 9070 XT / AI PRO R9700 はい(gfx1201、ROCm 7.2以降) そのまま使える コミュニティ対応 ROCmまたはVulkan
RX 7800 XT いいえ(gfx1101) HSA_OVERRIDE_GFX_VERSION=11.0.0の設定またはVulkanが必要 非推奨 Vulkan
Instinct MI210 / MI100 はい(CDNA) 使える はい(本領域) いいえ

VulkanバックエンドはAMDユーザーの保険です。llama.cppのVulkanバックエンドはRDNA 3でROCmの8〜9割の速度に達しており、どのAMDカードでも使え、ROCmも不要です。

AMDカードのVRAM単価の優位性はどれほどか?

同容量ならAMDカードのVRAM単価はNVIDIAより2〜4割低く、24GB帯のRX 7900 XTXはサイト内でVRAM単価が最も低いコンシューマーカードの一つです。 現在の中古価格と単価は以下のとおりです。

モデルVRAM GB帯域幅 GB/sINT8 TOPS消費電力 WeBayGB 単価
Instinct MI100321,22992300¥169,2916 件の出品¥5,291
Radeon RX 7900 XT20800103315¥109,16529 件の出品¥5,458
Radeon RX 7800 XT1662475263¥87,76929 件の出品¥5,486
Radeon RX 7900 XTX24960123355¥156,17325 件の出品¥6,508
Radeon RX 9070 XT16640389304¥117,13019 件の出品¥7,321
Radeon PRO W790048864123295¥545,8243 件の出品¥11,371
Instinct MI210641,638181300¥788,04811 件の出品¥12,313

同容量のNVIDIAを比較対象にします。

モデルVRAM GB帯域幅 GB/sINT8 TOPS消費電力 WeBayGB 単価
GeForce RTX 309024936285350¥253,78183 件の出品¥10,574
GeForce RTX 5070 Ti16896352300¥179,59917 件の出品¥11,226
GeForce RTX 408016717390320¥187,25137 件の出品¥11,704
RTX PRO 4500 Blackwell32896404200¥671,5433 件の出品¥20,987

RX 7900 XTXとRTX 3090はどちらも24GBです。前者は約3割安く、2022年末のカードであるため、中古の状態も2020年の3090より概ね良好です。これがAMDの価格面での根拠のすべてです。

AMDカードはNVIDIAよりどれほど遅いか?

帯域幅が近い場合、ROCmバックエンドの実効速度はCUDAの約7割です。さらに帯域幅自体も一段低いことが多いです。 推定デコード速度(4-bit、8Kコンテキスト):

モデルQwen3 8Bgpt-oss 20BQwen3.8 27BDeepSeek R1 Distill Qwen 32B
Radeon RX 7900 XTX861152824
Radeon RX 7900 XT7210423収まらない
Radeon RX 9070 XT5891収まらない収まらない
Radeon RX 7800 XT5790収まらない収まらない
Radeon AI PRO R970058911916
GeForce RTX 30901141353832
GeForce RTX 5070 Ti109132収まらない収まらない

4-bit、コンテキスト 8K、単一ストリームでの推定デコード速度。* 付きは MoE モデルのエキスパート重みをシステム RAM(70 GB/s と仮定)に置いて動かした場合です。

RX 7900 XTXの960 GB/sはRTX 3090より高いものの、Qwen3 8Bは推定86対114 tokens/sです。差はバックエンド効率にあります。公開実測(llama.cpp、Llama 3.1 8B Q4_K_M)でも7900 XTXは約96 tokens/sで、推定と整合します。RX 9070 XTは640 GB/sのため、16GB帯ではRTX 5070 Tiより明らかに遅くなります。

どんな落とし穴があるか?

遭遇する順に、ドライバーのバージョン、公式一覧外のカード、量子化形式、マルチGPUの四つです。

  1. ドライバーとROCmのバージョン:Linuxではカーネル、amdgpuドライバー、ROCmのバージョンを揃える必要があり、ディストリビューションの更新後には再インストールが頻繁に必要です。WindowsではROCm 7.2以降は単一インストーラーになり、問題は大幅に減りました。
  2. 一覧外のカード:RX 7800 XTと7700 XTはHSA_OVERRIDE_GFX_VERSIONで7900を装う必要があります。多くの場合は動きますが、ときどきクラッシュします。Vulkanバックエンドのほうが安定します。
  3. 量子化形式:GGUFはすべて使えます。vLLMエコシステムのAWQ、GPTQ、FP8は、RDNAではカーネルがないか、非常に遅いです。GGUFだけを使えばこの問題はありません。
  4. マルチGPU:llama.cppのレイヤー分割はROCmで使えますが、テンソル並列とNCCL級のマルチGPU通信(RCCL)はコンシューマーカードでは問題が多いです。7900 XTXを2枚使えば70Bは実行できますが、vLLMは期待しないでください。
  5. Flash Attention:llama.cppの-faはROCmで使えますが、RDNA 3には専用の行列演算ユニットがないため、長いコンテキストのprefillはNVIDIAより目に見えて遅くなります。
イメージ図:赤いアクセントのGPUのブラケットと映像出力端子が、帯電防止袋の上に置かれている
イメージ図:赤いアクセントのGPUのブラケットと映像出力端子が、帯電防止袋の上に置かれている

買う価値があるAMDカード

無条件で勧められるAMDコンシューマーカードはRX 7900 XTXだけです。R9700は32GBが必要なワークステーションユーザー向けで、その他は用途次第です。

  • RX 7900 XTX(24GB、960 GB/s):24GBカードでVRAM単価が最も低く、32Bの4-bitは約24 tokens/sです。3090と同じモデルを動かせます。これを買ってください。
  • RX 7900 XT(20GB、800 GB/s):XTXより4GB少なく、32Bの4-bitのしきい値に届きません。予算を足してXTXにするほうがよいです。
  • RX 9070 XT(16GB、640 GB/s):RDNA 4にはFP8と倍増した行列演算性能がありますが、640 GB/sのため16GB帯では最も遅いです。WindowsでLM Studioを使い、予算が非常に厳しい場合だけ選びます。
  • Radeon AI PRO R9700(32GB、640 GB/s):コンシューマー級の価格で32GB、2スロットのブロワー型です。70Bを動かすためにワークステーションへ2枚入れる用途に適しますが、帯域幅は低く単体の速度は平凡です。
  • Radeon PRO W7900(48GB、864 GB/s):48GBの1枚で70Bの4-bitを約10 tokens/sで動かせます。4090の48GB改造カードに近い価格ですが、保証があり2スロットです。
  • Instinct MI210(64GB HBM2e、1.6 TB/s):中古価格は手頃で70Bを約19 tokens/sで動かせますが、パッシブ冷却、300W、Linux専用です。愛好家向けのカードです。

結論:AMDカードを買うべき人

LinuxまたはWindowsでllama.cpp / Ollama / LM Studioだけを使うならRX 7900 XTXで約3割節約できます。vLLM、ファインチューニング、画像生成、あるいは手間をかけたくない場合はNVIDIAを選んでください。

よくある質問

AMD GPUでOllamaは動きますか?

動きます。OllamaにはROCmバックエンドが含まれ、RX 7900シリーズとRX 9070シリーズはWindowsとLinuxで直接認識されます。RX 7800 XTのような公式一覧外のカードは、LinuxでHSA_OVERRIDE_GFX_VERSIONを設定するか、Vulkanバックエンドのllama.cppを使います。

RX 7900 XTXとRTX 3090なら、モデル実行にはどちらがよいですか?

実行できるモデルは同じです(どちらも24GB)。3090は近い帯域幅でもCUDAの効率が高く、約3割高速です。7900 XTXは約3割安く、保証があり、消費電力は同程度です。llama.cpp系ツールを使うなら7900 XTX、vLLM、ファインチューニング、手間の少なさを求めるなら3090を選んでください。

WindowsでAMD GPUを使い、最も手軽にLLMを動かすには?

LM Studioです。ROCmとVulkanの両方のバックエンドを備え、RDNA 3 / 4では自動的にROCmを使い、他のカードではVulkanへ切り替わります。GPUドライバー以外を入れる必要はありません。

中古のInstinct MI210のようなアクセラレーターは買う価値がありますか?

64GB HBM2e、1.6 TB/sで、70Bの4-bitは推定19 tokens/sと2枚の3090より速いです。ただしパッシブ冷却のため強制エアフローが必要で、300W、PCIe 4.0、CDNA2に対するROCmサポートもいつ保守フェーズに入るかわかりません。自作と保守に慣れた人向けです。

このガイドに出てくる GPU

このガイドに出てくるモデル