AMD 顯示卡跑本地大模型現狀：ROCm 能用了嗎，哪些卡值得買（2026）

本文提及的固定價格均以中國二手市場人民幣（CNY）為基準；動態表格則依頁面所選幣別顯示。

ROCm 現在支援哪些卡和哪些框架？

消費卡里 RDNA 3（RX 7900 XTX / XT、W7800 / W7900）和 RDNA 4（RX 9070 XT、R9700）是官方支援清單內的，RX 7800 XT 這類中端 RDNA 3 需要繞一下。 2026 年 9 月的支援狀態：

Vulkan 後端是 AMD 使用者的保底方案：llama.cpp 的 Vulkan 後端在 RDNA 3 上速度已達 ROCm 的八到九成，任何 AMD 卡都能用，不需要 ROCm。

AMD 卡的顯示記憶體單價優勢有多大？

同容量對比，AMD 卡的顯示記憶體單價比 NVIDIA 低兩到四成，24GB 檔位的 RX 7900 XTX 是全站顯示記憶體單價最低的消費卡之一。 當前二手價格與單價：

對照組（NVIDIA 同容量）：

RX 7900 XTX 與 RTX 3090 都是 24GB，前者便宜三成、還是 2022 年底的卡，二手成色普遍好於 2020 年的 3090。這是 AMD 全部的價格論據。

AMD 卡比 NVIDIA 慢多少？

頻寬相近時，ROCm 後端的實際速度約為 CUDA 的七成；頻寬本身也普遍低一檔。 預估解碼速度（4-bit、8K 上下文）：

RX 7900 XTX 的 960 GB/s 比 RTX 3090 還高，但 Qwen3 8B 預估 86 對 114 tokens/s，差距就是後端效率。公開實測（llama.cpp、Llama 3.1 8B Q4_K_M）7900 XTX 約 96 tokens/s，與估算一致。RX 9070 XT 的 640 GB/s 讓它在 16GB 檔位裡明顯慢於 RTX 5070 Ti。

會踩哪些坑？

四個坑按遇到的順序：驅動版本、官方列表外的卡、量化格式、多卡。

1. 驅動與 ROCm 版本：Linux 上核心、amdgpu 驅動、ROCm 三者版本要對齊，發行版升級後經常要重灌；Windows 上 ROCm 7.2 之後是一個安裝包，問題少得多。
2. 列表外的卡：RX 7800 XT、7700 XT 需要 HSA_OVERRIDE_GFX_VERSION 假裝成 7900，多數時候能跑，偶爾崩潰；Vulkan 後端更穩。
3. 量化格式：GGUF 全部可用；AWQ、GPTQ、FP8 這些 vLLM 生態的格式在 RDNA 上要麼沒有核心要麼很慢。只用 GGUF 就沒有這個問題。
4. 多卡：llama.cpp 的層拆分在 ROCm 上可用，張量並行和 NCCL 級別的多卡通訊（RCCL）在消費卡上問題多。兩張 7900 XTX 跑 70B 能跑，但別指望 vLLM。
5. Flash Attention：llama.cpp 的 -fa 在 ROCm 上已可用，但 RDNA 3 沒有專用矩陣單元，長上下文的 prefill 明顯慢於 NVIDIA。

值得買的 AMD 卡

RX 7900 XTX 是唯一無條件推薦的 AMD 消費卡，R9700 適合要 32GB 的工作站使用者，其餘按場景。

• RX 7900 XTX（24GB，960 GB/s）：顯示記憶體單價最低的 24GB 卡，跑 32B 4-bit 約 24 tokens/s，能跑的模型與 3090 完全相同。買它。
• RX 7900 XT（20GB，800 GB/s）：比 XTX 少 4GB，正好卡在 32B 4-bit 門檻之下，不如加錢上 XTX。
• RX 9070 XT（16GB，640 GB/s）：RDNA 4 有 FP8 和翻倍的矩陣算力，但 640 GB/s 讓它在 16GB 檔裡最慢，只在 Windows + LM Studio 且預算極緊時選。
• Radeon AI PRO R9700（32GB，640 GB/s）：32GB 消費級價格，雙槽渦輪，適合工作站裝兩張跑 70B；頻寬低，單卡速度一般。
• Radeon PRO W7900（48GB，864 GB/s）：48GB 單卡跑 70B 4-bit 約 10 tokens/s，價格與 4090 48GB 改裝卡相近，但有質保、雙槽。
• Instinct MI210（64GB HBM2e，1.6 TB/s）：二手價格合適，跑 70B 約 19 tokens/s，但被動散熱、300W、只能 Linux，是發燒友的卡。

結論：什麼人該買 AMD 卡

Linux 或 Windows 上只用 llama.cpp / Ollama / LM Studio，買 RX 7900 XTX 省三成錢；要 vLLM、微調、影象生成或者不想折騰，買 NVIDIA。

• 24GB 檔位的對比另見二手 3090 還是新 5070 Ti，把 7900 XTX 當第三個選項。
• 按顯示記憶體檔位找最便宜的卡，見預算有限跑本地大模型。
• 統一記憶體路線（含 Strix Halo）見 Mac 統一記憶體 vs 獨立顯示卡。