本站含聯盟連結。身為 eBay 合作夥伴與 Amazon 聯盟會員,你透過本站連結購買時,我們可能獲得佣金。我們可能從 eBay 和 Amazon 連結獲得佣金。了解詳情

收錄顯卡64價格追蹤73 天近 24h 價格資料30,814 筆24h 降價最多A100 40GB PCIe-14.8%24h 漲價最多Radeon PRO W7800+19.5%更新於
NT$ TWD

Instinct MI50 32GB 價格與中古行情:能部署哪些大型語言模型?

Instinct MI50 32GB 是 AMD 2018 年的資料中心卡,4-bit 跑 Qwen3.8 27B 約 44 tokens/s。它已不在 ROCm 支援之列,用 llama.cpp 的 Vulkan 後端最省事。

閒魚

Instinct MI50 32GB 價格走勢

目前NT$15,2630.00%
閒魚
價格更新於
NT$17,710NT$16,228NT$14,746NT$13,264NT$11,782
最低價 NT$14,766最高價 NT$16,642
9月8日10月11日11月14日

部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。

Instinct MI50 32GB 完整規格

  • 顯存32 GB · HBM2
  • 頻寬1,024 GB/s
  • FP16 / BF1626.5 TFLOPS
  • INT853 TOPS
位寬
4,096-bit
架構
GCN 5 (Vega 20)
核心
3,840
生態
ROCm
介面
PCIe 4.0 x16
功耗
300 W
供電介面
2× 8-pin
槽位
2
長度
267 mm
類型
資料中心
發布日期
2018年11月18日

單張 Instinct MI50 32GB 能跑哪些模型?

單張 MI50 能整卡跑 35B 以內的模型:MoE 用 8-bit(Gemma 4 26B A4B 約 99 tokens/s),稠密模型用 4-bit(約 40)。沒有矩陣單元,讀長文件偏慢。

模型大小能否執行速度 t/s最大上下文
Gemma 4 E4B8B5 GB能跑127.1128K
Qwen3.5 9B9.7B5.7 GB能跑113.3256K
Gemma 4 12B12B7.1 GB能跑93.1256K
Gemma 4 26B A4B25.2B(啟用 3.8B)16.9 GB能跑122.2256K
Qwen3.6 27B27.8B16.8 GB能跑43.2245K
Qwen3.8 27B27.8B16.5 GB能跑43.9250K
GLM 4.7 Flash30B(啟用 3B)18.3 GB能跑136.8198K
Gemma 4 31B30.7B18.3 GB能跑39168K
Qwen3.6 35B A3B36B(啟用 3B)22.1 GB能跑139.8256K

能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。

需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。

跑不了這一檔量化下單卡放不下,借記憶體也不行。

詳細計算規則可在資料方法頁查看。

多張 Instinct MI50 32GB 能跑哪些模型?

四張 MI50(128GB)能用 4-bit 跑 Qwen3.8 Flash Next,約 100 tokens/s,但要用社群版 vLLM;llama.cpp 分卡最穩,速度則慢得多。

模型大小需要幾張總價總顯示記憶體速度 t/s總功耗
Qwen3.8 Flash Next176B(啟用 6B)111.3 GB4 張NT$61,053128 GB99.61,200 W
DeepSeek V4 Flash284B(啟用 13B)155.1 GB8 張NT$122,105256 GB72.22,400 W
Hy3295B(啟用 21B)182.2 GB8 張NT$122,105256 GB35.82,400 W
GLM 5.3 Flash320B(啟用 18B)199.7 GB8 張NT$122,105256 GB522,400 W

詳細計算規則可在資料方法頁查看。

適合誰

適合

  1. 需要 24GB 的卡給不了的長上下文

    Qwen3.8 27B 的 4-bit 能開到 250K,約 44 tokens/s

  2. 想用 8-bit

    Qwen3.8 27B 的 8-bit(29 GB)放得下,約 26 tokens/s

  3. 願意在 Linux 上自己摸索

    llama.cpp 的 Vulkan 後端不依賴 ROCm,可以直接用

不太適合

  1. 要用 Windows

    AMD 對這張卡只提供 Linux 支援

  2. 要用官方 vLLM,或直接跑 BF16 原版權重

    官方 vLLM 不支援它,晶片也不支援 BF16

  3. 放在一般機殼裡又不想改風道

    被動散熱,滿載 300W

買前須知

  1. ROCm 版本要自己挑

    AMD 已經把 MI50 移出 ROCm 支援清單,裝上新版 ROCm 後,預先編譯的函式庫會出現執行階段錯誤(社群指出 ROCm 7.x 的 rocBLAS 缺少這張卡的運算核心)。社群的解法有三種:安裝舊一點的 ROCm;把 6.4.3 版裡這張卡的 rocBLAS 檔案補進新版;或者乾脆用 llama.cpp 的 Vulkan 後端,完全繞過 ROCm,這是最省事的。

  2. 被動散熱要配導風罩

    卡上沒有風扇,設計上是靠伺服器風道從卡的一端吹到另一端。放進桌機要在卡尾加導風罩和高靜壓風扇,不然很快就會過熱降頻。社群指南還建議把功耗牆降到 150 到 180W:生成速度主要看顯示記憶體頻寬,降功耗幾乎不掉速,溫度卻能降低 15°C 以上。

  3. 確認是 32GB 版本,也要查平台

    MI50 有 16GB 和 32GB 兩個版本,驗貨時用 rocm-smi 或 amd-smi 看記憶體容量。平台也要確認:ROCm 要求 CPU 支援 PCIe atomics(AMD 第一代 Zen、Intel Haswell 及之後的世代),更舊的 Xeon 平台可能用不了;BIOS 裡還要開啟 Above 4G Decoding 和 Resizable BAR。

  4. 沒有矩陣單元,也沒有 BF16

    這一代晶片沒有矩陣運算單元,FP16 算力只有 26.5 TFLOPS,也不支援 BF16。用 llama.cpp 跑 GGUF 量化版時,生成速度不受影響,只是處理長提示詞會明顯比有矩陣核心的卡慢;BF16 原版權重要先轉成 FP16,或者直接用 GGUF。

與同級顯卡比較

Instinct MI50 32GB 與 Tesla V100 32GB、Instinct MI100、GeForce RTX 3090 的價格、顯存、頻寬、算力與本地大模型速度比較。

規格Instinct MI50 32GBTesla V100 32GBInstinct MI100GeForce RTX 3090
顯存
32 GB
32 GB相同
32 GB相同
24 GB少 25%
頻寬
1,024 GB/s
900 GB/s低 12%
1,229 GB/s高 20%
936 GB/s低 9%
BF16 / FP16 算力
27 TFLOPS
112 TFLOPS高 323%
92 TFLOPS高 248%
142 TFLOPS高 437%
INT8 算力
53 TOPS
56 TOPS高 6%
92 TOPS高 74%
285 TOPS高 437%
Qwen3.8 27B 速度(2-bit)
70.3 t/s
62.6 t/s慢 11%
82.8 t/s快 18%
64.8 t/s慢 8%
最高可跑稠密模型(4-bit)
51B
51B相同
51B相同
37B少 27%
功耗
300 W
250 W低 17%
300 W相同
350 W高 17%
卡間互連
—
不支援
—
NVLink 112.5 GB/s
介面
PCIe 4.0 x16
PCIe 3.0 x16
PCIe 4.0 x16
PCIe 4.0 x16
發布
2018-11
2018-03
2020-11
2020-09
閒魚中位價

部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。

其他市場價格

eBay · 美國
NT$24,159
4 筆掛單
去查看
Amazon.jp · 日本
暫無
暫無掛單
去查看

身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。