Instinct MI50 32GB の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
Instinct MI50 32GB は AMD の 2018 年のデータセンター向けカードで、Qwen3.8 27B の 4-bit が約 44 tokens/s です。ROCm のサポートは終了済みで、llama.cpp の Vulkan 版が手軽です。
Amazon.jp
Instinct MI50 32GB の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
Instinct MI50 32GB の詳細スペック
- メモリ32 GB · HBM2
- 帯域幅1,024 GB/s
- FP16 / BF1626.5 TFLOPS
- INT853 TOPS
- バス幅
- 4,096-bit
- アーキテクチャ
- GCN 5 (Vega 20)
- コア
- 3,840
- エコシステム
- ROCm
- インターフェース
- PCIe 4.0 x16
- 消費電力
- 300 W
- 補助電源
- 2× 8-pin
- スロット
- 2
- 長さ
- 267 mm
- 種別
- データセンター
- 発売日
- 2018年11月18日
Instinct MI50 32GB 1 枚で動かせるモデルは?
MI50 1 枚で 35B までが丸ごと載り、MoE は 8-bit(Gemma 4 26B A4B で約 99 tokens/s)、Dense は 4-bit(約 40)が目安です。行列演算ユニットがなく長文の読み込みは遅めです。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 3.8 GB | 動く | 157.8 | 128K | |
| 4.1 GB | 動く | 147.3 | 256K | |
| 4.7 GB | 動く | 130.2 | 256K | |
| 10.5 GB | 動く | 143.8 | 256K | |
| 11.8 GB | 動く | 59.6 | 256K | |
| 9.8 GB | 動く | 70.3 | 256K | |
| 11.9 GB | 動く | 154 | 198K | |
| 11.8 GB | 動く | 57.6 | 246K | |
| 12.3 GB | 動く | 163.6 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5 GB | 動く | 127.1 | 128K | |
| 5.7 GB | 動く | 113.3 | 256K | |
| 7.1 GB | 動く | 93.1 | 256K | |
| 16.9 GB | 動く | 122.2 | 256K | |
| 16.8 GB | 動く | 43.2 | 245K | |
| 16.5 GB | 動く | 43.9 | 250K | |
| 18.3 GB | 動く | 136.8 | 198K | |
| 18.3 GB | 動く | 39 | 168K | |
| 22.1 GB | 動く | 139.8 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 8.2 GB | 動く | 83.7 | 128K | |
| 9.5 GB | 動く | 73.1 | 256K | |
| 12.7 GB | 動く | 55.9 | 256K | |
| 26.9 GB | 動く | 99 | 256K | |
| 28.6 GB | 動く | 26.2 | 69K | |
| 29 GB | 動く | 25.9 | 63K | |
| 31.8 GB | 動く | 110.8 | 26K | |
| 32.6 GB | 入らない | — | — | |
| 36.9 GB | RAM オフロードが必要 | 35 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
Instinct MI50 32GB を複数枚使うと動かせるモデルは?
MI50 4 枚(128GB)で 4-bit の Qwen3.8 Flash Next が約 100 tokens/s ですが、コミュニティ版 vLLM が必要です。llama.cpp での分割は最も安定する反面、かなり遅くなります。
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 枚 | 価格なし | 128 GB | 115.9 | 1,200 W | |
| 96.8 GB | 4 枚 | 価格なし | 128 GB | 95.6 | 1,200 W | |
| 107.2 GB | 4 枚 | 価格なし | 128 GB | 47.4 | 1,200 W | |
| 108.7 GB | 4 枚 | 価格なし | 128 GB | 78.6 | 1,200 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 枚 | 価格なし | 128 GB | 99.6 | 1,200 W | |
| 155.1 GB | 8 枚 | 価格なし | 256 GB | 72.2 | 2,400 W | |
| 182.2 GB | 8 枚 | 価格なし | 256 GB | 35.8 | 2,400 W | |
| 199.7 GB | 8 枚 | 価格なし | 256 GB | 52 | 2,400 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 枚 | 価格なし | 256 GB | 70.2 | 2,400 W | |
| 188.2 GB | 8 枚 | 価格なし | 256 GB | 74.8 | 2,400 W |
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 24GB のカードでは無理な長いコンテキストが欲しい
Qwen3.8 27B の 4-bit で 250K まで伸ばせて、約 44 tokens/s です
- 8-bit を使いたい
Qwen3.8 27B の 8-bit(29 GB)が収まり、約 26 tokens/s です
- Linux で手を動かすのをいとわない
llama.cpp の Vulkan バックエンドは ROCm に依存せず、そのまま使えます
向かない
- Windows を使いたい
AMD はこのカードに Linux のサポートしか提供していません
- 公式の vLLM を使いたい、または BF16 の元の重みをそのまま動かしたい
公式の vLLM はこのカードをサポートしておらず、チップも BF16 に対応していません
- 普通のケースに入れたいが、エアフローには手を加えたくない
パッシブ冷却で、フルロード時は 300W です
購入前のチェックポイント
ROCm のバージョンは自分で選ぶ
AMD は MI50 を ROCm のサポート表から外しており、新しい ROCm を入れるとビルド済みライブラリが実行時エラーを起こします(コミュニティの指摘では、ROCm 7.x の rocBLAS にこのカード用の演算カーネルが入っていません)。コミュニティでの対処法は 3 つあります。少し古い ROCm を入れる、6.4.3 版にあるこのカード用の rocBLAS ファイルを新しい版に補う、あるいは llama.cpp の Vulkan バックエンドで ROCm を完全に避けるという方法で、最後のものがいちばん手軽です。
パッシブ冷却にはダクトが必要
カードにファンはなく、サーバーのエアフローがカードの端から端まで風を通す前提で設計されています。デスクトップ PC に入れるなら、カードの後端にダクトと高静圧ファンを付けないと、すぐにオーバーヒートしてクロックが下がります。コミュニティのガイドでは、電力上限を 150〜180W に下げることも勧めています。生成速度は主に VRAM の帯域幅で決まるので、電力を下げても速度はほとんど落ちず、温度は 15°C 以上下がります。
32GB 版かどうかとプラットフォームを確認
MI50 には 16GB 版と 32GB 版の 2 種類があるので、検品時は rocm-smi か amd-smi で VRAM 容量を確認しましょう。プラットフォームも要チェックです。ROCm は CPU が PCIe atomics に対応していること(AMD の第 1 世代 Zen、Intel Haswell 以降)を求めるため、それより古い Xeon のプラットフォームでは使えない可能性があります。BIOS では Above 4G Decoding と Resizable BAR も有効にしておく必要があります。
行列演算ユニットも BF16 もない
この世代のチップには行列演算ユニットがなく、FP16 の演算性能は 26.5 TFLOPS しかなく、BF16 にも対応していません。llama.cpp で GGUF の量子化版を動かすなら生成速度は影響を受けませんが、長いプロンプトの処理は行列演算コアを持つカードよりはっきり遅くなります。BF16 の元の重みは先に FP16 に変換するか、最初から GGUF を使いましょう。
同クラスの GPU との比較
Instinct MI50 32GB と Tesla V100 32GB、Instinct MI100、GeForce RTX 3090 の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | Instinct MI50 32GB | Instinct MI100 | ||
|---|---|---|---|---|
| メモリ | 32 GB | 32 GB同じ | 32 GB同じ | 24 GB25% 少ない |
| 帯域幅 | 1,024 GB/s | 900 GB/s12% 低い | 1,229 GB/s20% 高い | 936 GB/s9% 低い |
| BF16 / FP16 演算性能 | 27 TFLOPS | 112 TFLOPS323% 高い | 92 TFLOPS248% 高い | 142 TFLOPS437% 高い |
| INT8 演算性能 | 53 TOPS | 56 TOPS6% 高い | 92 TOPS74% 高い | 285 TOPS437% 高い |
| Qwen3.8 27B の速度(2-bit) | 70.3 t/s | 62.6 t/s11% 遅い | 82.8 t/s18% 速い | 64.8 t/s8% 遅い |
| 最大で動かせる密モデル(4-bit) | 51B | 51B同じ | 51B同じ | 37B27% 少ない |
| 消費電力 | 300 W | 250 W17% 低い | 300 W同じ | 350 W17% 高い |
| GPU 間接続 | — | 非対応 | — | NVLink 112.5 GB/s |
| インターフェース | PCIe 4.0 x16 | PCIe 3.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 |
| 発売 | 2018-11 | 2018-03 | 2020-11 | 2020-09 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。