Instinct MI210 の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
Instinct MI210 は AMD の 2022 年の 64GB データセンター向けカードで、中古 AMD ではソフト対応が最も充実し、30B 級は 8-bit で動きます。ファンがないので、デスクトップでは冷却を自作する必要があります。
Amazon.jp
Instinct MI210 の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
Instinct MI210 の詳細スペック
- メモリ64 GB · HBM2e
- 帯域幅1,638 GB/s
- FP16 / BF16181 TFLOPS
- INT8181 TOPS
- バス幅
- 4,096-bit
- アーキテクチャ
- CDNA 2 (Aldebaran)
- コア
- 6,656
- Tensor コア
- 416
- エコシステム
- ROCm
- インターフェース
- PCIe 4.0 x16
- 消費電力
- 300 W
- 補助電源
- 8-pin EPS
- スロット
- 2
- 長さ
- 267 mm
- 種別
- データセンター
- 発売日
- 2022年3月22日
Instinct MI210 1 枚で動かせるモデルは?
MI210 1 枚なら 35B までを 8-bit でコンテキスト 256K まで使え、Qwen3.8 27B は約 41 tokens/s です。1 枚での上限は 70B 級の 4-bit です。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 10.5 GB | 動く | 163.7 | 256K | |
| 11.8 GB | 動く | 90.9 | 256K | |
| 9.8 GB | 動く | 106.2 | 256K | |
| 11.9 GB | 動く | 171.8 | 198K | |
| 11.8 GB | 動く | 87.8 | 256K | |
| 12.3 GB | 動く | 179.1 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 16.9 GB | 動く | 145.4 | 256K | |
| 16.8 GB | 動く | 66.7 | 256K | |
| 16.5 GB | 動く | 67.8 | 256K | |
| 18.3 GB | 動く | 158 | 198K | |
| 18.3 GB | 動く | 60.4 | 256K | |
| 22.1 GB | 動く | 160.4 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 26.9 GB | 動く | 123.8 | 256K | |
| 28.6 GB | 動く | 41 | 256K | |
| 29 GB | 動く | 40.5 | 256K | |
| 31.8 GB | 動く | 135 | 198K | |
| 32.6 GB | 動く | 35.8 | 256K | |
| 36.9 GB | 動く | 138.6 | 256K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
Instinct MI210 を複数枚使うと動かせるモデルは?
MI210 2 枚(128GB)で 4-bit の Qwen3.8 Flash Next が約 125 tokens/s、DeepSeek V4 Flash の 4-bit は 4 枚から。Infinity Fabric で 4 枚連結可。
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 78.9 GB | 2 枚 | 価格なし | 128 GB | 139.8 | 600 W | |
| 96.8 GB | 2 枚 | 価格なし | 128 GB | 120.5 | 600 W | |
| 107.2 GB | 2 枚 | 価格なし | 128 GB | 66.9 | 600 W | |
| 108.7 GB | 2 枚 | 価格なし | 128 GB | 103 | 600 W | |
| 253.9 GB | 8 枚 | 価格なし | 512 GB | 59.8 | 2,400 W | |
| 307.2 GB推定 | 8 枚 | 価格なし | 512 GB | 46.7 | 2,400 W | |
| 311.2 GB | 8 枚 | 価格なし | 512 GB | 54.2 | 2,400 W | |
| 339.5 GB | 8 枚 | 価格なし | 512 GB | 70.2 | 2,400 W | |
| 340.5 GB | 8 枚 | 価格なし | 512 GB | 70.1 | 2,400 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 111.3 GB | 2 枚 | 価格なし | 128 GB | 124.5 | 600 W | |
| 155.1 GB | 4 枚 | 価格なし | 256 GB | 95.9 | 1,200 W | |
| 182.2 GB | 4 枚 | 価格なし | 256 GB | 52.1 | 1,200 W | |
| 199.7 GB | 4 枚 | 価格なし | 256 GB | 72.5 | 1,200 W | |
| 467.3 GB | 8 枚 | 価格なし | 512 GB | 38.7 | 2,400 W | |
| 467.3 GB | 8 枚 | 価格なし | 512 GB | 33.9 | 2,400 W | |
| 510.3 GB | 8 枚Engram は RAM | 価格なし | 512 GB | 64 | 2,400 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 161.9 GB | 4 枚 | 価格なし | 256 GB | 93.7 | 1,200 W | |
| 188.2 GB | 4 枚 | 価格なし | 256 GB | 98.8 | 1,200 W | |
| 317.7 GB | 8 枚 | 価格なし | 512 GB | 37.2 | 2,400 W | |
| 341 GB | 8 枚 | 価格なし | 512 GB | 49.7 | 2,400 W |
「Engram は RAM」の行は、別途約 203 GB のシステムメモリが必要です。詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- 27B〜31B を 8-bit で 1 枚で動かしたい
Qwen3.8 27B の 8-bit で約 41 tokens/s、コンテキストは 256K まで使い切れます
- vLLM を使いたい
公式ドキュメントで MI200 シリーズがサポート対象に挙がっていて、中古の Instinct では珍しい存在です
- 2 枚で大型 MoE を動かしたい
2 枚あれば 4-bit の Qwen3.8 Flash Next が約 125 tokens/s で動きます
向かない
- 普通のデスクトップ PC に入れたい
パッシブ冷却なので、エアフローは自分で用意する必要があります
- FP8 が必要
この世代のチップは FP8 に対応していません
- Windows が欠かせない
ROCm は MI210 向けに Linux 版しか提供していません
購入前のチェックポイント
電源コネクタは EPS 8-pin
MI210 の電源コネクタは 8-pin が 1 つだけですが、これは CPU 給電用の EPS 規格で、グラフィックスカードで一般的な PCIe 8-pin ではありません。電源ケーブルも付属しません。デスクトップ用の電源ユニットにつなぐなら、余っている CPU 8-pin ケーブルを使うか、「PCIe to EPS」と明記された変換ケーブルを使います。挿す前にピン配置を確認し、グラフィックスカード用の PCIe 8-pin ケーブルを無理に挿し込まないようにしましょう。
サーバーのエアフロー前提の設計
MI210 にはファンがなく、サーバーの前から後ろへ流れる強いエアフローを前提に設計されています。1〜2 枚ならタワー型ケースに入れ、ダクトとファンを足してしのぐこともできます。4 枚載せて Infinity Fabric ブリッジもつなぐつもりなら、パッシブ冷却のカードに対応した GPU サーバーを使うことをおすすめします。
中古 Instinct の中ではソフトウェアがいちばん充実
MI50 や MI100 と比べると、MI210 はソフトウェアのサポートがいちばん充実しています。ROCm 10.0 のサポート表に載っており(Linux のみ:Ubuntu、RHEL、SLES)、vLLM の公式ドキュメントにも MI200 シリーズが挙がっていて、AMD 自身が公開している llama.cpp のコンテナでも MI210 は検証済みのカードとされています。注意点は 2 つあります。ROCm 10.0 の互換性表で vLLM を検証したチップの一覧には MI210 が入っていないため、使えるかどうかは vLLM 自身のドキュメントで判断してください。また、AWQ や GPTQ は AMD のカードでは使えないので、モデルは BF16 の元モデルか GGUF を選びましょう。
同クラスの GPU との比較
Instinct MI210 と Instinct MI100、A100 40GB PCIe、CMP 170HX 64GB の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | Instinct MI210 | Instinct MI100 | ||
|---|---|---|---|---|
| メモリ | 64 GB | 32 GB50% 少ない | 40 GB38% 少ない | 64 GB同じ |
| 帯域幅 | 1,638 GB/s | 1,229 GB/s25% 低い | 1,555 GB/s5% 低い | 1,493 GB/s9% 低い |
| BF16 / FP16 演算性能 | 181 TFLOPS | 92 TFLOPS49% 低い | 312 TFLOPS72% 高い | 202 TFLOPS12% 高い |
| INT8 演算性能 | 181 TOPS | 92 TOPS49% 低い | 624 TOPS245% 高い | 404 TOPS123% 高い |
| Qwen3.8 27B の速度(2-bit) | 106.2 t/s | 82.8 t/s22% 遅い | 101.6 t/s4% 遅い | 98.1 t/s8% 遅い |
| 最大で動かせる密モデル(4-bit) | 107B | 51B52% 少ない | 65B39% 少ない | 107B同じ |
| 消費電力 | 300 W | 300 W同じ | 250 W17% 低い | 250 W17% 低い |
| GPU 間接続 | — | — | NVLink 600 GB/s | 非対応 |
| インターフェース | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 2.0 x4 |
| 発売 | 2022-03 | 2020-11 | 2020-06 | 2021-06 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。