Instinct MI100 價格與中古行情：能部署哪些大型語言模型？

VRAMGlass 編輯部 · 更新於 2026年9月10日

Instinct MI100 有 32GB HBM2 顯存，頻寬 1,229 GB/s。目前eBay中位價 NT$31,439。Q4 量化下最大能跑到 32B 參數的模型，預估 31 tokens/s。

Instinct MI100 價走勢

價格更新於 2026/09/10 12:45

eBay

eBay 二手

NT$34,649NT$32,776NT$30,904

9月5日9月7日9月10日

核心7,680

張量核心480

架構CDNA (Arcturus)

顯存32 GB · HBM2

位寬4,096-bit

頻寬1,229 GB/s

BF16 / FP8 / INT892.3 / — / 92.3

生態ROCm

別名MI100 · AMD MI100 32GB

類型資料中心

功耗300 W

供電介面2× 8-pin

槽位2

長度267 mm

介面PCIe 4.0 x16

發布日期2020年11月16日

官方定價—

只列 2026 年起發布、50B 以內的版本

模型	2-bit			4-bit			8-bit
模型	裝得下	速度 t/s	上下文	裝得下	速度 t/s	上下文	裝得下	速度 t/s	上下文
GemmaGemma 4 E4B	✓	159.2	128K	✓	114.2	128K	✓	66.1	128K
QwenQwen3.5 9B	✓	131.9	128K	✓	94.6	128K	✓	54.8	128K
GemmaGemma 4 12B	✓	94	32K	✓	69.7	32K	✓	41.9	32K
GemmaGemma 4 26B A4B	✓	125	32K	✓	108.3	32K	✓	80.5	8K
QwenQwen3.6 27B	✓	51	32K	✓	35.5	32K	✓	19.9	8K
QwenQwen3.8 27B	✓	51	32K	✓	35.5	32K	✓	19.9	8K
GLMGLM 4.7 Flash	✓	161.5	128K	✓	140.5	128K	卸載	22.1	—
GemmaGemma 4 31B	✓	38.1	8K	✓	27.8	8K	✗	—	—
QwenQwen3.6 35B A3B	✓	157.1	128K	✓	137.1	128K	卸載	32.4	—

判定口徑：權重 + KV cache + 執行開銷 ≤ 可用記憶體，單卡。MoE 模型標「卸載」表示把專家權重放進系統記憶體後能跑（顯存只放注意力層與 KV cache），速度按記憶體頻寬 70 GB/s 估算。上下文欄給的是能裝下的最大檔位。

eBay美國二手

7 筆掛單

Amazon.co.jp日本新品

暫無掛單

閒魚中國大陸二手

暫無掛單

購買連結可能含聯盟標記，不影響你支付的價格。

Instinct MI100 有 32GB HBM2 顯存，頻寬 1,229 GB/s。

單卡跑不了。在 Q4_K_M 量化、8K 上下文下，70B 稠密模型約需 43GB，超過 Instinct MI100 的 32GB。

目前eBay中位價 NT$31,439。取自平台掛單價的中位數，每 6 小時更新。