CMP 170HX 40GB の価格・中古相場:実行できるローカルLLMは?
価格アラート
Amazon.jp の価格が設定した金額に達したら、メールでお知らせします。
CMP 170HX 40GB は 2021 年の NVIDIA 製マイニングカードの改造版で、パッチで 40GB を解放すれば 35B まで 8-bit で動きます。パッチは Linux 専用で、Windows では 10GB しか使えません。
Amazon.jp
CMP 170HX 40GB の価格推移
Amazon.jp
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
CMP 170HX 40GB の詳細スペック
- メモリ40 GB · HBM2e
- 帯域幅1,560 GB/s
- FP16 / BF16202 TFLOPS
- INT8404 TOPS
- バス幅
- 5,120-bit
- アーキテクチャ
- Ampere (GA100)
- コア
- 4,480
- Tensor コア
- 280
- エコシステム
- CUDA
- インターフェース
- PCIe 2.0 x4
- NVLink
- 非対応
- 消費電力
- 250 W
- 補助電源
- 8-pin CPU (EPS-12V)
- スロット
- 2
- 長さ
- 267 mm
- 種別
- データセンター
- 発売日
- 2021年9月1日
CMP 170HX 40GB 1 枚で動かせるモデルは?
解放済みの CMP 170HX 40GB 1 枚なら 35B まですべて 8-bit で収まり、30B 級 MoE でも約 130 tokens/s 出ます。70B 級の Dense モデルは 2 枚からです。
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 4.1 GB | 動く | 202.5 | 256K | |
| 4.7 GB | 動く | 181.1 | 256K | |
| 10.5 GB | 動く | 161.9 | 256K | |
| 11.8 GB | 動く | 87 | 256K | |
| 9.8 GB | 動く | 101.9 | 256K | |
| 11.9 GB | 動く | 170.2 | 198K | |
| 11.8 GB | 動く | 84.1 | 256K | |
| 12.3 GB | 動く | 177.7 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 5.7 GB | 動く | 159.3 | 256K | |
| 7.1 GB | 動く | 132.8 | 256K | |
| 16.9 GB | 動く | 143.2 | 256K | |
| 16.8 GB | 動く | 63.8 | 256K | |
| 16.5 GB | 動く | 64.9 | 256K | |
| 18.3 GB | 動く | 156 | 198K | |
| 18.3 GB | 動く | 57.7 | 256K | |
| 22.1 GB | 動く | 158.5 | 256K |
| モデル | サイズ | 動作 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|---|
| 9.5 GB | 動く | 105.8 | 256K | |
| 12.7 GB | 動く | 81.9 | 256K | |
| 26.9 GB | 動く | 121.3 | 256K | |
| 28.6 GB | 動く | 39.2 | 197K | |
| 29 GB | 動く | 38.7 | 191K | |
| 31.8 GB | 動く | 132.6 | 181K | |
| 32.6 GB | 動く | 34.2 | 100K | |
| 36.9 GB | 動く | 136.2 | 237K |
動く重みも KV キャッシュも VRAM に収まり、速度は VRAM 帯域幅から推定します。
RAM オフロードが必要MoE モデルのみ。エキスパート重みをシステム RAM に置くため、速度は RAM 帯域幅 70 GB/s から推定します。
入らないこの量子化では 1 枚に収まらず、RAM へのオフロードでも動きません。
詳しい計算ルールはデータの作り方ページをご覧ください。
CMP 170HX 40GB を複数枚使うと動かせるモデルは?
CMP 170HX 40GB 2 枚で 8-bit の gpt-oss 120B が約 133 tokens/s、大型 MoE は 4 枚からです。各カードは PCIe 2.0 の 4 レーンだけで、カード間の同期はかなり遅めです。
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 78.9 GB | 4 枚 | 価格なし | 160 GB | 137.4 | 1,000 W | |
| 96.8 GB | 4 枚 | 価格なし | 160 GB | 117.9 | 1,000 W | |
| 107.2 GB | 4 枚 | 価格なし | 160 GB | 64.6 | 1,000 W | |
| 108.7 GB | 4 枚 | 価格なし | 160 GB | 100.4 | 1,000 W | |
| 253.9 GB | 8 枚 | 価格なし | 320 GB | 57.7 | 2,000 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 111.3 GB | 4 枚 | 価格なし | 160 GB | 121.9 | 1,000 W | |
| 155.1 GB | 8 枚 | 価格なし | 320 GB | 93.4 | 2,000 W | |
| 182.2 GB | 8 枚 | 価格なし | 320 GB | 50.2 | 2,000 W | |
| 199.7 GB | 8 枚 | 価格なし | 320 GB | 70.2 | 2,000 W |
| モデル | サイズ | 必要枚数 | 合計価格 | 合計 VRAM | 速度 t/s | 合計消費電力 |
|---|---|---|---|---|---|---|
| 161.9 GB | 8 枚 | 価格なし | 320 GB | 91.1 | 2,000 W | |
| 188.2 GB | 8 枚 | 価格なし | 320 GB | 96.2 | 2,000 W |
詳しい計算ルールはデータの作り方ページをご覧ください。
向いている人・向かない人
向いている
- Linux だけで使い、手間をいとわず、A100 並みの生成速度が欲しい
同じモデルなら A100 40GB と同じ速さで、Qwen3.8 27B の 4-bit は約 65 tokens/s です
- 30B クラスを 8-bit で動かしたい
Qwen3.8 27B の 8-bit(29 GB)が収まり、約 39 tokens/s 出ます。24GB のカードではできません
- 主に MoE を動かしたい
Qwen3.6 35B A3B や GLM 4.7 Flash の 4-bit で約 156〜159 tokens/s です
向かない
- Windows を使う、またはカーネルに手を入れたくない
解放パッチは Linux と特定バージョンのオープンソースドライバーにしか対応せず、Secure Boot も無効にする必要があります
- モデルを頻繁に切り替える、重みをメインメモリに置いて動かしたい
PCIe が Gen2 x4 しかなく、VRAM とメインメモリの間のデータ転送が非常に遅くなります
- 保証が欲しい、長く安心して使いたい
40GB は公式の仕様ではなく、販売後のサポートはありません
購入前のチェックポイント
40GB は後付けではなく、解放したもの
売り手が言う「40GB」は、カードの出荷時の仕様ではありません。CMP 170HX は出荷時に 10GB(別バージョンは 8GB)しか使えず、残りの VRAM はチップのパッケージ内に実在するものの、ファームウェアでロックされていて、BIOS を書き換えても変えられません。解放にはオープンソースのツール cmpunlocker でドライバーにパッチを当てます。起動時にロックされた VRAM を開放し、ついでに演算性能の制限を外して PCIe を Gen2 に引き上げる仕組みです。つまりパッチは PC の OS 側に入るもので、カード自体は何も変わっていないため、マシンを替えたり OS を再インストールしたりすると入れ直しが必要です。10GB 版は理論上 80GB まで解放できますが、コミュニティでは不安定との声があり、ツールでも 10GB 版のカードには 40GB の設定を使っています。
Linux 専用で、ドライバーのバージョンも限られる
パッチの動作要件はかなり具体的です。Linux x86-64、root 権限、Secure Boot の無効化(改変したドライバーモジュールには署名がないため)が必要です。ドライバーはリストにあるいくつかの nvidia-open のバージョン(現在は 610 系と 615 系)しか受け付けず、リストにないバージョンだとインストールスクリプトがそのまま終了します。カーネルやドライバーを更新したら入れ直しが必要です。Windows にはこのパッチがなく、カードは出荷時の 10GB のままでしか使えません。
返品できるうちに VRAM をテスト
解放した VRAM がすべて正常とは限りません。Tom's Hardware は、ロックされていた部分にはもともと欠陥がある可能性があると注意を促しており、wccftech も、もっと少ない容量でしか安定しないカードがあると伝えています。届いたら cmp_memory_tester のようなツールで 40GB を端から端まで使い切ってテストし、問題があれば返品できるうちに対応しましょう。
基板は A100 とほぼ同じ
分解してみると、基板は A100 40GB PCIe とほぼ同じで、一部の部品が実装されていないだけです。そのため A100 用の水冷ヘッドがそのまま取り付けられます(Bykski N-TESLA-A100-X-V2 を使っている例があります)。A100 と同じく、電源コネクタは 8-pin の CPU 用(EPS)が 1 つで、カードにファンはなく、映像出力もありません。
同クラスの GPU との比較
CMP 170HX 40GB と A100 40GB PCIe、CMP 170HX 64GB、GeForce RTX 4090 の価格・VRAM・帯域幅・演算性能・ローカル LLM の速度を比較。
| スペック | ||||
|---|---|---|---|---|
| メモリ | 40 GB | 40 GB同じ | 64 GB60% 多い | 24 GB40% 少ない |
| 帯域幅 | 1,560 GB/s | 1,555 GB/s同じ | 1,493 GB/s4% 低い | 1,008 GB/s35% 低い |
| BF16 / FP16 演算性能 | 202 TFLOPS | 312 TFLOPS54% 高い | 202 TFLOPS同じ | 330 TFLOPS64% 高い |
| INT8 演算性能 | 404 TOPS | 624 TOPS54% 高い | 404 TOPS同じ | 661 TOPS64% 高い |
| Qwen3.8 27B の速度(2-bit) | 101.9 t/s | 101.6 t/s同じ | 98.1 t/s4% 遅い | 69.3 t/s32% 遅い |
| 最大で動かせる密モデル(4-bit) | 65B | 65B同じ | 107B65% 多い | 37B43% 少ない |
| 消費電力 | 250 W | 250 W同じ | 250 W同じ | 450 W80% 高い |
| GPU 間接続 | 非対応 | NVLink 600 GB/s | 非対応 | 非対応 |
| インターフェース | PCIe 2.0 x4 | PCIe 4.0 x16 | PCIe 2.0 x4 | PCIe 4.0 x16 |
| 発売 | 2021-09 | 2020-06 | 2021-06 | 2022-10 |
| Amazon.jp中央値 |
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
他市場の価格
eBay パートナーとして、このページの eBay リンク経由でご購入いただいた場合、VRAMGlass が報酬を受け取ることがあります。お支払い金額は変わりません。