当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

gpt-oss 120B をローカルに導入するには？

gpt-oss 120B は OpenAI のオープンウェイトの大型 MoE で、116.8B のパラメータのうち 1 トークンあたり 5.1B しか使いません。そのため大容量メモリのマシンで高速に動きます。4-bit と 8K で約 64 GB なので 128GB のマシンに丸ごと載り、約 52〜54 tokens/s です。普通の GPU が 1 枚しかなくても、エキスパートをメインメモリに置けば動かせます。公式によると、80GB の H100 が 1 枚あれば十分です。

gpt-oss 120B のモデル情報

  • 4-bit 最小VRAM65 GB · 8K
  • パラメータ数116.8B
  • アクティブ5.1B
  • 最大コンテキスト128K
アーキテクチャ
MoE
エキスパートオフロード
VRAM 4 GB + RAM 62 GB
ライセンス
Apache-2.0
発売日
2025年8月5日
提供元
OpenAI
Hugging Face リポジトリ
openai/gpt-oss-120b
GGUF リポジトリ
unsloth/gpt-oss-120b-GGUF
MLX リポジトリ（Apple）
mlx-community/gpt-oss-120b-MXFP4-Q8
Ollama タグ
gpt-oss:120b
レイヤー数
36
隠れ層次元
2,880
KV ヘッド数
8
ヘッド次元
64

gpt-oss 120B のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキスト（最大）GB
1-bit29.4推定30.831.735.4
2-bit46.6推定4848.952.5
3-bit62.6GGUF6464.968.5
4-bit62.8GGUF64.265.168.7
5-bit62.9GGUF64.365.268.8
8-bit63.4GGUF64.865.769.3
BF16/FP1665.4GGUF66.867.771.3

詳しい計算ルールはデータの作り方ページをご覧ください。

gpt-oss 120B は GPU 1 枚で動く？

コンシューマー向け GPU では動かず、プロ向け・データセンター向けのカードか、大容量のユニファイドメモリ機が必要です。RTX PRO 6000 なら 4-bit をコンテキストいっぱいまで使って毎秒約 147 トークン出て、80GB の A100、72GB の RTX PRO 5000 にも収まります。量子化を下げて小さいカードに押し込むのは無理です。もともと 4-bit 形式で配布されているため 2-bit から 8-bit までファイルサイズがほとんど変わらず、48GB の RTX A6000 にも収まりません。マシン単体では、96GB の Mac Studio M5 Ultra で毎秒約 129 トークン、128GB の DGX Spark で約 54 トークンです。1 トークンごとに使うパラメータは約 5B だけなので読み込むデータが少なく、帯域幅が控えめでも快適に動きます。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品51.5128K
A100 80GB PCIe80 GB価格なし150.4128K
RTX PRO 600096 GB価格なし147128K
Instinct MI21064 GB価格なし142.8128K
RTX PRO 5000 72GB72 GB価格なし133.2128K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB価格なし128.7128K
Mac Studio M3 Ultra 512GBマシン全体 · 512 GB価格なし107.5128K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし92.2128K
DGX Spark 128GBマシン全体 · 128 GB価格なし54128K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

gpt-oss 120B を動かすには GPU が何枚必要？

48GB の RTX A6000 が 2 枚あれば足り、4-bit で毎秒約 97 トークンです。24GB カードは 4 枚必要です。モデルに 32K コンテキストを足すと約 65 GB になり、2 枚では収まらないためで、RTX 3090 4 枚なら毎秒約 107 トークンです。32GB の RTX 5090 も 4 枚からになります。2-bit に下げても各段階のファイルサイズがほぼ同じなので、枚数は減りません。もう 1 つ注意点があり、vLLM の gpt-oss レシピが現時点で対応を明記しているのは H100、B200、MI300 といったデータセンター向けで、GeForce や A6000 への対応はまだ進行中です。これらのカードでは、llama.cpp でレイヤーを複数枚に分けるほうが確実です。

Amazon.jp
デバイス必要枚数合計価格合計 VRAM速度 t/s合計消費電力
Radeon RX 7900 XTX1 枚 24 GB4 枚¥1,174,60096 GB108.31,420 W
Arc Pro B701 枚 32 GB4 枚¥1,387,248128 GB84.4920 W
GeForce RTX 30901 枚 24 GB4 枚¥1,627,68896 GB1071,400 W
RTX A60001 枚 48 GB2 枚¥3,023,14296 GB96.5600 W
GeForce RTX 40901 枚 24 GB4 枚¥3,448,54496 GB110.91,800 W
GeForce RTX 50901 枚 32 GB4 枚¥5,599,960128 GB140.32,300 W
Instinct MI2101 枚 64 GB2 枚価格なし128 GB136600 W
GeForce RTX 4090 48GB1 枚 48 GB2 枚価格なし96 GB110.9900 W
Tesla V100 32GB1 枚 32 GB4 枚価格なし128 GB104.91,000 W

詳しい計算ルールはデータの作り方ページをご覧ください。

gpt-oss 120B を動かすにはどんな構成のマシンが必要？

このモデルは 1 トークンあたり 5.1B のパラメータしか使わず、メインメモリから読み込むエキスパートのデータが少ないので、エキスパートをメインメモリに置くのが最も実用的な動かし方です。4-bit なら、16GB の Tesla V100 1 枚とデュアルチャネル DDR5 のデスクトップで約 36 tokens/s、DDR4 なら約 21、8 チャネル DDR4 の中古サーバーと RTX 3090 で約 59 です。llama.cpp では、--cpu-moe ですべてのエキスパートを、--n-cpu-moe N で先頭 N 層分だけをメインメモリに置きます。VRAM に余裕があるなら N を小さくすると、そのぶん速くなります。

Amazon.jp

GeForce RTX 5070 + デスクトップ DDR5

家庭用
生成速度32.6t/s
メモリ帯域幅96GB/s
GPU
GeForce RTX 5070エキスパート層 5 / 36 を VRAM 12 GB に配置
¥168,000
メモリ
64 GB DDR5-600016 GB × 4 枚
¥175,992
CPU
AMD Ryzen 7 77008 コア 16 スレッド・2 チャネル
¥39,800
マザーボード
Gigabyte B650 EAGLE AXメモリスロット 4 本
¥22,000
電源
Corsair RM750e750 W
¥12,500
マシン全体の参考価格¥418,292

Tesla V100 32GB + Xeon E5 デュアル DDR4

低予算
生成速度51.1t/s
メモリ帯域幅137GB/s
GPU
Tesla V100 32GBエキスパート層 18 / 36 を VRAM 32 GB に配置
—
メモリ
128 GB DDR4-213316 GB × 8 枚
¥180,552
CPU
2 × Intel Xeon E5-2680 v4合計 28 コア 56 スレッド・8 チャネル
¥4,747
マザーボード
Supermicro X10DRiメモリスロット 16 本
¥28,480
電源
Corsair RM750e750 W
¥12,500
マシン全体の参考価格—

GeForce RTX 3090 + EPYC シングル DDR4

コスパ
生成速度65.7t/s
メモリ帯域幅205GB/s
GPU
GeForce RTX 3090エキスパート層 13 / 36 を VRAM 24 GB に配置
¥406,922
メモリ
128 GB DDR4-320016 GB × 8 枚
¥280,880
CPU
AMD EPYC 753232 コア 64 スレッド・8 チャネル
¥41,138
マザーボード
Supermicro H12SSL-iメモリスロット 8 本
¥174,046
電源
Corsair RM850x850 W
¥20,500
マシン全体の参考価格¥923,487

GeForce RTX 5090 + EPYC シングル DDR5

フラッグシップ
生成速度111.6t/s
メモリ帯域幅461GB/s
GPU
GeForce RTX 5090エキスパート層 18 / 36 を VRAM 32 GB に配置
¥1,399,990
メモリ
192 GB DDR5-480016 GB × 12 枚
¥1,668,336
CPU
AMD EPYC 935432 コア 64 スレッド・12 チャネル
¥289,550
マザーボード
Supermicro H13SSL-Nメモリスロット 12 本
¥129,744
電源
Corsair RM1200x SHIFT1,200 W
¥37,890
マシン全体の参考価格¥3,525,510

詳しい計算ルールはデータ方法のページで確認できます。

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

gpt-oss 120B をローカルで動かす前に知っておきたいこと

  1. オリジナルの精度をそのまま使う

    エキスパートはもともと 4-bit 形式（MXFP4）なので、どの段階の GGUF もサイズはほぼ同じで、FP16 でも約 65 GB とオリジナルと変わりません。2〜3 GB を節約するために段階を下げる必要はありません。Unsloth は、毎秒 6 トークン以上の速度を出すには VRAM とメインメモリの合計で 66 GB 以上を推奨しています。

  2. 中国語はやや弱いが、コードと推論は強い

    Qwen は Qwen3.5 9B のモデルカードで gpt-oss 120B を比較対象にしています。中国語の総合テスト C-Eval では 76.2 にとどまり、9B の Qwen3.5（88.2）にも及びません。一方、コーディングの LiveCodeBench v6 では 82.7 で、その比較表の中で最高です。中国語が中心の用途なら、導入前に自分のタスクで試してみてください。

  3. 思考の強度とツール

    20B と同じく low、medium、high の 3 段階があり、システムプロンプトに書いて指定します（例：「Reasoning: high」）。学習段階からブラウザと Python のツール呼び出しを備えており、vLLM なら --tool-call-parser openai --enable-auto-tool-choice を付けるだけで関数呼び出しを使えます。サンプリングパラメータも 20B と同じで、temperature 1.0、top_p 1.0 です。

  4. 収まれば 128K をフルに使える

    128K をフルに使っても、8K より約 4.5 GB 多いだけです（4-bit で 68.7 GB 対 64.2 GB）。そのため、このモデルが収まるデバイスならそのまま 128K まで広げられ、量子化とコンテキストのどちらを取るか悩む必要はありません。半分の層が直近 128 トークンしか見ないので、これらの層のキャッシュはコンテキストが長くなっても増えないためです。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run gpt-oss:120b

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
すべて VRAM に載せる
ターミナル
llama-server -hf unsloth/gpt-oss-120b-GGUF:Q4_K_M -c 8192
MoE オフロード

VRAM が足りないときは --cpu-moe を付けると、ルーティングされるエキスパートを RAM に置けます（約 62 GB 必要）。

ターミナル
llama-server -hf unsloth/gpt-oss-120b-GGUF:Q4_K_M -c 8192 -ngl 99 \
  --cpu-moe

vLLM

  • Linux
  • NVIDIA
  • AMD
ターミナル
vllm serve openai/gpt-oss-120b

MLX

  • Apple シリコン

Mac で pip install mlx-lm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得し、OpenAI 互換のサーバーを起動します。

ターミナル
mlx_lm.server --model mlx-community/gpt-oss-120b-MXFP4-Q8

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

gpt-oss ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
gpt-oss 20BMoE20.9B3.6B11.6 GB
gpt-oss Safeguard 20BMoE20.9B3.6B11.6 GB

gpt-oss について