gpt-oss Safeguard 20B をローカルに導入するには?
gpt-oss Safeguard 20B はチャット用ではなく、OpenAI が gpt-oss 20B をファインチューニングしたコンテンツモデレーション用のモデルです。プロンプトにコンテンツポリシーを書いておくと、まず推論してから、あるコンテンツが違反かどうかを判定します。大規模モデルの入出力のフィルタリングや、コンテンツへのラベル付けに向いています。安全性以外の用途なら、OpenAI は gpt-oss をそのまま使うよう勧めています。必要な VRAM は gpt-oss 20B と同じで、4-bit と 8K で約 13 GB です。
gpt-oss Safeguard 20B のモデル情報
- 4-bit 最小VRAM13 GB · 8K
- パラメータ数20.9B
- アクティブ3.6B
- 最大コンテキスト128K
- アーキテクチャ
- MoE
- エキスパートオフロード
- VRAM 3 GB + RAM 11 GB
- ライセンス
- Apache-2.0
- 発売日
- 2025年10月29日
- 提供元
- OpenAI
- Hugging Face リポジトリ
- openai/gpt-oss-safeguard-20b
- GGUF リポジトリ
- unsloth/gpt-oss-safeguard-20b-GGUF
- MLX リポジトリ(Apple)
- lmstudio-community/gpt-oss-safeguard-20b-MLX-MXFP4
- Ollama タグ
- gpt-oss-safeguard:20b
- レイヤー数
- 24
- 隠れ層次元
- 2,880
- KV ヘッド数
- 8
- ヘッド次元
- 64
gpt-oss Safeguard 20B のローカル実行に必要なVRAMは?
| 量子化 | 重みサイズGB | 8K コンテキストGB | 32K コンテキストGB | 128K コンテキスト(最大)GB |
|---|---|---|---|---|
| 1-bit | 5.3推定 | 6.5 | 7.2 | 9.6 |
| 2-bit | 8.3推定 | 9.6 | 10.2 | 12.6 |
| 3-bit | 11.5GGUF | 12.8 | 13.4 | 15.8 |
| 4-bit | 11.6GGUF | 12.9 | 13.5 | 15.9 |
| 5-bit | 11.7GGUF | 13 | 13.6 | 16 |
| 8-bit | 12.1GGUF | 13.4 | 14 | 16.4 |
| BF16/FP16 | 13.8GGUF | 15.1 | 15.7 | 18.1 |
詳しい計算ルールはデータの作り方ページをご覧ください。
gpt-oss Safeguard 20B は GPU 1 枚で動く?
動きます。モデレーション用途なら大きな GPU は要らず、16GB で十分、12GB でもぎりぎり収まります。gpt-oss 20B をファインチューニングしたモデルなので必要な VRAM は同じで、4-bit と 8K コンテキストで約 13 GB です。審査のコンテキストは短く済むのが普通で、OpenAI はポリシーを 400〜600 トークンで書くよう勧めています。審査対象を加えても 8K でたいてい足りるため、RTX 3060 のような 12GB カードにも収まりますが、余裕はほとんどなく、同じカードで画面も出していると足りないことがあります。ポリシーが長いなら 16GB カードでコンテキストを広げてください。RTX 5060 Ti 16GB で毎秒約 93 トークンですが、判定のたびにまず推論を出力するので、推論の段階を上げるほど 1 件ごとの結果が遅くなります。
| デバイス | 価格 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|
| ¥116,6274 件の出品 | 144.4 | 128K | |
| ¥156,40029 件の出品 | 109 | 128K | |
| Radeon RX 7900 XTX24 GB | ¥293,6506 件の出品 | 147.3 | 128K |
| ¥406,9228 件の出品 | 146.2 | 128K | |
| Ryzen AI Max+ 395 128GBマシン全体 · 128 GB | ¥688,8588 件の出品 | 79.8 | 128K |
| ¥862,1369 件の出品 | 149.5 | 128K | |
| ¥1,399,9909 件の出品 | 171.9 | 128K | |
| ¥1,511,5715 件の出品 | 136.8 | 128K | |
| 価格なし | 171.9 | 128K | |
| Mac Studio M5 Ultra 96GBマシン全体 · 96 GB | 価格なし | 157.9 | 128K |
| 価格なし | 144.4 | 128K | |
| MacBook Pro M5 Max 128GBマシン全体 · 128 GB | 価格なし | 125.6 | 128K |
| 価格なし | 83 | 128K |
| デバイス | 価格 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|
| ¥116,6274 件の出品 | 129.2 | 128K | |
| ¥156,40029 件の出品 | 92.5 | 128K | |
| Radeon RX 7900 XTX24 GB | ¥293,6506 件の出品 | 132.5 | 128K |
| ¥406,9228 件の出品 | 131.2 | 128K | |
| Ryzen AI Max+ 395 128GBマシン全体 · 128 GB | ¥688,8588 件の出品 | 65 | 128K |
| ¥862,1369 件の出品 | 134.9 | 128K | |
| ¥1,399,9909 件の出品 | 160.6 | 128K | |
| ¥1,511,5715 件の出品 | 121 | 128K | |
| 価格なし | 160.6 | 128K | |
| Mac Studio M5 Ultra 96GBマシン全体 · 96 GB | 価格なし | 144.4 | 128K |
| 価格なし | 129.2 | 128K | |
| MacBook Pro M5 Max 128GBマシン全体 · 128 GB | 価格なし | 109.2 | 128K |
| 価格なし | 67.9 | 128K |
| デバイス | 価格 | 速度 t/s | 最大コンテキスト |
|---|---|---|---|
| ¥116,6274 件の出品 | 127.1 | 128K | |
| ¥156,40029 件の出品 | 90.4 | 128K | |
| Radeon RX 7900 XTX24 GB | ¥293,6506 件の出品 | 130.4 | 128K |
| ¥406,9228 件の出品 | 129.2 | 128K | |
| Ryzen AI Max+ 395 128GBマシン全体 · 128 GB | ¥688,8588 件の出品 | 63.2 | 128K |
| ¥862,1369 件の出品 | 132.9 | 128K | |
| ¥1,399,9909 件の出品 | 159 | 128K | |
| ¥1,511,5715 件の出品 | 118.9 | 128K | |
| 価格なし | 159 | 128K | |
| Mac Studio M5 Ultra 96GBマシン全体 · 96 GB | 価格なし | 142.5 | 128K |
| 価格なし | 127.1 | 128K | |
| MacBook Pro M5 Max 128GBマシン全体 · 128 GB | 価格なし | 107.1 | 128K |
| 価格なし | 66.1 | 128K |
よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。
gpt-oss Safeguard 20B を動かすにはどんな構成のマシンが必要?
一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。
gpt-oss Safeguard 20B をローカルで動かす前に知っておきたいこと
ポリシーはシステムプロンプトに書く
ポリシーはシステムメッセージに入れ、そこに Reasoning: low、medium、high のいずれかを書きます。書かなければ既定の medium になります。OpenAI のガイドによると、ポリシーの長さは 400〜600 トークンが最も効果的で、約 1 万トークンまで長くなっても妥当な結果が得られます。
プログラムでパースできる出力にする
0 か 1 の 1 文字だけを返させることも、違反の有無、違反カテゴリ、該当条項、確信度、理由を含む JSON を出力させることもできます。自動モデレーションの処理に組み込むなら、0/1 か、フィールドを固定した JSON がいちばん手軽です。
使うべきでない場面
OpenAI はガイドで、ラベル付きデータが数千件あるなら従来型の分類器を学習させたほうが、遅延が小さく計算資源も少なくて済み、精度も上回る可能性があると明記しています。このモデルが向いているのは、ポリシーが頻繁に変わり、ラベル付きデータを集める余裕がない場面です。ポリシーを変えるときはプロンプトを書き換えるだけで、再学習は要りません。
デプロイ
会話フォーマットは同じく harmony です。Ollama の公式ライブラリには gpt-oss-safeguard:20b があり、vLLM では vllm serve openai/gpt-oss-safeguard-20b で起動でき、llama.cpp 向けには Unsloth がパッケージした GGUF があります。出力される推論過程は開発者やモデレーション担当者向けのもので、公式は一般ユーザーに見せることを推奨していません。
起動コマンド
Ollama
- Windows
- macOS
- Linux
ollama run gpt-oss-safeguard:20bllama.cpp
- NVIDIA
- AMD
- Mac
- CPU
llama-server -hf unsloth/gpt-oss-safeguard-20b-GGUF:Q4_K_M -c 8192VRAM が足りないときは --cpu-moe を付けると、ルーティングされるエキスパートを RAM に置けます(約 11 GB 必要)。
llama-server -hf unsloth/gpt-oss-safeguard-20b-GGUF:Q4_K_M -c 8192 \ -ngl 99 --cpu-moe
vLLM
- Linux
- NVIDIA
- AMD
vllm serve openai/gpt-oss-safeguard-20bMLX
- Apple シリコン
Mac で pip install mlx-lm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得し、OpenAI 互換のサーバーを起動します。
mlx_lm.server --model lmstudio-community/gpt-oss-safeguard-20b-MLX-MXFP4ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法
gpt-oss ファミリーのほかのモデル
| モデル | 総パラメータ | アクティブ | 4-bit のサイズ |
|---|---|---|---|
| gpt-oss 20BMoE | 20.9B | 3.6B | 11.6 GB |
| gpt-oss 120BMoE | 116.8B | 5.1B | 62.8 GB |