当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

DeepSeek R1 Qwen3 8B をローカルに導入するには？

DeepSeek R1 Qwen3 8B は、R1-0528 の思考過程で学習させた Qwen3 8B です。Ollama で deepseek-r1 をそのまま実行すると、取得されるのはこのモデルです。4-bit と 8K コンテキストで約 7.3 GB なので、8GB の GPU で動きます。数学の問題では元の Qwen3 8B よりひと回り強い一方、毎回まず思考を出力する手間がかかります。今から新しく導入するなら、思考のオン・オフを切り替えられる Qwen3.5 9B のほうがおすすめです。

DeepSeek R1 Qwen3 8B のモデル情報

  • 4-bit 最小VRAM8 GB · 8K
  • パラメータ数8.2B
  • 最大コンテキスト128K
アーキテクチャ
Dense
ライセンス
MIT
発売日
2025年5月29日
提供元
DeepSeek
Hugging Face リポジトリ
deepseek-ai/DeepSeek-R1-0528-Qwen3-8B
GGUF リポジトリ
unsloth/DeepSeek-R1-0528-Qwen3-8B-GGUF
MLX リポジトリ（Apple）
mlx-community/DeepSeek-R1-0528-Qwen3-8B-4bit
Ollama タグ
deepseek-r1:8b
リビジョン
0528
レイヤー数
36
隠れ層次元
4,096
KV ヘッド数
8
ヘッド次元
128

DeepSeek R1 Qwen3 8B のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキスト（最大）GB
1-bit2.4GGUF4.78.322.8
2-bit3.5GGUF5.89.423.9
3-bit4.3GGUF6.610.224.7
4-bit5GGUF7.310.925.4
5-bit5.9GGUF8.211.826.3
8-bit8.7GGUF1114.629.1
BF16/FP1616.4GGUF18.722.336.8

詳しい計算ルールはデータの作り方ページをご覧ください。

DeepSeek R1 Qwen3 8B は GPU 1 枚で動く？

動きます。4-bit なら 8GB のカードにも収まります。考えるべきはコンテキストのほうです。このモデルは毎回、答える前に長い思考を書き出し、難しい問題では思考だけで数万トークンに達することもあるため、コンテキストを最低でも 32K 確保しておかないと途中で打ち切られます。それを踏まえると、RTX 5060 Ti 16GB のような 16GB カードはいきなり 8-bit で構いません。32K を確保しても収まり、品質は元のモデルに近いままです。24GB カードなら 8-bit で約 105K まで広げられ、RTX 3090 で毎秒約 70 トークン出ます。12GB カードは 4-bit で十分です。2-bit は減らせる容量がわずかで、この大きさのモデルでは使う意味がありません。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Tesla V100 16GB16 GB¥116,6274 件の出品105.273K
GeForce RTX 5060 Ti 16GB16 GB¥156,40029 件の出品56.673K
Radeon RX 7900 XTX24 GB¥293,6506 件の出品111.1128K
GeForce RTX 309024 GB¥406,9228 件の出品108.8128K
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品33.5128K
GeForce RTX 409024 GB¥862,1369 件の出品115.8128K
GeForce RTX 509032 GB¥1,399,9909 件の出品182.8128K
RTX A600048 GB¥1,511,5715 件の出品91.8128K
RTX PRO 600096 GB価格なし182.8128K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB価格なし136.3128K
Tesla V100 32GB32 GB価格なし105.2128K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし75.3128K
DGX Spark 128GBマシン全体 · 128 GB価格なし35.6128K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

DeepSeek R1 Qwen3 8B をローカルで動かす前に知っておきたいこと

  1. フルサイズの R1 ではない

    名前に R1 と入っていますが、671B のフルサイズの R1 とは別物です。アーキテクチャは Qwen3 8B とまったく同じで、R1-0528 の思考過程を使って Qwen3 8B を追加学習したものにすぎません。公式が特に注意を促しているとおり、トークナイザーの設定は R1-0528 のものを引き継いでいます。自分でデプロイしたり形式を変換したりするときは、設定ファイルを DeepSeek のリポジトリから取得してください。Qwen3 オリジナルのもので代用はできません。

  2. どの量子化を選ぶか

    VRAM に余裕があるなら 8-bit を使いましょう。重みは 8.7 GB で、32K コンテキストを加えても約 14.6 GB なので 16GB カードに収まります。12GB カードなら 4-bit です（32K で約 10.9 GB）。2-bit は 4-bit より 1.5 GB 小さいだけで、8B モデルではその程度の節約に見合いません。

  3. 公式の推奨設定

    公式の Web 版とアプリは temperature 0.6 を使っており、評価時は top_p 0.95 です。2025 年 1 月の 14B・32B 蒸留版とは異なり、0528 版はシステムプロンプトに対応しており、出力の先頭に思考タグを手動で補う必要もありません。

  4. 難しい問題を既定のコンテキストで解かせない

    既定のコンテキストは短すぎることが多く、思考が長くなると途中で切れてしまいます。Ollama は VRAM 容量で既定値を決めており、24GB 未満では 4K、24〜48GB では 32K です。このページの llama-server コマンドは 8K（-c 8192）で起動します。数学やコードの問題を解かせるなら、llama-server では -c を 32768 以上に変更し、Ollama では環境変数 OLLAMA_CONTEXT_LENGTH か /set parameter num_ctx で広げてください。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run deepseek-r1:8b

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
ターミナル
llama-server -hf unsloth/DeepSeek-R1-0528-Qwen3-8B-GGUF:Q4_K_M -c 8192

vLLM

  • Linux
  • NVIDIA
  • AMD
ターミナル
vllm serve deepseek-ai/DeepSeek-R1-0528-Qwen3-8B

MLX

  • Apple シリコン

Mac で pip install mlx-lm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得し、OpenAI 互換のサーバーを起動します。

ターミナル
mlx_lm.server --model mlx-community/DeepSeek-R1-0528-Qwen3-8B-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

DeepSeek ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
DeepSeek R1 Distill Qwen 14BDense14.8B14.8B9 GB
DeepSeek R1 Distill Qwen 32BDense32.8B32.8B19.9 GB
DeepSeek V4 FlashMoE284B13B155.1 GB
DeepSeek V3.2MoE671B37B405.4 GB
DeepSeek V4.1 FlashMoE763B8 / 16B444.7 GB
DeepSeek V4 ProMoE1,600B49B849.7 GB

DeepSeek について