当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

DeepSeek R1 Distill Qwen 14B をローカルに導入するには？

DeepSeek R1 Distill Qwen 14B は、DeepSeek が 2025 年 1 月に R1 の生成サンプルで学習させた 14B の推論モデルです。ベースは Qwen2.5 14B で、毎回回答の前に思考を挟みます。4-bit と 8K コンテキストで約 11.7 GB なので 12GB の GPU に収まりますが、思考でコンテキストを大きく消費するため、16GB カードでも広げられるのは最大約 35K までです。今では同じサイズでもっと強い新しいモデルがあるので、新規に導入するなら R1 Qwen3 8B か Gemma 4 12B を先に検討するのがおすすめです。

DeepSeek R1 Distill Qwen 14B のモデル情報

  • 4-bit 最小VRAM12 GB · 8K
  • パラメータ数14.8B
  • 最大コンテキスト128K
アーキテクチャ
Dense
ライセンス
MIT
発売日
2025年1月20日
提供元
DeepSeek
Hugging Face リポジトリ
deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
GGUF リポジトリ
bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF
MLX リポジトリ（Apple）
mlx-community/DeepSeek-R1-Distill-Qwen-14B-4bit
Ollama タグ
deepseek-r1:14b
レイヤー数
48
隠れ層次元
5,120
KV ヘッド数
8
ヘッド次元
128

DeepSeek R1 Distill Qwen 14B のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキスト（最大）GB
1-bit3.7推定6.411.230.6
2-bit6.5GGUF9.21433.3
3-bit8.6GGUF11.316.135.4
4-bit9GGUF11.716.535.8
5-bit10.5GGUF13.21837.3
8-bit15.7GGUF18.423.242.5
BF16/FP1629.5GGUF32.23756.3

詳しい計算ルールはデータの作り方ページをご覧ください。

DeepSeek R1 Distill Qwen 14B は GPU 1 枚で動く？

12GB のカードで動きますが、VRAM の大きさがそのまま、どれだけ長く考えさせられるかを左右します。4-bit の重みは 9 GB しかなく、場所を取るのはコンテキストです。従来型の仕組みを使っているため、コンテキストを長くするほど追加で必要な VRAM が増え、128K いっぱいまで広げるとその分だけで重みの 2 倍を超えます。そのため RTX 5060 Ti 16GB のような 16GB カードでは 4-bit でも約 35K が上限で、長い推論問題には窮屈です。24GB カードなら約 77K まで使え、RTX 3090 でも快適に動きます。3-bit に落としても空きはほとんど増えず、8-bit はコンテキストを削るだけなので、VRAM はコンテキストに回すのが得策です。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Tesla V100 16GB16 GB¥116,6274 件の出品64.235K
GeForce RTX 5060 Ti 16GB16 GB¥156,40029 件の出品33.435K
Radeon RX 7900 XTX24 GB¥293,6506 件の出品6877K
GeForce RTX 309024 GB¥406,9228 件の出品66.577K
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品19.5128K
GeForce RTX 409024 GB¥862,1369 件の出品71.177K
GeForce RTX 509032 GB¥1,399,9909 件の出品117.3120K
RTX A600048 GB¥1,511,5715 件の出品55.5128K
RTX PRO 600096 GB価格なし117.3128K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB価格なし84.8128K
Tesla V100 32GB32 GB価格なし64.2120K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし45.1128K
DGX Spark 128GBマシン全体 · 128 GB価格なし20.8128K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

DeepSeek R1 Distill Qwen 14B をローカルで動かす前に知っておきたいこと

  1. 公式の推奨どおりにプロンプトを書く

    公式の推奨は 3 点あります。temperature は 0.5〜0.7（推奨 0.6）に設定します。高すぎると同じ内容を延々と繰り返したり、話の筋が通らなくなったりしやすくなります。システムプロンプトは使わず、指示はすべてユーザーメッセージに書きます。数学の問題では、プロンプトに「Please reason step by step, and put your final answer within \boxed{}」を加えます。

  2. 思考を飛ばすことがある

    R1 シリーズは、ときどき空の思考ブロックを出力しただけでいきなり回答することがあり、そうなると回答の質が落ちます。公式は、毎回の出力を「<think>」と改行で始めるよう強制することを推奨しています。0528 以降のバージョン（R1 Qwen3 8B など）では、この対策は不要です。

  3. ボトルネックは重みではなくコンテキスト

    通常のアテンション構造を採用しているため、コンテキストが長くなるほど、それを保持する KV キャッシュが比例して大きくなります。4-bit で 8K から 128K に広げると約 24.1 GB 増え、これは重みそのものの 2 倍以上です。つまり 16GB カードで制約になるのはコンテキスト長です。長い推論問題を解かせる前に、どれだけ確保が必要かを先に見積もっておきましょう。

  4. 使える推論エンジン

    アーキテクチャは Qwen2.5 そのものなので、llama.cpp、Ollama、vLLM、SGLang がそのまま対応しています。Ollama のタグは deepseek-r1:14b（4-bit、ダウンロード約 9 GB）です。公式によると設定とトークナイザーに小さな変更を加えているため、デプロイ時は DeepSeek のリポジトリにあるファイルを使ってください。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run deepseek-r1:14b

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
ターミナル
llama-server -hf bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M \
  -c 8192

vLLM

  • Linux
  • NVIDIA
  • AMD
ターミナル
vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-14B

MLX

  • Apple シリコン

Mac で pip install mlx-lm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得し、OpenAI 互換のサーバーを起動します。

ターミナル
mlx_lm.server --model mlx-community/DeepSeek-R1-Distill-Qwen-14B-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

DeepSeek ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
DeepSeek R1 Qwen3 8BDense8.2B8.2B5 GB
DeepSeek R1 Distill Qwen 32BDense32.8B32.8B19.9 GB
DeepSeek V4 FlashMoE284B13B155.1 GB
DeepSeek V3.2MoE671B37B405.4 GB
DeepSeek V4.1 FlashMoE763B8 / 16B444.7 GB
DeepSeek V4 ProMoE1,600B49B849.7 GB

DeepSeek について