当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

Qwen3.8 27B をローカルに導入するには?

Qwen3.8 27B は、Qwen が 2026 年 8 月に公開した画像・動画対応の 27B Dense モデルです。GPU 1 枚で Qwen の Dense モデルを動かすなら、現在の第一候補です。24GB の GPU 1 枚で 4-bit が約 40 tokens/s で動き、コンテキストは約 122K まで広げられます。4 層のうちコンテキスト全体を見るのは 1 層だけなので、長いコンテキストでも VRAM をあまり使いません。

Qwen3.8 27B のモデル情報

  • 4-bit 最小VRAM19 GB · 8K
  • パラメータ数27.8B
  • 最大コンテキスト256K
アーキテクチャ
Dense
ライセンス
Apache-2.0
発売日
2026年8月14日
提供元
Alibaba
Hugging Face リポジトリ
Qwen/Qwen3.8-27B
GGUF リポジトリ
unsloth/Qwen3.8-27B-GGUF
NVFP4 リポジトリ(Blackwell)
nvidia/Qwen3.8-27B-NVFP4
MLX リポジトリ(Apple)
mlx-community/Qwen3.8-27B-4bit
Ollama タグ
qwen3.8:27b
レイヤー数
64
隠れ層次元
5,120
KV ヘッド数
4
ヘッド次元
256

Qwen3.8 27B のローカル実行に必要なVRAMは?

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキストGB256K コンテキスト(最大)GB
1-bit6.7GGUF8.39.916.425
2-bit9.8GGUF11.41319.528.1
3-bit13.1GGUF14.716.322.831.4
4-bit16.5GGUF18.119.726.234.8
5-bit19.8GGUF21.42329.538.1
8-bit29GGUF30.632.238.747.3
BF16/FP1654.7GGUF56.357.964.473

詳しい計算ルールはデータの作り方ページをご覧ください。

Qwen3.8 27B は GPU 1 枚で動く?

動きます。基本は 24GB の GPU で、16GB にも詰め込めます。24GB カードなら 4-bit で毎秒約 40 トークン、コンテキストは約 122K まで広げられ、32GB の RTX 5090 なら速度はほぼ倍です。16GB で動くのは Unsloth の 2-bit が約 10 GB と小さいからで、Tesla V100 のようなカードに丸ごと収まりますが、回答の質はいくらか落ちます。過去の各ターンの思考も会話に残すのが既定なので、やり取りが続くとコンテキストが早く埋まり、VRAM に余裕があるほど安心です。128GB ユニファイドメモリのマシンには 8-bit も収まりますが、帯域幅が狭いうえ Dense モデルは 1 トークンごとに重みを全部読むため、4-bit でも毎秒約 12 トークンです。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Radeon RX 7900 XTX24 GB¥293,6506 件の出品41.4122K
GeForce RTX 309024 GB¥406,9228 件の出品40.4122K
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品11.5256K
GeForce RTX 409024 GB¥862,1369 件の出品43.3122K
GeForce RTX 509032 GB¥1,399,9909 件の出品73.5250K
RTX A600048 GB¥1,511,5715 件の出品33.5256K
RTX PRO 600096 GB価格なし73.5256K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB価格なし52.1256K
Tesla V100 32GB32 GB価格なし38.9250K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし27256K
DGX Spark 128GBマシン全体 · 128 GB価格なし12.3256K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

Qwen3.8 27B をローカルで動かす前に知っておきたいこと

  1. 思考の深さは 3 段階

    思考の深さは reasoning_effort で設定し、xhigh(既定)、medium、low の 3 段階があります。公式の注意によると、複数ターンのエージェントタスクでは下げても速くなるとは限りません。各ターンの思考が足りないと、かえって失敗してやり直すことが増えるためです。llama.cpp では --chat-template-kwargs で reasoning_effort を渡します。

  2. 思考内容は既定で保持

    3.8 は既定で過去の各ターンの思考もコンテキストに残すため、複数ターンの会話ではコンテキストが速く増えます。幸いコンテキストのキャッシュは省メモリで、4-bit で 8K から 128K に広げても約 8.1 GB 増えるだけです。最新のターンの思考だけを残したいなら、preserve_thinking を false にします。

  3. 公式推奨のサンプリングパラメータ

    思考モードは temperature 1.0、top_p 0.95、top_k 20、presence_penalty 0、非思考モードは temperature 0.7、top_p 0.8、top_k 20、presence_penalty 1.5 です。

  4. 量子化と形式

    GGUF は Unsloth の Dynamic 3.0 版を使い、4-bit は約 16.5 GB です。Ollama のタグは qwen3.8:27b です。RTX 50 シリーズと DGX Spark では vLLM で Unsloth の NVFP4 版を動かせ、Unsloth によると BF16 より約 1.5 倍速くなります。公式の FP8 版もあります。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run qwen3.8:27b

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
ターミナル
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 8192

vLLM

  • Linux
  • NVIDIA
  • AMD
オリジナルの重み
ターミナル
vllm serve Qwen/Qwen3.8-27B
NVFP4 · Blackwell

Blackwell 世代の GPU(RTX 50 シリーズ、RTX PRO 6000、B200)は NVFP4 の重みをネイティブに扱え、サイズは元の約 3 割です。

ターミナル
vllm serve nvidia/Qwen3.8-27B-NVFP4

MLX

  • Apple シリコン

画像を扱うモデルは mlx-vlm で動かします。Mac で pip install mlx-vlm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得してサーバーを起動します。

ターミナル
mlx_vlm.server --model mlx-community/Qwen3.8-27B-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

Qwen ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
Qwen3 8BDense8.2B8.2B5 GB
Qwen3.5 9BDense9.7B9.7B5.7 GB
Qwen3.6 27BDense27.8B27.8B16.8 GB
Qwen3 32BDense32.8B32.8B19.8 GB
Qwen3.6 35B A3BMoE36B3B22.1 GB
Qwen3.8 Flash NextMoE176B6B111.3 GB
Qwen3.8 2.4T A95BMoE2,446B95B1,310.9 GB

Qwen について