当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

Qwen3.8 Flash Next をローカルに導入するには？

Qwen3.8 Flash Next は Qwen が 2026 年 8 月に公開した公称 125B の MoE で、1 トークンあたり 6B しか使いません。そのため生成速度は 7B クラスの小型モデルに近く、難しいのは収まるかどうかだけです。4-bit は約 111 GB で、128GB ユニファイドメモリのマシンに丸ごと載せるか、16GB の GPU 1 枚と 128GB のメインメモリを組み合わせ、エキスパートをメインメモリに置いて動かします。

Qwen3.8 Flash Next のモデル情報

  • 4-bit 最小VRAM113 GB · 8K
  • パラメータ数176B
  • アクティブ6B
  • 最大コンテキスト256K
アーキテクチャ
MoE
エキスパートオフロード
VRAM 5 GB + RAM 110 GB
ライセンス
Qwen Community License 1.0
発売日
2026年8月26日
提供元
Alibaba
Hugging Face リポジトリ
Qwen/Qwen3.8-Flash-Next
GGUF リポジトリ
unsloth/Qwen3.8-Flash-Next-GGUF
NVFP4 リポジトリ（Blackwell）
nvidia/Qwen3.8-Flash-Next-NVFP4
MLX リポジトリ（Apple）
mlx-community/Qwen3.8-Flash-Next-4bit
Ollama タグ
qwen3.8-flash-next:125b-a6b-q4_K_M
レイヤー数
48
隠れ層次元
2,560
KV ヘッド数
2
ヘッド次元
256

Qwen3.8 Flash Next のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキストGB256K コンテキスト（最大）GB
1-bit74.5GGUF75.876.478.882
2-bit78.9GGUF80.280.883.286.4
3-bit90GGUF91.391.994.397.5
4-bit111.3GGUF112.6113.2115.6118.8
5-bit158.3GGUF159.6160.2162.6165.8
8-bit188.2GGUF189.5190.1192.5195.7
BF16/FP16354GGUF355.3355.9358.3361.5

詳しい計算ルールはデータの作り方ページをご覧ください。

Qwen3.8 Flash Next は GPU 1 枚で動く？

4-bit を 1 枚で収められる GPU はなく、1 台に丸ごと載るのは 128GB ユニファイドメモリのマシンだけです。4-bit と 8K コンテキストで約 113 GB あり、最大の単体カードである RTX PRO 6000 でも 2-bit か 3-bit に落とす必要があります。それでも速さは健在で、2-bit なら毎秒約 149 トークンです。DGX Spark や Ryzen AI Max+ 395 のようなマシンには 4-bit が収まり、毎秒 40 トークン強です。1 トークンあたり使うパラメータは約 6B だけなので、帯域幅が控えめでも十分に動きます。普通の GPU が 1 枚だけなら、エキスパートの大半をメインメモリに置き、毎ステップ使う部分だけを GPU に残す方法があります。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品40.8256K
Mac Studio M3 Ultra 512GBマシン全体 · 512 GB価格なし91.7256K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし77.1256K
DGX Spark 128GBマシン全体 · 128 GB価格なし42.9256K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

Qwen3.8 Flash Next を動かすには GPU が何枚必要？

4-bit を動かすなら、96GB の RTX PRO 6000 を 2 枚使う構成がいちばん手軽で、毎秒約 129 トークンです。コンシューマー向けカードなら 2-bit が現実的で、24GB の RTX 3090 か RX 7900 XTX が 4 枚あれば収まり、毎秒約 111 トークンです。4-bit に 32K コンテキストを足すと 24GB カード 4 枚の容量を超え、その次は 8 枚になります。32GB の RTX 5090 なら 4 枚でちょうど足り、速度は RTX PRO 6000 2 枚とほぼ同じです。8-bit には RTX PRO 6000 が 4 枚必要です。公式は vLLM と SGLang のデプロイ用レシピを公開しています。

Amazon.jp
デバイス必要枚数合計価格合計 VRAM速度 t/s合計消費電力
Arc Pro B701 枚 32 GB4 枚¥1,387,248128 GB73.1920 W
Radeon RX 7900 XTX1 枚 24 GB8 枚¥2,349,200192 GB96.22,840 W
GeForce RTX 30901 枚 24 GB8 枚¥3,255,376192 GB94.92,800 W
GeForce RTX 50901 枚 32 GB4 枚¥5,599,960128 GB1292,300 W
RTX A60001 枚 48 GB4 枚¥6,046,284192 GB84.61,200 W
GeForce RTX 40901 枚 24 GB8 枚¥6,897,088192 GB98.83,600 W
A100 80GB PCIe1 枚 80 GB2 枚価格なし160 GB132.9600 W
RTX PRO 60001 枚 96 GB2 枚価格なし192 GB1291,200 W
Instinct MI2101 枚 64 GB2 枚価格なし128 GB124.5600 W
RTX PRO 5000 72GB1 枚 72 GB2 枚価格なし144 GB114.1600 W
GeForce RTX 4090 48GB1 枚 48 GB4 枚価格なし192 GB98.81,800 W
Tesla V100 32GB1 枚 32 GB4 枚価格なし128 GB92.81,000 W

詳しい計算ルールはデータの作り方ページをご覧ください。

Qwen3.8 Flash Next を動かすにはどんな構成のマシンが必要？

VRAM が足りなければ、エキスパートをメインメモリに置きます。GPU には毎トークン必ず使う共通部分と一部のエキスパートだけを載せ、残りはメインメモリに置きます。この場合の速度は主にメモリ帯域幅で決まり、4-bit ならデュアルチャネル DDR4 のデスクトップで約 17 tokens/s、DDR5 のデスクトップで約 29、8 チャネル DDR4 の中古サーバーで約 46 です。このモデル専用に書かれた Strata というエンジンもあり、12GB の GPU と 64GB のメインメモリで 2-bit 版を動かせ、速度は llama.cpp の 2 倍以上です。

Amazon.jp

GeForce RTX 5070 + デスクトップ DDR5

家庭用
生成速度27.2t/s
メモリ帯域幅96GB/s
GPU
GeForce RTX 5070エキスパート層 3 / 48 を VRAM 12 GB に配置
¥168,000
メモリ
128 GB DDR5-600032 GB × 4 枚
¥379,600
CPU
AMD Ryzen 7 77008 コア 16 スレッド・2 チャネル
¥39,800
マザーボード
Gigabyte B650 EAGLE AXメモリスロット 4 本
¥22,000
電源
Corsair RM750e750 W
¥12,500
マシン全体の参考価格¥621,900

2 × Tesla V100 32GB + Xeon E5 デュアル DDR4

低予算
生成速度48.4t/s
メモリ帯域幅137GB/s
GPU
2 × Tesla V100 32GBエキスパート層 27 / 48 を VRAM 64 GB に配置
—
メモリ
128 GB DDR4-213316 GB × 8 枚
¥180,552
CPU
2 × Intel Xeon E5-2680 v4合計 28 コア 56 スレッド・8 チャネル
¥4,747
マザーボード
Supermicro X10DRiメモリスロット 16 本
¥28,480
電源
Corsair RM1200x SHIFT1,200 W
¥37,890
マシン全体の参考価格—

GeForce RTX 3090 + EPYC シングル DDR4

コスパ
生成速度51.9t/s
メモリ帯域幅205GB/s
GPU
GeForce RTX 3090エキスパート層 9 / 48 を VRAM 24 GB に配置
¥406,922
メモリ
128 GB DDR4-320016 GB × 8 枚
¥280,880
CPU
AMD EPYC 753232 コア 64 スレッド・8 チャネル
¥41,138
マザーボード
Supermicro H12SSL-iメモリスロット 8 本
¥174,046
電源
Corsair RM850x850 W
¥20,500
マシン全体の参考価格¥923,487

GeForce RTX 5090 + EPYC シングル DDR5

フラッグシップ
生成速度90.8t/s
メモリ帯域幅461GB/s
GPU
GeForce RTX 5090エキスパート層 13 / 48 を VRAM 32 GB に配置
¥1,399,990
メモリ
192 GB DDR5-480016 GB × 12 枚
¥1,668,336
CPU
AMD EPYC 935432 コア 64 スレッド・12 チャネル
¥289,550
マザーボード
Supermicro H13SSL-Nメモリスロット 12 本
¥129,744
電源
Corsair RM1200x SHIFT1,200 W
¥37,890
マシン全体の参考価格¥3,525,510

詳しい計算ルールはデータ方法のページで確認できます。

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

Qwen3.8 Flash Next をローカルで動かす前に知っておきたいこと

  1. パラメータを 176B としている理由

    公式の 125B には、51B の n-gram 参照テーブルと 4B のマルチトークン予測層が含まれていません。このテーブルもメモリを占めるので、当サイトは 125B に 51B の参照テーブルを足した計 176B で VRAM を見積もっています。ただしテーブルは生成時に必要な分だけ読み込まれるので、速度は 1 トークンあたりの 6B で見積もっています。

  2. どの量子化を選ぶか

    メモリや VRAM に余裕がなければ 2-bit（約 79 GB）か 3-bit（約 90 GB）、足りるなら 4-bit（約 111 GB）を選びます。回答の質を重視するなら、3-bit より下げないようにしましょう。Strata が使う量子化版は ISTA-DASLab が作成したもので、同チームはそのうちの IQ3_S が公開ベンチマークでオリジナルと同等だとしていますが、当サイトでは再検証していません。

  3. 推論エンジンの選び方

    サーバー向けに公式が推奨しているのは SGLang、KTransformers、vLLM です。個人の PC なら llama.cpp と Ollama が最も手軽で、Ollama のタグは qwen3.8-flash-next:125b-a6b-q4_K_M です。12〜24GB の GPU で速度を求めるなら、Strata を使いましょう。

  4. 公式推奨のサンプリングパラメータ

    思考モードは temperature 1.0、top_p 0.95、top_k 20、非思考モードは temperature 0.7、top_p 0.8、top_k 20、presence_penalty 1.5 です。

  5. 長いコンテキストでも VRAM はほとんど増えない

    ネイティブで 256K、1M まで拡張できます。大半の層がコンテキストの長さに応じて大きくならないアテンションを使っているので、コンテキストのキャッシュはごく小さく、4-bit で 8K から 256K に広げても VRAM は約 6 GB しか増えません。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run qwen3.8-flash-next:125b-a6b-q4_K_M

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
すべて VRAM に載せる
ターミナル
llama-server -hf unsloth/Qwen3.8-Flash-Next-GGUF:UD-Q4_K_XL -c 8192
MoE オフロード

VRAM が足りないときは --cpu-moe を付けると、ルーティングされるエキスパートを RAM に置けます（約 110 GB 必要）。

ターミナル
llama-server -hf unsloth/Qwen3.8-Flash-Next-GGUF:UD-Q4_K_XL -c 8192 \
  -ngl 99 --cpu-moe

vLLM

  • Linux
  • NVIDIA
  • AMD
オリジナルの重み
ターミナル
vllm serve Qwen/Qwen3.8-Flash-Next
NVFP4 · Blackwell

Blackwell 世代の GPU（RTX 50 シリーズ、RTX PRO 6000、B200）は NVFP4 の重みをネイティブに扱え、サイズは元の約 3 割です。複数枚では --tensor-parallel-size に枚数を指定します。

ターミナル
vllm serve nvidia/Qwen3.8-Flash-Next-NVFP4

MLX

  • Apple シリコン

画像を扱うモデルは mlx-vlm で動かします。Mac で pip install mlx-vlm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得してサーバーを起動します。

ターミナル
mlx_vlm.server --model mlx-community/Qwen3.8-Flash-Next-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

Qwen ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
Qwen3 8BDense8.2B8.2B5 GB
Qwen3.5 9BDense9.7B9.7B5.7 GB
Qwen3.6 27BDense27.8B27.8B16.8 GB
Qwen3.8 27BDense27.8B27.8B16.5 GB
Qwen3 32BDense32.8B32.8B19.8 GB
Qwen3.6 35B A3BMoE36B3B22.1 GB
Qwen3.8 2.4T A95BMoE2,446B95B1,310.9 GB

Qwen について