当サイトにはアフィリエイトリンクが含まれます。eBay パートナーとして、リンク経由でご購入いただいた場合に報酬を受け取ることがあります。eBay パートナーとして報酬を得ることがあります。詳しく

収録 GPU57価格追跡49 日直近 24h の価格データ43,303 件24h 最大の値下げGeForce RTX 3090-4.7%24h 最大の値上げRyzen AI Max+ 395 128GB+11.3%更新
¥ JPY

Qwen3.6 35B A3B をローカルに導入するには？

Qwen3.6 35B A3B は、Qwen が 2026 年 4 月に公開した総パラメータ約 36B の MoE です。1 トークンあたり 3B しか使わないので、高速に動きます。24GB の GPU 1 枚に 4-bit が収まり、RTX 3090 で約 135 tokens/s と、同じカードで 27B の Dense モデルを動かす場合の 3 倍以上です。画像と動画も扱え、VRAM が足りなければ一部のエキスパートをメインメモリに置いて動かすこともできます。

Qwen3.6 35B A3B のモデル情報

  • 4-bit 最小VRAM24 GB · 8K
  • パラメータ数36B
  • アクティブ3B
  • 最大コンテキスト256K
アーキテクチャ
MoE
エキスパートオフロード
VRAM 4 GB + RAM 21 GB
ライセンス
Apache-2.0
発売日
2026年4月16日
提供元
Alibaba
Hugging Face リポジトリ
Qwen/Qwen3.6-35B-A3B
GGUF リポジトリ
unsloth/Qwen3.6-35B-A3B-GGUF
NVFP4 リポジトリ（Blackwell）
nvidia/Qwen3.6-35B-A3B-NVFP4
MLX リポジトリ（Apple）
mlx-community/Qwen3.6-35B-A3B-4bit
Ollama タグ
qwen3.6:35b-a3b
レイヤー数
40
隠れ層次元
2,048
KV ヘッド数
2
ヘッド次元
256

Qwen3.6 35B A3B のローカル実行に必要なVRAMは？

量子化重みサイズGB8K コンテキストGB32K コンテキストGB128K コンテキストGB256K コンテキスト（最大）GB
1-bit10GGUF11.211.713.816.4
2-bit12.3GGUF13.51416.118.7
3-bit16.8GGUF1818.520.623.2
4-bit22.1GGUF23.323.825.928.5
5-bit26.5GGUF27.728.230.332.9
8-bit36.9GGUF38.138.640.743.3
BF16/FP1669.4GGUF70.671.173.275.8

詳しい計算ルールはデータの作り方ページをご覧ください。

Qwen3.6 35B A3B は GPU 1 枚で動く？

動きます。しかも速いモデルです。1 トークンごとに使うパラメータは約 3B だけなので、24GB カードに 4-bit を載せれば毎秒約 135 トークン出ます。悩ましいのは速度ではなくサイズで、4-bit は 24GB にぎりぎり収まる大きさのため、16GB カードには入りません。16GB なら 2-bit を丸ごと載せるか、4-bit のままエキスパートの一部をメインメモリに置くことになります。32GB の RTX 5090 なら 256K のコンテキストをフルに使えます。128GB ユニファイドメモリのマシンとも相性がよく、8-bit でも毎秒約 50 トークン出ます。1 ステップで読むデータが少ないので、帯域幅の狭さがあまり響かないからです。

Amazon.jp
デバイス価格速度 t/s最大コンテキスト
Radeon RX 7900 XTX24 GB¥293,6506 件の出品136.7123K
GeForce RTX 309024 GB¥406,9228 件の出品135.4123K
Ryzen AI Max+ 395 128GBマシン全体 · 128 GB¥688,8588 件の出品68.9256K
GeForce RTX 409024 GB¥862,1369 件の出品139123K
GeForce RTX 509032 GB¥1,399,9909 件の出品163.9256K
RTX A600048 GB¥1,511,5715 件の出品125.4256K
RTX PRO 600096 GB価格なし163.9256K
Mac Studio M5 Ultra 96GBマシン全体 · 96 GB価格なし148.3256K
Tesla V100 32GB32 GB価格なし133.5256K
MacBook Pro M5 Max 128GBマシン全体 · 128 GB価格なし113.7256K
DGX Spark 128GBマシン全体 · 128 GB価格なし71.9256K

よく使われる GPU とマシンだけを、50B 未満と 50B 以上のモデルで分けて、価格の安い順に掲載しています。

Qwen3.6 35B A3B を動かすにはどんな構成のマシンが必要？

16GB の GPU で 4-bit を動かしたいなら、一部のエキスパートをメインメモリに置きます。16GB の Tesla V100 1 枚に 40 層のうち 26 層分のエキスパートを載せ、残りをメインメモリに置くと、デュアルチャネル DDR4 のデスクトップで約 76 tokens/s、DDR5 なら約 96 です。8-bit なら、8 チャネル DDR4 の中古サーバーと RTX 3090 で約 84 tokens/s です。llama.cpp では、--n-cpu-moe N で先頭 N 層分のエキスパートを、--cpu-moe ですべてのエキスパートをメインメモリに置きます。

Amazon.jp

GeForce RTX 5070 + デスクトップ DDR5

家庭用
生成速度76.7t/s
メモリ帯域幅96GB/s
GPU
GeForce RTX 5070エキスパート層 17 / 40 を VRAM 12 GB に配置
¥168,000
メモリ
32 GB DDR5-600016 GB × 2 枚
¥87,996
CPU
AMD Ryzen 7 77008 コア 16 スレッド・2 チャネル
¥39,800
マザーボード
Gigabyte B650 EAGLE AXメモリスロット 4 本
¥22,000
電源
Corsair RM750e750 W
¥12,500
マシン全体の参考価格¥330,296

詳しい計算ルールはデータ方法のページで確認できます。

一部の購入リンクはアフィリエイトリンクです。リンク経由でご購入いただくと当サイトが手数料を受け取ることがありますが、お支払い金額は変わりません。

Qwen3.6 35B A3B をローカルで動かす前に知っておきたいこと

  1. サンプリングパラメータは 27B と異なる

    思考モードの一般的なタスクでは、公式は temperature 1.0、top_p 0.95、top_k 20、presence_penalty 1.5 を推奨しています（同世代の 27B ではここが 0）。コーディングでは temperature 0.6、presence_penalty 0、非思考モードでは 0.7、0.8、20、presence_penalty 1.5 です。

  2. どの量子化を選ぶか

    1 トークンあたり 3B のパラメータしか読み込まないので、量子化の段階が速度に与える影響は Dense モデルより小さいものの、サイズへの影響は同じように大きくなります。24GB カードなら 4-bit（約 22.1 GB）です。48GB 以上のカードやユニファイドメモリ搭載マシンなら、そのまま 8-bit（約 36.9 GB）を使え、RTX A6000 でも約 99 tokens/s 出ます。

  3. MTP でさらに速くなる

    llama.cpp はすでに MTP による投機的デコードに対応しており、MTP 版 GGUF が余分に使うのは約 1 GB だけです。Unsloth によると、このモデルで MTP を有効にすると「RTX 6000」1 枚で約 240 tokens/s 出ますが、どの世代のカードで、どの量子化なのかは書かれていません。これは Unsloth の数値で、当サイトの速度は MTP を含めていません。Ollama のタグは qwen3.6:35b-a3b です。

  4. 思考用のコンテキストは十分に確保する

    公式は、思考能力を保つためにコンテキストを少なくとも 128K 確保するよう推奨しています。24GB カードの 4-bit では最大約 123K で、この推奨をわずかに下回ります。十分に確保したいなら 3-bit（128K で約 20.6 GB）に落とすか、32GB のカードに替えましょう。

起動コマンド

Ollama

  • Windows
  • macOS
  • Linux
ターミナル
ollama run qwen3.6:35b-a3b

llama.cpp

  • NVIDIA
  • AMD
  • Mac
  • CPU
すべて VRAM に載せる
ターミナル
llama-server -hf unsloth/Qwen3.6-35B-A3B-GGUF:Q4_K_M -c 8192
MoE オフロード

VRAM が足りないときは --cpu-moe を付けると、ルーティングされるエキスパートを RAM に置けます（約 21 GB 必要）。

ターミナル
llama-server -hf unsloth/Qwen3.6-35B-A3B-GGUF:Q4_K_M -c 8192 -ngl 99 \
  --cpu-moe

vLLM

  • Linux
  • NVIDIA
  • AMD
オリジナルの重み
ターミナル
vllm serve Qwen/Qwen3.6-35B-A3B
NVFP4 · Blackwell

Blackwell 世代の GPU（RTX 50 シリーズ、RTX PRO 6000、B200）は NVFP4 の重みをネイティブに扱え、サイズは元の約 3 割です。

ターミナル
vllm serve nvidia/Qwen3.6-35B-A3B-NVFP4

MLX

  • Apple シリコン

画像を扱うモデルは mlx-vlm で動かします。Mac で pip install mlx-vlm を済ませてから実行すると、Hugging Face から MLX 版の重みを取得してサーバーを起動します。

ターミナル
mlx_vlm.server --model mlx-community/Qwen3.6-35B-A3B-4bit

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。 データ方法

Qwen ファミリーのほかのモデル

モデル総パラメータアクティブ4-bit のサイズ
Qwen3 8BDense8.2B8.2B5 GB
Qwen3.5 9BDense9.7B9.7B5.7 GB
Qwen3.6 27BDense27.8B27.8B16.8 GB
Qwen3.8 27BDense27.8B27.8B16.5 GB
Qwen3 32BDense32.8B32.8B19.8 GB
Qwen3.8 Flash NextMoE176B6B111.3 GB
Qwen3.8 2.4T A95BMoE2,446B95B1,310.9 GB

Qwen について