Qwen3.5 9B をローカルに導入するには？

VRAMGlass 編集部 · 2026年9月10日更新

Qwen3.5 9B は 9.7B パラメータの Dense モデルです。Q4 量子化では最低 8GB、8K コンテキストなら 12GB のVRAMを推奨します。現在最も安く動かせるのは Tesla V100 16GB（で約 ¥20,097）で、推定 96.9 tokens/s です。

Qwen3.5 9B のバージョン情報

発売日2026年2月27日

Hugging Face リポジトリQwen/Qwen3.5-9B

リビジョン—

ライセンスApache-2.0

アーキテクチャDense

GGUF リポジトリunsloth/Qwen3.5-9B-GGUF

Ollama タグ—

Q4 最小VRAM8 GB · Q4_K_M · 8K

パラメータ数9.7B

レイヤー数32

隠れ層次元4,096

KV ヘッド数4

ヘッド次元256

最大コンテキスト256K

提供元Alibaba

Qwen3.5 9B のローカル実行に必要なVRAMは？

量子化	重みサイズGB	8K 時の合計GB	32K 時の合計GB	128K 時の合計GB
1-bit	2.3推定	4.3	7.3	19.3
2-bit	4.1GGUF	5.6	8.6	20.6
3-bit	5.1GGUF	6.6	9.6	21.6
4-bit	5.7GGUF	7.4	10.4	22.4
5-bit	6.6GGUF	8.5	11.5	23.5
8-bit	9.5GGUF	12	15	27
FP16	17.9GGUF	20.9	23.9	35.9

合計 = 重み + KV キャッシュ（FP16）+ 実行時オーバーヘッド 1GB。GGUF と付いた重みはリポジトリの実測ファイルサイズ、「推定」はパラメータあたりのバイト数からの概算です。このモデルの上限 256K を超えるコンテキストは「—」と表示します。各段はリポジトリにあるそのビット幅のファイルを使い、unsloth 動的量子化を優先するため、ファイル名はモデルごとに異なります。

Qwen3.5 9B を動かせるGPUは？

Xianyu

デバイス	VRAMGB	価格	推定 t/s	推奨コンテキスト
Tesla V100 16GB	16	¥20,09713 件の出品	96.9	32K
GeForce RTX 2080 Ti 22GB	22	¥59,3783 件の出品	68	32K
Instinct MI50 32GB	32	¥62,2324 件の出品	79.9	128K
Radeon RX 6950 XT	16	¥68,49013 件の出品	46.2	32K
Radeon RX 7800 XT	16	¥70,79611 件の出品	49.9	32K
Tesla V100 32GB	32	¥73,08011 件の出品	96.9	128K
Radeon RX 7900 XT	20	¥98,17816 件の出品	63.3	32K
GeForce RTX 5060 Ti 16GB	16	¥107,0624 件の出品	50.2	32K
Arc Pro B60	24	¥120,46810 件の出品	33.3	128K
Radeon RX 7900 XTX	24	¥132,45817 件の出品	75.2	128K
Radeon RX 9070 XT	16	¥139,30912 件の出品	51.1	32K
GeForce RTX 5070	12	¥141,02210 件の出品	73.8	32K
GeForce RTX 4080	16	¥176,9919 件の出品	78.4	32K
GeForce RTX 3090	24	¥184,98415 件の出品	100.4	128K
Arc Pro B70	32	¥224,9496 件の出品	44	128K
GeForce RTX 5070 Ti	16	¥226,0683 件の出品	96.5	32K
Radeon AI PRO R9700	32	¥252,3548 件の出品	51.1	128K
CMP 170HX 40GB	40	¥258,0644 件の出品	158.9	128K
Radeon PRO W7800	32	¥283,1853 件の出品	46.2	128K
GeForce RTX 5080	16	¥284,32712 件の出品	102.8	32K
CMP 170HX 64GB	64	¥320,8678 件の出品	152.9	128K
RTX PRO 4000 Blackwell	24	¥357,40718 件の出品	73.8	128K
Instinct MI210	64	¥422,49412 件の出品	123.1	128K
Radeon PRO W7900	48	¥502,4255 件の出品	68.1	128K
GeForce RTX 4090	24	¥536,68116 件の出品	107.5	128K
GeForce RTX 5090 D V2	24	¥545,81614 件の出品	139.3	128K
RTX PRO 4500 Blackwell	32	¥590,35016 件の出品	96.5	128K
GeForce RTX 4090 48GB	48	¥607,4783 件の出品	107.5	128K
A100 40GB PCIe	40	¥706,8214 件の出品	158.4	128K
Mac Studio M4 Max 128GB	128	¥735,36813 件の出品	48.1	128K
DGX Spark 128GB	128	¥742,21931 件の出品	31.1	128K
GeForce RTX 5090 D	32	¥751,35413 件の出品	179.1	128K
MacBook Pro M4 Max 128GB	128	¥808,4484 件の出品	48.1	128K
Mac Studio M5 Max 128GB	128	¥903,2236 件の出品	53.9	128K
GeForce RTX 5090	32	¥1,000,28313 件の出品	179.1	128K
RTX PRO 5000 Blackwell 48GB	48	¥1,068,79515 件の出品	139.3	128K
MacBook Pro M5 Max 128GB	128	¥1,251,4957 件の出品	53.9	128K
RTX PRO 5000 Blackwell 72GB	72	¥1,484,43817 件の出品	139.3	128K
RTX PRO 6000D	84	¥1,552,95117 件の出品	159.6	128K
RTX PRO 6000 Blackwell	96	¥2,829,5676 件の出品	179.1	128K
Mac Studio M3 Ultra 512GB	512	¥2,966,5926 件の出品	70.8	128K
Arc Pro B65	32	—出品なし	44	128K
GeForce RTX 4080 SUPER 32GB	32	—出品なし	80.4	128K
Instinct MI100	32	—出品なし	94.6	128K
Ryzen AI Max+ 395 128GB	128	—出品なし	21	128K

判定基準：重み + KV キャッシュ + 実行時オーバーヘッド ≤ 利用可能メモリ、1 枚構成。MoE モデルの「オフロード」はエキスパート重みをシステム RAM に置けば動作することを示し（VRAM にはアテンション層と KV キャッシュのみ）、その速度は RAM 帯域幅 70 GB/s を前提に推定。コンテキスト列は収まる最大段階です。

Ollama / llama.cpp / vLLM で Qwen3.5 9B をローカルに導入する

Ollama

Ollama ライブラリに公式タグはまだありません。

llama.cpp

llama.cpp は Hugging Face から GGUF を直接取得します。-c はコンテキスト長です。

llama-server -hf unsloth/Qwen3.5-9B-GGUF:Q4_K_M -c 8192

vLLM

vLLM は元の精度の重みを読み込むため、GGUF よりはるかに多くのメモリ（通常は複数枚）が必要です。

vllm serve Qwen/Qwen3.5-9B

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。データ方法

よくある質問

Qwen3.5 9B にはどれくらいのVRAMが必要ですか？

Q4_K_M・8K コンテキストでは Qwen3.5 9B に約 8GB のVRAMが必要で、12GB あれば余裕があります。

Qwen3.5 9B を動かせる最も安いGPUは？

Tesla V100 16GB です。VRAM 16GB、現在の中央値は約 ¥20,097、推定 96.9 tokens/s。

Qwen3.5 9B は Ollama で動かせますか？

まだできません。Ollama ライブラリに公式タグがないため、llama.cpp で GGUF を読み込んでください。