Qwen3.5 9B をローカルに導入するには？

VRAMGlass 編集部 · 2026年9月10日更新

Qwen3.5 9B は 9.7B パラメータの Dense モデルです。Q4 量子化では最低 8GB、8K コンテキストなら 12GB のVRAMを推奨します。現在最も安く動かせるのは Tesla V100 16GB（で約 ¥46,846）で、推定 96.9 tokens/s です。

Qwen3.5 9B のバージョン情報

発売日2026年2月27日

Hugging Face リポジトリQwen/Qwen3.5-9B

リビジョン—

ライセンスApache-2.0

アーキテクチャDense

GGUF リポジトリunsloth/Qwen3.5-9B-GGUF

Ollama タグ—

Q4 最小VRAM8 GB · Q4_K_M · 8K

パラメータ数9.7B

レイヤー数32

隠れ層次元4,096

KV ヘッド数4

ヘッド次元256

最大コンテキスト256K

提供元Alibaba

Qwen3.5 9B のローカル実行に必要なVRAMは？

量子化	重みサイズGB	8K 時の合計GB	32K 時の合計GB	128K 時の合計GB
1-bit	2.3推定	4.3	7.3	19.3
2-bit	4.1GGUF	5.6	8.6	20.6
3-bit	5.1GGUF	6.6	9.6	21.6
4-bit	5.7GGUF	7.4	10.4	22.4
5-bit	6.6GGUF	8.5	11.5	23.5
8-bit	9.5GGUF	12	15	27
FP16	17.9GGUF	20.9	23.9	35.9

合計 = 重み + KV キャッシュ（FP16）+ 実行時オーバーヘッド 1GB。GGUF と付いた重みはリポジトリの実測ファイルサイズ、「推定」はパラメータあたりのバイト数からの概算です。このモデルの上限 256K を超えるコンテキストは「—」と表示します。各段はリポジトリにあるそのビット幅のファイルを使い、unsloth 動的量子化を優先するため、ファイル名はモデルごとに異なります。

Qwen3.5 9B を動かせるGPUは？

eBay

デバイス	VRAMGB	価格	推定 t/s	推奨コンテキスト
Tesla V100 16GB	16	¥46,84634 件の出品	96.9	32K
Radeon RX 6950 XT	16	¥76,7979 件の出品	46.2	32K
GeForce RTX 2080 Ti 22GB	22	¥84,6303 件の出品	68	32K
Radeon RX 7800 XT	16	¥87,24124 件の出品	49.9	32K
GeForce RTX 5060 Ti 16GB	16	¥107,51612 件の出品	50.2	32K
Radeon RX 7900 XT	20	¥107,51624 件の出品	63.3	32K
Tesla V100 32GB	32	¥110,58823 件の出品	96.9	128K
Instinct MI50 32GB	32	¥117,9607 件の出品	79.9	128K
GeForce RTX 5070	12	¥119,03523 件の出品	73.8	32K
Radeon RX 9070 XT	16	¥122,10712 件の出品	51.1	32K
Radeon RX 7900 XTX	24	¥153,44025 件の出品	75.2	128K
Instinct MI100	32	¥153,4407 件の出品	94.6	128K
GeForce RTX 5070 Ti	16	¥184,31310 件の出品	96.5	32K
GeForce RTX 4080	16	¥193,98930 件の出品	78.4	32K
GeForce RTX 3090	24	¥238,07180 件の出品	100.4	128K
GeForce RTX 5080	16	¥276,46914 件の出品	102.8	32K
RTX PRO 4000 Blackwell	24	¥453,1023 件の出品	73.8	128K
GeForce RTX 4090	24	¥491,34740 件の出品	107.5	128K
Radeon PRO W7900	48	¥536,8113 件の出品	68.1	128K
RTX PRO 4500 Blackwell	32	¥660,4543 件の出品	96.5	128K
A100 40GB PCIe	40	¥752,45713 件の出品	158.4	128K
Instinct MI210	64	¥775,03511 件の出品	123.1	128K
MacBook Pro M4 Max 128GB	128	¥852,2933 件の出品	48.1	128K
GeForce RTX 5090	32	¥998,36112 件の出品	179.1	128K
Mac Studio M4 Max 128GB	128	¥1,005,5804 件の出品	48.1	128K
MacBook Pro M5 Max 128GB	128	¥1,113,5575 件の出品	53.9	128K
RTX PRO 6000 Blackwell	96	¥2,608,7944 件の出品	179.1	128K
Mac Studio M3 Ultra 512GB	512	¥3,379,06811 件の出品	70.8	128K
Arc Pro B60	24	—出品なし	33.3	128K
GeForce RTX 5090 D V2	24	—出品なし	139.3	128K
Arc Pro B65	32	—出品なし	44	128K
Arc Pro B70	32	—出品なし	44	128K
GeForce RTX 4080 SUPER 32GB	32	—出品なし	80.4	128K
GeForce RTX 5090 D	32	—出品なし	179.1	128K
Radeon AI PRO R9700	32	—出品なし	51.1	128K
Radeon PRO W7800	32	—出品なし	46.2	128K
CMP 170HX 40GB	40	—出品なし	158.9	128K
GeForce RTX 4090 48GB	48	—出品なし	107.5	128K
RTX PRO 5000 Blackwell 48GB	48	—出品なし	139.3	128K
CMP 170HX 64GB	64	—出品なし	152.9	128K
RTX PRO 5000 Blackwell 72GB	72	—出品なし	139.3	128K
RTX PRO 6000D	84	—出品なし	159.6	128K
DGX Spark 128GB	128	—出品なし	31.1	128K
Mac Studio M5 Max 128GB	128	—出品なし	53.9	128K
Ryzen AI Max+ 395 128GB	128	—出品なし	21	128K

判定基準：重み + KV キャッシュ + 実行時オーバーヘッド ≤ 利用可能メモリ、1 枚構成。MoE モデルの「オフロード」はエキスパート重みをシステム RAM に置けば動作することを示し（VRAM にはアテンション層と KV キャッシュのみ）、その速度は RAM 帯域幅 70 GB/s を前提に推定。コンテキスト列は収まる最大段階です。

Ollama / llama.cpp / vLLM で Qwen3.5 9B をローカルに導入する

Ollama

Ollama ライブラリに公式タグはまだありません。

llama.cpp

llama.cpp は Hugging Face から GGUF を直接取得します。-c はコンテキスト長です。

llama-server -hf unsloth/Qwen3.5-9B-GGUF:Q4_K_M -c 8192

vLLM

vLLM は元の精度の重みを読み込むため、GGUF よりはるかに多くのメモリ（通常は複数枚）が必要です。

vllm serve Qwen/Qwen3.5-9B

ファイル名はその週のモデルライブラリ取得時点のものです。定義はデータ方法を参照してください。データ方法

よくある質問

Qwen3.5 9B にはどれくらいのVRAMが必要ですか？

Q4_K_M・8K コンテキストでは Qwen3.5 9B に約 8GB のVRAMが必要で、12GB あれば余裕があります。

Qwen3.5 9B を動かせる最も安いGPUは？

Tesla V100 16GB です。VRAM 16GB、現在の中央値は約 ¥46,846、推定 96.9 tokens/s。

Qwen3.5 9B は Ollama で動かせますか？

まだできません。Ollama ライブラリに公式タグがないため、llama.cpp で GGUF を読み込んでください。