Hunyuan をローカルで動かすには?バージョン別の必要VRAM
Hunyuan には現在ローカルで動かせるバージョンが 2 個あります。最小の Hy3 は 4-bit 量子化で VRAM 186GB が必要です。最大の Hy4 preview は MoE モデルで、MoE オフロードを使う場合は VRAM 19GB と RAM 約 452GB が必要です。最も安く動かせるデバイスは Arc Pro B70 × 8 枚 で、約 ¥2,774,496 です。
| バージョン | 公開日 | コンテキスト | ライセンス | ||
|---|---|---|---|---|---|
| 2026年8月28日 | 770B | 49B | 1M | Apache-2.0 | |
| 2026年7月6日 | 295B | 21B | 256K | Apache-2.0 |
Hunyuan について
Hunyuan(混元、2026 年から海外市場では Hy と略称)は Tencent(テンセント)の大規模言語モデルシリーズで、Tencent Hunyuan チームが開発しています(テンセントは 1998 年創業、本社は深圳)。Hunyuan は 2023 年 9 月に初めて発表され、2024 年から重みを順次オープンソース化しています。主力の言語モデルはいずれも MoE で、エージェント、コーディング、オフィス業務に重点を置いています。
2024 年 11 月にオープンソース化された Hunyuan-Large は 3890 億パラメータで、1 トークンごとに使うのは 520 億です。テンセントは当時最大のオープンソース Transformer MoE だとしていました。2025 年 6 月の Hunyuan-A13B は、速い思考と遅い思考を切り替えられます。2026 年初めにテンセントは学習基盤を作り直し、4 月にオープンソース化した Hy3 preview がその最初のモデルになりました。7 月の正式版 Hy3 は 2950 億パラメータで、1 トークンごとに使うのは 210 億です。8 月の Hy4 preview は 7700 億パラメータ、1 トークンごとに 490 億まで拡大し、ゲート付きの DeepSeek Sparse Attention を採用、コンテキストは 100 万トークンです。ライセンスにも一度大きな変化がありました。Hy3 preview 以前のモデルはテンセント独自のライセンスで、EU などの地域には適用されませんでしたが、Hy3 と Hy4 preview は Apache 2.0 に変わり、商用利用できます。
- 提供元Tencent
- 収録バージョン数2
- パラメータ数295B – 770B
- 最新バージョンHy4 preview
- ライセンス
- Apache-2.0
- 公式サイト
- hy.tencent.ai
- Hugging Face の組織
- tencent
Hunyuan 各モデルの 2-bit 量子化での必要 VRAM は?
2-bit は Q2 とも呼ばれ、よく使われる GGUF ファイルには Q2_K や UD-Q2_K_XL があります。サイズが最も小さい一方で品質の低下も最も大きく、VRAM が厳しいときにまずモデルを動かすのに向いています。下の表は各行が Hunyuan の各バージョン、各列がコンテキスト長で、セルは Q2 で動かすときに必要な合計 VRAM(重み + KV キャッシュ + 実行時オーバーヘッド 1.1GB)です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 307.2推定 | 311.2 | 320.1 | 331.9 | 402.5 | |
| 107.2GGUF | 119 | 151.2 | 194.2 | — |
Hunyuan 各モデルの 4-bit 量子化での必要 VRAM は?
4-bit は Q4 とも呼ばれ、最もよく使われる Q4_K_M ファイルにあたります。サイズと品質のバランスがよく、ローカル実行の標準的な選択肢です。下の表は各行が Hunyuan の各バージョン、各列がコンテキスト長で、セルは Q4 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 467.3GGUF | 471.3 | 480.2 | 491.9 | 562.6 | |
| 182.2GGUF | 194 | 226.2 | 269.2 | — |
Hunyuan 各モデルの 8-bit 量子化での必要 VRAM は?
8-bit は Q8 とも呼ばれ、Q8_0 ファイルにあたります。品質は元のモデルに最も近く、サイズも最大です。下の表は各行が Hunyuan の各バージョン、各列がコンテキスト長で、セルは Q8 で動かすときに必要な合計 VRAM です。
| バージョン | 重みサイズGB | 32K コンテキストGB | 128K コンテキストGB | 256K コンテキストGB | 1M コンテキストGB |
|---|---|---|---|---|---|
| 857推定 | 861 | 869.9 | 881.6 | 952.3 | |
| 317.7GGUF | 329.5 | 361.7 | 404.7 | — |
よくある質問
Hunyuan はオープンソースですか?無料で商用利用できますか?
できます。本サイトで扱う Hy3 と Hy4 preview はどちらも Apache 2.0 ライセンスで、商用利用・改変・再配布ができます。条件は、ライセンス文を添付し、著作権表示を残し、変更したファイルにはその旨を明記することです。ネットで見かける「Hunyuan は EU では使えない」という話は、それ以前のモデルのことです。たとえば Hunyuan-A13B は Tencent Hunyuan Community License を採用しており、EU、英国、韓国には適用されないと明記されています。Hy3 と Hy4 preview のライセンスにはこの条項がありません。
Hunyuan は Ollama で動かせますか?
今のところ動かせません。Ollama の公式ライブラリには Hy3 も Hy4 preview もなく、クラウド版さえありません。Hy3 は llama.cpp で bartowski の GGUF を動かせます。メインラインが 2026 年 7 月から対応しており、MTP による投機的デコードも使えます。Hy4 preview への対応は 2026 年 9 月にようやくメインラインにマージされましたが、既存の AngelSlim の GGUF は今もパッチを当てた llama.cpp を必要とします。どちらのモデルにも vLLM の公式レシピがあるので、vLLM で公式の重みを動かすほうが確実です。