Qwen 3.5 9Bは動く？

Qwen 3.5 9B はアリババが2026年初頭にリリースした汎用モデルで、興味深いのはテキストだけでなく、チャットや推論と並んでビジョン（画像理解）にも対応している点です。4-bit quant ではおよそ 5.5 GB に収まり、12 GB の GPU にはぎりぎりですが実用的に載せられ、Apple Silicon Mac のユニファイドメモリなら余裕を持って動きます。さらに小さい環境に押し込みたい場合は約 3.8 GB の 2-bit ビルドまで下げられますが、その分だけ品質を犠牲にします。システム RAM は実用的な下限として 12 GB ほどを見込んでおくとよいでしょう。

日常的な利用では動作は軽快に感じられます。RTX 3060 では 4-bit で約 56 tok/s、M シリーズの Max なら約 64 tok/s が見込め、いずれも読む速度より速いです。RTX 4090 をお持ちなら約 157 tok/s と一気に駆け抜けます。256K のコンテキストウィンドウが目玉の数字ですが、メモリについては現実的に考えてください。128K コンテキストでも全体のフットプリントは約 23.2 GB まで膨らみ、12 GB のカードを大きく超えてしまいます。24 GB の GPU に余裕がない限り、作業中のコンテキストは控えめに保つのが賢明です。

同じファミリー内での位置づけは明快です。Qwen 3 0.6B と 1.7B はハードウェアが限られた環境向けのチャット専用の軽量モデルですが、この 9B は推論と画像理解を同じモデルで欲しいときに手を伸ばす一台です。ビジョン対応の同規模の比較対象としては GLM-4.6V-Flash があり、両者はタスクによって優劣が入れ替わるのが一般的です。Qwen 3.5 9B の際立った特長は、ひとつのダウンロードで幅広い用途をこなせる点にあり、Apache 2.0 ライセンスのおかげで一切の制約なく商用利用できます。