Qwen 3.6 27Bは動く？

Qwen 3.6 27B はアリババが提供するミドルサイズの実用モデルで、クラウドに頼らずチャット、推論、コーディング、画像処理までを 1 つのローカルモデルでこなしたい人向けです。これは dense（密）な 27B モデルなので、すべてのパラメータがすべてのトークンに対して動作し、その分フットプリントも大きくなります。4-bit 量子化で約 16.4 GB、ロードするだけでも 24 GB ほどの RAM が必要です。そのため RTX 3060 のような 12 GB のカードでは収まらず動かせません。24 GB の RTX 4090 か、メモリ容量の大きい Apple Silicon Mac がちょうど対象となる領域です。

RTX 4090 では 4-bit でおよそ 52 トークン/秒（tok/s）が見込め、読む速度より速くストリーミングされるため、対話型アシスタントとして十分に応答が速く感じられます。M シリーズの Max では 21 tok/s ほどに落ち着きますが、チャットやコーディングには引き続き快適です。256K のコンテキストウィンドウが目を引く数字ですが、これはデフォルトではなく上限と考えてください。コンテキストを埋めるほどメモリは急激に増え、128K コンテキストでは作業セット全体が約 45.4 GB に達します。ワークステーション級の構成でない限り、日常のコンテキストは控えめに保ち、長いウィンドウは本当に必要な稀な作業のために取っておくのが賢明です。

もう 1 つの定番である 27B モデル Gemma 3 27B と比べると、両者は一長一短です。Gemma 3 はチャットとビジョンをカバーしますが、Qwen 3.6 27B はその同じビジョン対応のベースに、概してより強力なコーディングと推論を加えています。そのため、すべてを 1 モデルでまかないたいなら、より守備範囲の広い選択肢になります。メモリに余裕がない場合は、はるかに小さい Qwen 3 1.7B が現実的な代替となりますが、こちらはチャット専用で、推論も画像認識もできません。Qwen 3.6 27B の際立った特長は 1 つの dense モデルでカバー範囲が広いことであり、Apache 2.0 ライセンスで提供されるため、ライセンスの心配なく商用利用や本番環境での利用が可能です。