Gemma 4 31Bは動く？

Gemma 4 31B は Google が公開する中〜大規模のオープンウェイトモデルで、パラメータ数は 30.7B。チャット、コーディング、推論、ビジョンを 1 つにまとめた構成です。ノートPCで気軽に動かせるモデルではありません。4-bit 量子化でも約 18.6 GB あり、ロードするだけで最低 32 GB の RAM が必要なため、RTX 3060 のような 12 GB のカードでは単純に収まりません。現実的な動作環境は RTX 4090 のような 24 GB の GPU か、ユニファイドメモリに余裕のある Apple Silicon Mac です。ハードウェアが揃っているなら、ローカルモデルが本当に実用的だと感じ始めるのがこのクラスです。

日常利用では快適ですが、爆速というわけではありません。RTX 4090 では 4-bit でおよそ 46 tok/s が見込め、ストリーミング出力を読みながら追える速さです。Apple M Max では 19 tok/s 前後に落ち着きますが、対話用途には十分です。DDR5 の CPU のみだとおよそ 3 tok/s まで下がり、ここは忍耐が前提の領域です。256K のコンテキストウィンドウは広大ですが、コストも大きく、128K に近づけるだけで合計メモリは約 49.3 GB に達します。フルウィンドウは上限と捉え、余裕がない限り作業用コンテキストは控えめに保つのが賢明です。

ほぼ同規模の 30.5B の兄弟分である Qwen 3 30B-A3B との比較では、トレードオフはアーキテクチャにあります。Qwen の mixture-of-experts 設計はトークンあたりの処理が軽くなりがちな一方、Gemma 4 31B は dense モデルで毎回すべての重みを使うため、ビジョンや幅広い指示追従で総じて安定感があります。もっと小さいものが欲しいなら、より軽量な Gemma 3 4B が選択肢です。このモデルの最大の強みは守備範囲の広さです。チャット、コード、推論、画像を 1 つでカバーし、しかもクリーンな Apache 2.0 ライセンスのもと、プロバイダ固有の制限なく商用・本番環境で利用できます。