Qwen 3 14Bは動く?
AlibabaのQwen 3 14Bは、推奨の4bit量子化で約16 GBのRAMが必要です(ダウンロードは9.0 GB)。あなたのハードウェアを下で即チェック — データは一切ブラウザの外に出ません。 NVIDIA RTX 3060 12GBならおよそ ~34 tok/s が目安です。
ハードウェア情報を読み取っています…
実際の使用メモ
Qwen 3 14B は、8B では少し物足りないが 30B クラスのダウンロードまでは踏み込みたくない、というときに手が伸びるモデルです。14.8B パラメータの dense モデルなので、すべてのトークンでモデル全体が動作します。4-bit 量子化では約 9 GB に収まります。これは 12 GB のカードにそれなりのコンテキストを載せて快適に動かすにはやや大きすぎますが、16 GB の GPU には十分収まり、RAM の多い Apple Silicon Mac ならユニファイドメモリ内で快適に動きます。必要な RAM の目安は約 16 GB です。ビジョンや本格的なコード生成ではなく、チャットと推論向けに作られています。
日常的に使うと、小型モデルよりも明らかに慎重に考える印象で、特に複数ステップのプロンプトでは reasoning モードの価値が活きてきます。RTX 3060 12GB では 4-bit で約 34 tok/s、M シリーズの Max はそのすぐ後ろの約 39、4090 なら約 95 まで伸び、読む速度をはるかに上回ります。128K のコンテキストウィンドウは実用的ですが代償も大きく、これを埋めると合計メモリは約 31 GB まで増えます。そのため 24 GB 超の構成でない限り、実作業のコンテキストは数千トークン程度に抑えておくのが賢明です。
同じパラメータ数を持つ DeepSeek R1 14B と比べると、Qwen 3 14B はより汎用的な選択肢です。R1 は長い chain-of-thought 推論に強く寄る傾向がある一方、Qwen 3 14B は日常的なチャットや構造化された指示への追従において、全体としてよりバランスが取れていると感じられます。同じファミリーでさらに軽いものが欲しい場合は、Qwen 3 1.7B が深さと引き換えにフットプリントを大幅に削減します。Qwen 3 14B の際立った特長は Apache 2.0 で提供される点で、プロバイダ固有の制約なしに商用利用も本番環境での利用も可能です。この性能水準では珍しいことです。
スペック
量子化別サイズ
| 量子化 | ビット/重み | ダウンロード | 必要RAM | 品質 |
|---|---|---|---|---|
| Q2_K | 3.35 | 6.2 GB | 12 GB | 劣化が目立つ |
| Q4_K_M推奨 | 4.85 | 9.0 GB | 16 GB | 推奨 |
| Q5_K_M | 5.65 | 10.5 GB | 16 GB | 高品質 |
| Q8_0 | 8.5 | 15.7 GB | 24 GB | ほぼ原品質 |
| F16 | 16 | 29.6 GB | 48 GB | オリジナル |
サイズはパラメータ数×ビット/重みからの推定値です。実際のGGUFビルドとは多少異なります。 · データ更新日: 2026-06-11 · 数値の算出方法 →
コンテキスト長別の必要メモリ
| コンテキスト | KVキャッシュ(推定) | 合計メモリ(Q4) |
|---|---|---|
| 4K トークン | ~0.7 GB | ~9.7 GB |
| 8K トークン | ~1.4 GB | ~10.4 GB |
| 32K トークン | ~5.5 GB | ~14.5 GB |
| 128K トークン | ~22.1 GB | ~31.1 GB |
KVキャッシュはコンテキスト長に比例して増えます — 4Kで収まるモデルでも32Kではメモリ不足になることがあります。推定はgrouped-query attention使用時のFP16キャッシュを前提としており、実際の使用量はランタイムによって異なります。
ハードウェア別の推定速度
| ハードウェア | 帯域幅 | 速度の目安 |
|---|---|---|
| NVIDIA RTX 3060 12GB | 360 GB/s | ~34 tok/s |
| NVIDIA RTX 4090 24GB | 1008 GB/s | ~95 tok/s |
| Apple M-series (base) | 100 GB/s | ~9 tok/s |
| Apple M-series Pro | 270 GB/s | ~26 tok/s |
| Apple M-series Max | 410 GB/s | ~39 tok/s |
| CPU only (dual-channel DDR5) | 60 GB/s | ~6 tok/s |
トークン生成はメモリ帯域幅に律速されます:tok/s ≈ 帯域幅 × 0.85 ÷ Q4でのモデルサイズ。実際の数値はランタイムやコンテキスト長によって変わります。
ローカルで動かす
いちばん簡単なのはOllama — コマンド1つでチャットを始められます:
ollama run qwen3:14b