DeepSeek R1 14Bは動く？

DeepSeek R1 14B は推論（reasoning）モデルであり、軽快なチャット相手ではありません。14.8B パラメータという規模は、ちょうど扱いにくい中間地点にあります。4-bit 量子化で約 9 GB に収まりますが、ここにコンテキストを加えると 12 GB のカードはすぐにあふれ、推奨される最小 RAM は 16 GB です。RTX 4090 のような 24 GB の GPU や、メモリを多めに積んだ Apple Silicon Mac ではきれいに動きますが、12 GB の RTX 3060 ではぎりぎりの限界です。MIT ライセンスは気楽な部分で、商用利用を含めて自由に使え、提供元による制約は一切ありません。

日常的な使い方では、答える前に「声に出して考える」ため、どのプロンプトでも長い推論トークンの連なりを覚悟してください。RTX 4090 では約 95 tok/s 出て、推論がよどみなく流れるだけの速さがあります。RTX 3060 では約 34 tok/s、M-Max の Mac ではおよそ 39 tok/s まで落ち、その長い思考の軌跡がもたつきとして感じられ始めます。128K のコンテキストは実在しますが高コストで、これを満杯まで使うと合計メモリは約 31.1 GB まで膨らみ、16 GB のどんな構成でも到底足りません。したがって 32 GB 以上のマシンがない限り、作業コンテキストは控えめに保つのが賢明です。

同じ 14.8B パラメータを持ちつつ普通のチャットもこなす Qwen 3 14B と比べると、R1 14B はより専門特化した選択肢です。多段階の数学や論理では概してこちらに分があるものの、単純なやり取りには重すぎて、その場面では Qwen のほうが速く率直です。際立った強みは、自分のサーバーで実際にホストできる規模で、透明性のある推論を提供できる点にあります。同じアプローチをもっと軽量に求めるなら、DeepSeek R1 7B がパラメータ数をおおよそ半分に抑え、12 GB のカードにずっと余裕をもって収まります。