DeepSeek R1 32Bは動く？

DeepSeek R1 32B は、手早いチャットよりも思考の連鎖（chain-of-thought）をローカルで動かしたい人向けの推論モデルです。パラメータ数は 32.8B あり、気軽にダウンロードできる規模ではありません。4-bit 量子化でおよそ 19.9 GB、快適に動かすには最低でも 32 GB の RAM がほしいところです。RTX 3060 のような 12 GB のカードには収まらないので、現実的には 24 GB の GPU、メモリを多く積んだ Apple Silicon の Mac、あるいはシステムメモリに余裕のあるワークステーションが必要になります。そうしたハードウェアがあるなら、自前でホストできるオープンウェイト推論モデルとしては優秀な部類に入ります。

日常的な利用では回答前に「考えを声に出す」のが特徴で、それこそが狙いであると同時にコストでもあります。応答のたびに推論でトークンを消費するため、生の速度が効いてきます。RTX 4090 なら 4-bit でおよそ 43 トークン/秒（tok/s）が見込め、可視化された推論ストリームを読めるくらいの速さは保てます。Apple M Max では約 18 tok/s まで落ち、DDR5 の CPU では約 3 tok/s と這うような速度になり、バッチ処理には使えてもインタラクティブ用途には向きません。128K のコンテキストは寛大ですが、これを埋めるのは高くつきます。フルウィンドウでは合計メモリがおよそ 51.6 GB まで膨らむので、潤沢なマシンを用意するか、コンテキストを控えめに保つ計画を立ててください。

同じサイズで推論も扱える Qwen 3 32B と比べると、DeepSeek R1 32B は明示的な段階的検討により強く振り切る傾向があり、一方の Qwen 3 32B はチャットと推論が混在する作業全般でよりバランスが取れた印象です。R1 32B の際立った持ち味は、その可視化された推論トレースにあります。数学、論理、複数ステップの問題で、モデルの過程を見て検算したい場合、このサイズ帯では他に並ぶものがなかなかありません。ライセンスは MIT で配布されているため、一部のオープンウェイト系列に付随するプロバイダー固有の条項なしに、商用利用や本番環境での運用が可能です。