DeepSeek R1 1.5Bは動く？

DeepSeek R1 1.5B は蒸留された推論モデルで、この「推論」という点が肝心です。気軽に雑談するのではなく、問題を声に出して考え抜くようチューニングされています。パラメータは 1.8B と小型で、4-bit 量子化なら約 1.1 GB、8-bit ビルドでもわずか 1.9 GB に収まるため、最小 3 GB をかなり下回る RAM で動きます。つまりどこでも動作するということです。古いノート PC、Raspberry Pi クラスのボード、スマートフォン、あるいは GPU にほとんど負荷をかけないバックグラウンド補助としても使えます。ollama run deepseek-r1:1.5b で取得すれば、数秒で動かし始められます。

日常的な使用では実際にきびきびと動きます。RTX 3060 なら約 280 tok/s、4090 では 785 tok/s 近く、Apple M シリーズの Max でおよそ 319 tok/s 出るので、応答が表示されるまでの時間は素の速度よりも、どれだけ長く推論するかに左右されます。DDR5 環境の純粋な CPU 実行でもおよそ 47 tok/s をこなします。ただし 128K のコンテキストには注意が必要です。このモデルは自身の思考連鎖（chain-of-thought）でトークンを大量に消費し、そのウィンドウを埋めると合計メモリは約 9.7 GB まで膨らみ、アイドル時のフットプリントを大きく上回ります。作業コンテキストは控えめに保ち、短いまとまりで考えさせるのがコツです。

正直なところ、このサイズでは複数ステップを要する課題で推論の精度はまちまちです。答えが本当に重要な場面では、上位モデルである DeepSeek R1 7B や R1 8B のほうがはるかに信頼できますし、見える推論よりも普通のチャットが主目的なら Qwen 3 1.7B のほうが適しています。1.5B が勝るのは到達範囲です。R1 スタイルの思考トレースをローカルで動かせる最小の手段であり、他のどのモデルも動かせないハードウェアでそれを実現します。MIT ライセンスがおまけで、完全にオープンかつ無条件で商用利用も無料というのも魅力です。