Phi-4 14Bは動く？

Phi-4 14B は Microsoft が手がける小型のリーズニングモデルで、一般的な 7〜8B のチャットモデルより強い論理性や構造化された思考が欲しいものの、ワークステーションを要するモデルにまでは踏み込みたくない人に向いています。14.7B パラメータで、4-bit 量子化なら約 8.9 GB に収まるため、余裕を持って 8 GB のカードに載せるのは難しく、最低 16 GB のメモリという数字が正直な下限です。12 GB の RTX 3060、16 GB の Apple Silicon Mac、あるいは 9 GB を超える余裕のある GPU が自然な居場所になります。手元が厳しいときだけ、約 6.2 GB の 2-bit ビルドに落とすとよいでしょう。

日常的に使うと、軽快というより慎重な印象で、これはリーズニング志向によく合っています。12 GB の RTX 3060 では 4-bit で毎秒 34 トークン程度が見込め、チャットやステップバイステップの問題には十分快適です。RTX 4090 ならおよそ 96 まで伸び、M シリーズの Max では 39 前後に落ち着きます。ここでの本当の制約はコンテキストウィンドウで、16K は現在の基準ではやや控えめです。8K を埋めるだけでも合計メモリは約 10.3 GB に達します。作業コンテキストを絞っておけば、12 GB のカードに十分収まります。

ほぼ同じサイズで同様にチャットとリーズニングに重点を置く Qwen 3 14B と比べると、Phi-4 は概して幅広い世界知識を犠牲にする代わりに、Microsoft がチューニングした数学や論理のプロンプトで引き締まった構造的な推論を見せます。一方の Qwen は、自由度の高いタスク全般でより万能に感じられる傾向があります。もっと軽いものが欲しければ、同じファミリーでフットプリントがごく一部の Phi-4 Mini 3.8B があります。Phi-4 の際立った特長はパラメータ数を超える構造化推論の力で、MIT ライセンスは気楽な点です。自由に利用でき、商用利用も含み、提供元による付帯条件はありません。