Ministral 3 14Bは動く？

Ministral 3 14B は Mistral が2025年12月に公開した中規模モデルで、画像も扱える14Bパラメータの密結合ネットワークです。そのため、2つのチェックポイントを使い分けることなく、チャットと画像読み取りを1つのローカルモデルで済ませたいときの選択肢になります。4-bit量子化では約8.5 GBに収まり、8 GBのカードには少し収まりきらないものの、12 GBのRTX 3060や、16 GB以上のユニファイドメモリを持つApple Silicon Macなら余裕です。容量が厳しい場合は2-bitビルドで約5.9 GBまで縮小でき、q8ビルドは15 GBに近くなります。

日常的な使用では、サイズの割に軽快に感じられます。RTX 3060 12 GBでは4-bitで毎秒約36トークンが出て、読む速度より十分速く、RTX 4090ならおよそ101 tok/sまで上がります。M系列のMaxは41 tok/s前後です。256Kのコンテキストウィンドウは目を引く数字ですが、デフォルトではなく上限として捉えてください。128Kでも、KVキャッシュが埋まると合計メモリは約30 GBに達し、単体の12 GBや16 GBデバイスを大きく超えます。24 GB超のカードに余裕がない限り、実作業のコンテキストは数千トークンに抑えておきましょう。

周辺モデルと比べると、Ministral 3 14B はより大きく新しいぶん、Mistral 7B や Mistral Nemo 12B といった旧世代の兄弟モデルより、難しい多段階のプロンプトで概して優位に立ちます。一方、生の能力よりも再現性を重視するなら、完全オープンデータの代替として OLMo 2 13B があります。本モデルの真の強みは、このサイズで組み込みのビジョン機能を備え、実用的な速度プロファイルを両立している点です。そしてライセンスは難しい部分がありません。Apache 2.0 なので、プロバイダー固有の制約なしに商用利用も本番運用も可能です。