¿Puedo ejecutar Ministral 3 14B?

Ministral 3 14B es el modelo de tamaño medio que Mistral lanzó en diciembre de 2025: una red densa de 14B parámetros que además procesa visión, así que es la opción ideal cuando quieres un único modelo local que converse y lea imágenes sin tener que malabarear dos checkpoints. Con una cuantización de 4 bits ronda los 8.5 GB, justo por encima de lo que una tarjeta de 8 GB sostiene con holgura, pero perfectamente en casa en una RTX 3060 de 12 GB o en cualquier Mac con Apple Silicon y 16 GB de memoria unificada o más. Si vas justo de memoria, una build de 2 bits lo reduce a unos 5.9 GB; la build q8 se acerca a los 15 GB.

En el día a día se siente ágil para su tamaño. En una RTX 3060 12 GB verás alrededor de 36 tokens por segundo a 4 bits, cómodamente más rápido que la velocidad de lectura, y una RTX 4090 lo sube a unos 101 tok/s. Un M-series Max se queda cerca de 41 tok/s. La ventana de contexto de 256K es la cifra que llama la atención, pero trátala como un techo, no como un valor por defecto: incluso a 128K, la memoria total trepa hasta unos 30.1 GB cuando se llena la caché KV, muy por encima de un solo dispositivo de 12 GB o 16 GB. Mantén el contexto de trabajo en unos pocos miles de tokens salvo que dispongas de una tarjeta de 24 GB o más.

Frente a sus vecinos, Ministral 3 14B suele llevar ventaja sobre hermanos más antiguos como Mistral 7B y Mistral Nemo 12B en prompts más difíciles y de varios pasos, sencillamente por ser más grande y más nuevo, mientras que OLMo 2 13B es la alternativa de datos totalmente abiertos si la reproducibilidad te importa más que la capacidad bruta. Su verdadero punto fuerte es la capacidad de visión integrada a este tamaño con un perfil de velocidad realmente utilizable. Y la licencia es la parte fácil: Apache 2.0, así que puedes usarlo comercialmente y en producción sin condiciones específicas del proveedor.