¿Puedo ejecutar Ministral 3 8B?

Ministral 3 8B es la apuesta de Mistral de finales de 2025 por el modelo local pequeño que sirve para todo, y resuelve tanto chat como visión en el mismo paquete de 8B. En cuantización de 4 bits ocupa alrededor de 4.9 GB, así que entra en una GPU de 8 GB con margen de sobra y corre sin problemas dentro de la memoria unificada de cualquier Mac con Apple Silicon. La cifra de 8 GB de RAM mínima es honesta solo para los pesos, lo que lo convierte en una opción realista para un portátil o una GPU barata de segunda mano, sin necesidad de una estación de trabajo para alojarlo.

En el día a día se siente rápido. En una RTX 3060 puedes esperar unos 63 tokens por segundo en 4 bits, una 4090 lo lleva a aproximadamente 177, y un M-series Max ronda los 72, todos más veloces de lo que alcanzas a leer una respuesta en streaming. El gran titular es la ventana de contexto de 256K, pero trátala como un techo, no como un valor por defecto. Con 128K de contexto, el consumo total de memoria sube a unos 21.7 GB, muy por encima de lo que aguanta una tarjeta de 8 GB, así que mantén el contexto de trabajo en unos pocos miles de tokens salvo que tengas la VRAM para sostener la ventana larga.

Frente a sus hermanos, se queda en un punto intermedio: Mistral Nemo 12B suele tener más holgura para razonamientos difíciles si puedes permitirte el modelo más grande, mientras que Mistral 7B es la alternativa más ligera cuando la memoria escasea. El rasgo que distingue a Ministral 3 8B es que la visión cabe en el mismo tamaño reducido, así que obtienes comprensión de imágenes sin saltar a un modelo multimodal más pesado. Se distribuye bajo Apache 2.0, lo que significa que puedes usarlo de forma comercial y en producción sin ataduras específicas del proveedor: una licencia realmente limpia para un modelo tan capaz.