¿Puedo ejecutar Phi-4 Mini 3.8B?

Phi-4 Mini 3.8B es el modelo de chat pequeño de Microsoft, el que conviene elegir cuando quieres algo realmente ligero que aun así mantenga una conversación. En cuantización de 4 bits ronda los 2.3 GB y baja a unos 1.6 GB en 2 bits, así que cabe casi en cualquier parte: en una GPU de 6 GB sobra espacio, un Mac M1 de entrada lo corre sin esfuerzo y hasta un portátil viejo lo maneja en CPU. La licencia MIT es la parte fácil: no hay términos que leer ni restricciones comerciales, así que puedes integrarlo en un producto con total libertad.

En el día a día es rápido. En una RTX 3060 verás unos 133 tok/s, un M-series Max se sitúa cerca de 151 tok/s y una 4090 lo empuja por encima de 370 tok/s, mucho más rápido de lo que alcanzas a leer. El contexto de 128K es la cifra que llama la atención, pero tómala con cautela: si lo llenas, la memoria total sube hasta unos 14.3 GB, muy por encima de los 6 GB que este modelo necesita en reposo. En una GPU pequeña, mantén el contexto de trabajo en unos pocos miles de tokens y irás cómodo. Incluso en CPU con DDR5 logra alrededor de 22 tok/s en prompts cortos.

Donde se nota su tamaño es en la profundidad. Para razonamiento e instrucciones de varios pasos, Qwen 3 4B suele llevar ventaja pese a tener más o menos el mismo número de parámetros, y si necesitas margen real de razonamiento, Phi-4 14B es el salto evidente. La virtud que distingue a Phi-4 Mini es la eficiencia: rinde por encima de sus 3.8B en chat sencillo y resúmenes, manteniéndose lo bastante pequeño para correr casi en cualquier sitio, con licencia MIT y sin restricciones. Si buscas un asistente local diminuto que cargue rápido y no te estorbe, es una opción por defecto sólida.