¿Puedo ejecutar Qwen 3 4B?

Qwen 3 4B es el modelo al que recurrir cuando quieres razonamiento de verdad en algo pequeño. En un cuantizado de 4 bits ronda los 2.4 GB, así que cabe en casi cualquier cosa: una GPU de 6 GB tiene margen de sobra, cualquier Mac con Apple Silicon lo asimila sin esfuerzo e incluso un portátil más antiguo con gráfica integrada puede alojarlo. Lo mínimo recomendable para un uso cómodo son unos 6 GB de RAM. Si trabajas en una máquina solo con CPU o en un dispositivo tipo Raspberry, este es uno de los pocos modelos que sigue siendo realmente útil con esta huella, no solo cargable sobre el papel.

En el día a día se siente ágil. En una RTX 3060 alcanza unos 126 tokens por segundo a 4 bits, y un Max de la serie M se queda cerca de los 144, ambos muy por encima de la velocidad de lectura, así que las respuestas fluyen al instante para chat y cadenas de razonamiento cortas. Una 4090 llega a unos 353 si dispones de ella. La CPU pura sobre DDR5 baja a unos 21 tokens por segundo, lento pero válido para tareas en segundo plano. La ventana de contexto es de 32K, de sobra para casi todo, pero llenarla eleva la memoria total a unos 5.5 GB, así que en una máquina ajustada de 6 GB conviene mantener el contexto de trabajo moderado.

Dentro de su propia familia, Qwen 3 4B es el salto evidente desde Qwen 3 1.7B cuando el modelo más pequeño empieza a trastabillar con prompts de varios pasos, sin dejar de ser mucho más ligero que el rango de 7-8B. Phi-4 Mini 3.8B es una alternativa razonable de tamaño similar y en general compite de tú a tú en chat, pero el rasgo que distingue a Qwen 3 4B es rendir por encima de su recuento de parámetros en tareas de razonamiento por lo poco que cuesta ejecutarlo. Se distribuye bajo Apache 2.0, así que puedes usarlo de forma comercial y en producción sin preocuparte por la licencia, algo raro con esta relación calidad-tamaño.