¿Puedo ejecutar Qwen 3.5 4B?

Qwen 3.5 4B es un modelo denso pequeño pensado para quienes quieren un asistente local capaz que apenas exige hardware. En cuantización de 4 bits ronda los 2.4 GB, así que entra en casi cualquier GPU moderna con espacio de sobra, corre con holgura en la memoria unificada de un Mac con Apple Silicon, y los 6 GB de RAM mínima permiten que hasta un portátil viejo lo ejecute. Además maneja visión, no solo chat, algo poco común a este tamaño. La licencia Apache 2.0 significa que puedes usarlo comercialmente y en producción sin ataduras de ningún tipo.

En el día a día es rápido. En una RTX 4090 verás unos 353 tokens por segundo, y una RTX 3060 de gama media aún alcanza cerca de 126 tok/s; ambas cifras superan con creces tu velocidad de lectura. Un M-series Max se queda alrededor de 144 tok/s, e incluso en CPU pura sobre DDR5 logra unos 21 tok/s si tienes paciencia. La ventana de contexto de 256K es generosa, pero trátala como margen, no como valor por defecto. La memoria sube de golpe a medida que la llenas: con 128K de contexto el consumo total llega a unos 14.7 GB, que desbordará a la mayoría de las tarjetas de consumo, así que mantén el contexto de trabajo moderado salvo que te sobre memoria.

Frente a su propia familia se sitúa muy por encima de los diminutos Qwen 3 1.7B y 0.6B, más adecuados para móviles y uso embebido que para ser tu asistente principal. Comparado con Phi-4 Mini 3.8B, Qwen 3.5 4B suele sentirse más versátil gracias a su soporte de visión y su contexto más largo, mientras que Phi-4 Mini tiende a defenderse bien en razonamiento de alcance acotado. Su rasgo más destacado es el valor de esa huella: un modelo multimodal de 4B que corre rápido en hardware modesto bajo una licencia totalmente permisiva es una combinación rara, y eso lo convierte en una opción por defecto fácil para un montaje local ligero.