¿Puedo ejecutar Qwen3-VL 8B?

Qwen3-VL 8B es el modelo con visión de Alibaba dentro de la clase de 8B, y eso lo convierte en la opción a elegir cuando quieres un asistente local que pueda mirar imágenes y capturas de pantalla de verdad, no solo leer texto. Con una cuantización de 4 bits ronda los 4.9 GB, así que cabe en una tarjeta de 12 GB como una RTX 3060 con margen de sobra y encaja sin problemas en la memoria unificada de cualquier Mac con Apple Silicon. El mínimo razonable es de unos 8 GB de RAM, y si vas justo puedes bajar a una versión de 2 bits de unos 3.4 GB, aunque la q8, más pesada, se acerca a los 8.5 GB.

En el uso diario se siente ágil para ser un modelo de 8B. En una RTX 3060 puedes esperar unos 63 tokens por segundo a 4 bits, y un M-series Max lo lleva hasta unos 72, ambos lo bastante rápidos como para que las respuestas se generen más deprisa de lo que lees; una 4090 se dispara hasta unos 177. La cifra estrella es la ventana de contexto de 256K, pero trátala como un techo, no como un valor por defecto. Con 128K de contexto, el modelo más la caché KV ya necesitan unos 21.7 GB en total, muy por encima de lo que sostiene una sola tarjeta de gama media, así que mantén el contexto de trabajo moderado a menos que tengas una GPU grande.

Frente a Llama 3.1 8B, que es el punto de comparación obvio del mismo tamaño, lo que distingue a Qwen3-VL es justo lo que Llama no puede hacer: lee imágenes. Para chat de texto plano los dos están tan parejos que la decisión se reduce a si necesitas visión o no. Si solo le vas a dar texto, Llama todavía cuenta con el ecosistema de herramientas más maduro; si quieres describir capturas de pantalla o extraer texto de una foto en local, esta es la mejor herramienta. Se distribuye bajo Apache 2.0, así que puedes usarlo comercialmente y en producción sin preocuparte por la licencia.