¿Puedo ejecutar Qwen3-VL 32B?

Qwen3-VL 32B es el modelo de visión y razonamiento de Alibaba, pensado para quien quiere un asistente local capaz de mirar imágenes de verdad, no solo leer texto. Con sus 33B de parámetros densos, exige bastante más que los típicos modelos de inicio de 7-8B: una cuantización a 4 bits ronda los 20 GB y necesitas al menos 32 GB de RAM de sistema para mantener el modelo completo con holgura. Eso descarta una tarjeta de 12 GB como la RTX 3060, donde directamente no entra. En la práctica, hablamos de una GPU de 24 GB o un Mac con Apple Silicon bien equipado, no de un portátil cualquiera.

En el día a día se siente capaz, pero pausado más que ágil. En una RTX 4090 puedes esperar unos 43 tokens por segundo a 4 bits, suficiente para chatear y preguntar sobre imágenes con comodidad; en un Mac M-Max baja a cerca de 17 tokens por segundo, usable pero más lento de lo que querrías en sesiones largas, y solo con CPU, a unos 3 tokens por segundo, es un último recurso. La ventana de contexto de 256K es generosa, pero la memoria crece rápido con ella: incluso a 128K, el consumo total sube hasta unos 51,7 GB, así que mantén el contexto de trabajo moderado salvo que tengas margen de sobra.

Frente a EXAONE 4.5 33B, el rival evidente del mismo tamaño que también maneja visión y razonamiento, ambos se reparten golpes y tu elección dependerá del tooling y del ecosistema en el que ya confíes; la fuerza de Qwen3-VL es una familia madura y ampliamente soportada, con un pull sencillo en Ollama mediante qwen3-vl:32b. Su rasgo más destacado es un razonamiento multimodal realmente sólido en un tamaño que todavía puedes autoalojar en una sola GPU. Y la licencia es lo fácil: Apache 2.0 significa que puedes usarlo libremente, incluso en trabajo comercial y de producción, sin condiciones específicas del proveedor.