¿Puedo ejecutar Qwen3-VL 30B-A3B?

Qwen3-VL 30B-A3B es el modelo de visión mixture-of-experts de Alibaba, y su truco principal está en el nombre: 30B parámetros en total, pero solo 3B activos por token. Eso significa que corre a la velocidad de un modelo diminuto, aunque necesita memoria para cargarlo entero. En un quant de 4 bits ronda los 18.2 GB, y conviene tener al menos 32 GB de RAM para alojarlo con holgura. No entra en una tarjeta de 12 GB como una RTX 3060, pero un equipo con Apple Silicon y bastante memoria unificada, o una GPU de 24 GB, es su hábitat natural. Está pensado para quien quiere comprensión de imágenes junto con chat y razonamiento de forma local.

En el día a día, el diseño de 3B activos rinde: en una RTX 4090 puedes ver alrededor de 471 tokens por segundo, e incluso un Apple M Max se mantiene ágil con unos 192 tok/s, lo bastante rápido para que las respuestas de visión se sientan instantáneas. En una CPU con DDR5 baja a unos 28 tok/s, usable pero ya no fluido. La ventana de contexto de 256K es el techo de marketing, no una ganga: llenarla sale caro. Con 128K de contexto, el modelo más la caché trepa hasta unos 48.6 GB en total, así que dimensiona tu memoria según el contexto que realmente uses, no según el máximo de la ficha técnica.

Frente a Gemma 4 31B, el modelo emparentado más cercano aquí, ambos juegan en un terreno parecido en cuanto a tamaño, pero Gemma 4 es un modelo denso de 30.7B que activa todos sus parámetros, así que Qwen3-VL suele sentirse más rápido para su huella, mientras que Gemma tiende a ser más constante en razonamiento puro y programación. El rasgo distintivo de Qwen3-VL es esa capacidad de visión integrada en un modelo tan veloz sobre hardware de consumo, algo todavía poco común en local. Lleva licencia Apache 2.0, así que puedes usarlo comercialmente y en producción sin restricciones específicas del proveedor. Descárgalo con el tag qwen3-vl:30b de Ollama y listo.