¿Puedo ejecutar Qwen 3 30B-A3B?

Qwen 3 30B-A3B es un modelo de mezcla de expertos (MoE), y ese único detalle define todo lo que debes saber sobre él. Tiene 30.5B de parámetros sobre el papel, pero solo 3.3B se activan por token, así que corre a la velocidad de un modelo diminuto mientras razona con la amplitud de uno grande. El problema es la memoria: aun así tienes que mantenerlo entero en RAM. Una cuantización de 4 bits ocupa unos 18.5 GB y el modelo necesita al menos 32 GB para respirar, lo que descarta una tarjeta de 12 GB como la RTX 3060, pero entra cómodo en un Mac con Apple Silicon de 32 GB, o en una 4090 de 24 GB si mantienes el contexto contenido.

En el uso diario el diseño MoE rinde de una forma que la ficha técnica no llega a transmitir. En una 4090 puedes ver alrededor de 428 tokens por segundo, e incluso un chip M-series Max se mantiene ágil con unos 174 tok/s, muchísimo más rápido de lo que jamás lograría un modelo denso de 30B en el mismo hardware. Solo con CPU sobre DDR5 baja a unos 25 tok/s, útil para trabajos por lotes pero no para chat interactivo. El contexto de 128K es real, pero cuida el presupuesto: llenarlo eleva la memoria total a unos 49.1 GB, así que en una máquina de 32 GB conviene mantener el contexto de trabajo acotado y apoyarse en una cuantización más pequeña en vez de perseguir la ventana completa.

Frente a Gemma 4 31B, que ronda los casi idénticos 30.7B de parámetros, el equilibrio queda claro. Gemma es densa y suma capacidades de programación y visión, así que tiende a sentirse más fuerte en tareas multimodales y de código estructurado, mientras que el diseño disperso de Qwen 3 30B-A3B lo hace muchísimo más rápido por token para chat y razonamiento en esta categoría de tamaño. Esa velocidad para su huella de memoria es su rasgo distintivo. Además se distribuye bajo Apache 2.0, así que, a diferencia de las licencias de pesos abiertos atadas a un proveedor concreto, puedes usarlo con libertad en trabajo comercial y de producción sin asteriscos en la licencia.