← Todos los modelosCOMPROBACIÓN DE MODELO

¿Puedo ejecutar Qwen 3.5 9B?

Qwen 3.5 9B, de Alibaba, necesita alrededor de 12 GB de RAM con la cuantización recomendada de 4 bits (descarga de 5.5 GB). Tu hardware se comprueba abajo — al instante, nada sale de tu navegador. Espera alrededor de ~56 tok/s en un NVIDIA RTX 3060 12GB.

Leyendo las señales de tu hardware…

Notas del mundo real

Qwen 3.5 9B es el modelo generalista de Alibaba de principios de 2026, y lo interesante es que maneja visión además de chat y razonamiento, no solo texto. Con cuantización de 4 bits ocupa alrededor de 5.5 GB, un encaje justo pero viable en una GPU de 12 GB, y se acomoda sin problemas en la memoria unificada de un Mac con Apple Silicon. Si quieres meterlo en algo más pequeño, puedes bajar a una build de 2 bits de unos 3.8 GB, aunque lo pagas en calidad. Cuenta con unos 12 GB de RAM del sistema como mínimo práctico.

En el uso diario se siente ágil. En una RTX 3060 puedes esperar alrededor de 56 tokens por segundo a 4 bits, y un M-series Max lo lleva hasta unos 64, ambos más rápidos de lo que lees. Una RTX 4090 se dispara a unos 157 tok/s si tienes una. La ventana de contexto de 256K es la cifra que llama la atención, pero sé realista con la memoria: incluso a 128K de contexto el consumo total sube hasta unos 23.2 GB, lo que se desborda con creces de una tarjeta de 12 GB. Mantén el contexto de trabajo moderado a menos que tengas una GPU de 24 GB de sobra.

Frente a su propia familia el posicionamiento es claro: los modelos Qwen 3 0.6B y 1.7B son pesos pluma solo de chat para hardware limitado, mientras que este 9B es el que eliges cuando quieres razonamiento y comprensión de imágenes en el mismo modelo. GLM-4.6V-Flash es la alternativa comparable con capacidad de visión y del mismo tamaño, y por lo general los dos se reparten golpes según la tarea. El rasgo más destacado de Qwen 3.5 9B es la amplitud en una sola descarga, y la licencia Apache 2.0 significa que puedes usarlo comercialmente sin ataduras.

Especificaciones

Parámetros9B
Ventana de contexto256K tokens
ProveedorAlibaba
LicenciaApache 2.0
Lanzamiento2026-03
Ideal paraChat, Razonamiento, Visión

Tamaño por cuantización

CuantizaciónBits/pesoDescargaRAM mínimaCalidad
Q2_K3.353.8 GB8 GBPérdida notable
Q4_K_MRecomendada4.855.5 GB12 GBRecomendada
Q5_K_M5.656.4 GB12 GBAlta
Q8_08.59.6 GB16 GBCasi original
F161618.0 GB24 GBOriginal

Los tamaños son estimaciones de número de parámetros × bits por peso; las builds GGUF reales varían un poco. · Datos actualizados: 2026-06-11 · Cómo calculamos estos números →

Memoria necesaria según la longitud de contexto

ContextoCaché KV (est.)Memoria total (Q4)
4K tokens~0.6 GB~6.1 GB
8K tokens~1.1 GB~6.6 GB
32K tokens~4.4 GB~9.9 GB
128K tokens~17.7 GB~23.2 GB

La caché KV crece con la longitud del contexto — un modelo que cabe a 4K puede quedarse sin memoria a 32K. Las estimaciones asumen una caché en FP16 con grouped-query attention; el uso real varía según el runtime.

Velocidad estimada según el hardware

HardwareAncho de banda~Velocidad
NVIDIA RTX 3060 12GB360 GB/s~56 tok/s
NVIDIA RTX 4090 24GB1008 GB/s~157 tok/s
Apple M-series (base)100 GB/s~16 tok/s
Apple M-series Pro270 GB/s~42 tok/s
Apple M-series Max410 GB/s~64 tok/s
CPU only (dual-channel DDR5)60 GB/s~9 tok/s

La generación de tokens está limitada por el ancho de banda de la memoria: tok/s ≈ ancho de banda × 0,85 ÷ tamaño del modelo en Q4. Las cifras reales varían según el runtime y la longitud del contexto.

Ejecútalo en local

El camino más fácil es Ollama — un comando y ya estás chateando:

ollama run qwen3.5:9b

Preguntas frecuentes