¿Puedo ejecutar Qwen 3.5 9B?
Qwen 3.5 9B, de Alibaba, necesita alrededor de 12 GB de RAM con la cuantización recomendada de 4 bits (descarga de 5.5 GB). Tu hardware se comprueba abajo — al instante, nada sale de tu navegador. Espera alrededor de ~56 tok/s en un NVIDIA RTX 3060 12GB.
Leyendo las señales de tu hardware…
Notas del mundo real
Qwen 3.5 9B es el modelo generalista de Alibaba de principios de 2026, y lo interesante es que maneja visión además de chat y razonamiento, no solo texto. Con cuantización de 4 bits ocupa alrededor de 5.5 GB, un encaje justo pero viable en una GPU de 12 GB, y se acomoda sin problemas en la memoria unificada de un Mac con Apple Silicon. Si quieres meterlo en algo más pequeño, puedes bajar a una build de 2 bits de unos 3.8 GB, aunque lo pagas en calidad. Cuenta con unos 12 GB de RAM del sistema como mínimo práctico.
En el uso diario se siente ágil. En una RTX 3060 puedes esperar alrededor de 56 tokens por segundo a 4 bits, y un M-series Max lo lleva hasta unos 64, ambos más rápidos de lo que lees. Una RTX 4090 se dispara a unos 157 tok/s si tienes una. La ventana de contexto de 256K es la cifra que llama la atención, pero sé realista con la memoria: incluso a 128K de contexto el consumo total sube hasta unos 23.2 GB, lo que se desborda con creces de una tarjeta de 12 GB. Mantén el contexto de trabajo moderado a menos que tengas una GPU de 24 GB de sobra.
Frente a su propia familia el posicionamiento es claro: los modelos Qwen 3 0.6B y 1.7B son pesos pluma solo de chat para hardware limitado, mientras que este 9B es el que eliges cuando quieres razonamiento y comprensión de imágenes en el mismo modelo. GLM-4.6V-Flash es la alternativa comparable con capacidad de visión y del mismo tamaño, y por lo general los dos se reparten golpes según la tarea. El rasgo más destacado de Qwen 3.5 9B es la amplitud en una sola descarga, y la licencia Apache 2.0 significa que puedes usarlo comercialmente sin ataduras.
Especificaciones
Tamaño por cuantización
| Cuantización | Bits/peso | Descarga | RAM mínima | Calidad |
|---|---|---|---|---|
| Q2_K | 3.35 | 3.8 GB | 8 GB | Pérdida notable |
| Q4_K_MRecomendada | 4.85 | 5.5 GB | 12 GB | Recomendada |
| Q5_K_M | 5.65 | 6.4 GB | 12 GB | Alta |
| Q8_0 | 8.5 | 9.6 GB | 16 GB | Casi original |
| F16 | 16 | 18.0 GB | 24 GB | Original |
Los tamaños son estimaciones de número de parámetros × bits por peso; las builds GGUF reales varían un poco. · Datos actualizados: 2026-06-11 · Cómo calculamos estos números →
Memoria necesaria según la longitud de contexto
| Contexto | Caché KV (est.) | Memoria total (Q4) |
|---|---|---|
| 4K tokens | ~0.6 GB | ~6.1 GB |
| 8K tokens | ~1.1 GB | ~6.6 GB |
| 32K tokens | ~4.4 GB | ~9.9 GB |
| 128K tokens | ~17.7 GB | ~23.2 GB |
La caché KV crece con la longitud del contexto — un modelo que cabe a 4K puede quedarse sin memoria a 32K. Las estimaciones asumen una caché en FP16 con grouped-query attention; el uso real varía según el runtime.
Velocidad estimada según el hardware
| Hardware | Ancho de banda | ~Velocidad |
|---|---|---|
| NVIDIA RTX 3060 12GB | 360 GB/s | ~56 tok/s |
| NVIDIA RTX 4090 24GB | 1008 GB/s | ~157 tok/s |
| Apple M-series (base) | 100 GB/s | ~16 tok/s |
| Apple M-series Pro | 270 GB/s | ~42 tok/s |
| Apple M-series Max | 410 GB/s | ~64 tok/s |
| CPU only (dual-channel DDR5) | 60 GB/s | ~9 tok/s |
La generación de tokens está limitada por el ancho de banda de la memoria: tok/s ≈ ancho de banda × 0,85 ÷ tamaño del modelo en Q4. Las cifras reales varían según el runtime y la longitud del contexto.
Ejecútalo en local
El camino más fácil es Ollama — un comando y ya estás chateando:
ollama run qwen3.5:9bFuentes y descargas
Ollama Library
Descarga y ejecuta el modelo con un solo comando.
ollama.comHugging Face
Pesos del modelo, archivos y detalles de la licencia.
huggingface.coRepositorio oficial en GitHub
Código fuente, releases e issues de Alibaba.
github.comAlibaba — página oficial
Página oficial y documentación de Alibaba.
qwen.ai