¿Puedo ejecutar Qwen 3.5 122B-A10B?
Qwen 3.5 122B-A10B, de Alibaba, necesita alrededor de 96 GB de RAM con la cuantización recomendada de 4 bits (descarga de 74.0 GB). Tu hardware se comprueba abajo — al instante, nada sale de tu navegador. Espera alrededor de ~57 tok/s en un Apple M-series Max.
Leyendo las señales de tu hardware…
Notas del mundo real
Qwen 3.5 122B-A10B es un modelo grande de mezcla de expertos (MoE) pensado para quienes quieren chat, razonamiento, programación y visión de gama alta en su propio hardware. El diseño MoE lo explica todo: de sus 122B de parámetros totales, solo 10B se activan por token, así que genera mucho más rápido que un modelo denso de este tamaño. La pega es la memoria, porque igual tienes que mantener el modelo entero residente. A 4 bits ocupa unos 74 GB, y necesitas alrededor de 96 GB de RAM solo para cargarlo. En la práctica eso significa una estación de trabajo con mucha memoria o un Mac con Apple Silicon con bastante memoria unificada; no entra en una RTX 4090 de 24 GB, y mucho menos en una tarjeta de 12 GB.
Donde sí entra, se siente sorprendentemente ágil para su tamaño gracias a esos 10B de parámetros activos. En un M Max puedes esperar unos 57 tokens por segundo, lo bastante rápido para leerlo cómodamente mientras se transmite, mientras que un equipo solo con CPU y DDR5 baja a unos 8 tokens por segundo y encaja mejor en trabajo por lotes que en chat en vivo. La ventana de contexto llega hasta 256K, pero tómalo como un techo. La memoria crece con lo que realmente llenas, y a 128K de contexto la huella total sube a unos 131 GB, así que esas cifras de contexto largo dan por hecho una máquina construida para ello.
Frente a Devstral 2 123B, que está casi en el mismo número de parámetros, Qwen 3.5 suele cambiar el enfoque puro en programación por amplitud: cubre chat, razonamiento y visión en un solo modelo en lugar de especializarse. Esa versatilidad es su rasgo más destacado, y los hermanos más pequeños Qwen 3 0.6B y 1.7B siguen siendo la opción sensata cuando solo necesitas chat ligero en hardware modesto. La licencia es Apache 2.0, así que puedes usarlo comercialmente y en producción sin restricciones, algo poco común a este nivel de capacidad y una razón de peso para elegirlo frente a pesos más limitados.
Especificaciones
Tamaño por cuantización
| Cuantización | Bits/peso | Descarga | RAM mínima | Calidad |
|---|---|---|---|---|
| Q2_K | 3.35 | 51.1 GB | 96 GB | Pérdida notable |
| Q4_K_MRecomendada | 4.85 | 74.0 GB | 96 GB | Recomendada |
| Q5_K_M | 5.65 | 86.2 GB | 128 GB | Alta |
| Q8_0 | 8.5 | 129.6 GB | 192 GB | Casi original |
| F16 | 16 | 244.0 GB | 256 GB | Original |
Los tamaños son estimaciones de número de parámetros × bits por peso; las builds GGUF reales varían un poco. · Datos actualizados: 2026-06-11 · Cómo calculamos estos números →
Memoria necesaria según la longitud de contexto
| Contexto | Caché KV (est.) | Memoria total (Q4) |
|---|---|---|
| 4K tokens | ~1.8 GB | ~75.8 GB |
| 8K tokens | ~3.6 GB | ~77.6 GB |
| 32K tokens | ~14.3 GB | ~88.3 GB |
| 128K tokens | ~57.2 GB | ~131.2 GB |
La caché KV crece con la longitud del contexto — un modelo que cabe a 4K puede quedarse sin memoria a 32K. Las estimaciones asumen una caché en FP16 con grouped-query attention; el uso real varía según el runtime.
Velocidad estimada según el hardware
| Hardware | Ancho de banda | ~Velocidad |
|---|---|---|
| NVIDIA RTX 3060 12GB | 360 GB/s | No cabe en la VRAM |
| NVIDIA RTX 4090 24GB | 1008 GB/s | No cabe en la VRAM |
| Apple M-series (base) | 100 GB/s | ~14 tok/s |
| Apple M-series Pro | 270 GB/s | ~38 tok/s |
| Apple M-series Max | 410 GB/s | ~57 tok/s |
| CPU only (dual-channel DDR5) | 60 GB/s | ~8 tok/s |
La generación de tokens está limitada por el ancho de banda de la memoria: tok/s ≈ ancho de banda × 0,85 ÷ tamaño del modelo en Q4. Las cifras reales varían según el runtime y la longitud del contexto.
Ejecútalo en local
El camino más fácil es Ollama — un comando y ya estás chateando:
ollama run qwen3.5:122bFuentes y descargas
Ollama Library
Descarga y ejecuta el modelo con un solo comando.
ollama.comHugging Face
Pesos del modelo, archivos y detalles de la licencia.
huggingface.coRepositorio oficial en GitHub
Código fuente, releases e issues de Alibaba.
github.comAlibaba — página oficial
Página oficial y documentación de Alibaba.
qwen.ai