¿Puedo ejecutar Qwen 3 8B?

Qwen 3 8B es el modelo que eliges cuando quieres un asistente local capaz de razonar de verdad, y no solo de conversar. En 4 bits ocupa unos 5 GB, así que cabe en una GPU de 8 GB, y los 8 GB mínimos de RAM significan que un Mac con Apple Silicon de base o un equipo de escritorio modesto pueden alojarlo sin problemas. Su gran baza es el modo de pensamiento híbrido: puede gastar tokens extra razonando un problema antes de responder, y por eso la gente lo prefiere frente a los modelos de chat puro de la misma categoría 8B.

En el día a día se siente ágil. En una RTX 3060 12GB obtienes unos 62 tokens por segundo, en una M-series Max alrededor de 70, y una RTX 4090 lo lleva hasta unos 172, todos lo bastante rápidos como para que la respuesta vaya por delante de tu lectura. Solo con CPU sobre DDR5 baja a unos 10 tok/s, suficiente para trabajo por lotes pero no para uso interactivo. El contexto de 128K es real, pero ojo: llenarlo del todo eleva la memoria total a unos 22 GB, muy por encima de lo que aguanta una tarjeta de 8 GB, así que mantén el contexto de trabajo modesto salvo que tengas margen o bajes a la versión q2 de 3.4 GB.

Frente a Granite 3.3 8B, un modelo abierto de tamaño similar orientado sobre todo al chat, Qwen 3 8B suele llevar ventaja en razonamiento de varios pasos y en matemáticas gracias a su modo de pensamiento, mientras que Granite tiende a resultar más conversacional. Su rasgo más destacado es ese interruptor de razonamiento en un paquete tan pequeño. Y la licencia es la parte fácil: Apache 2.0 significa que puedes usarlo comercialmente y en producción sin condiciones específicas del proveedor, algo más raro de lo que debería a este tamaño.