¿Puedo ejecutar Qwen 3 1.7B?

Qwen 3 1.7B es un modelo de chat diminuto, pensado para quien quiere un asistente local que carga al instante y apenas exige hardware. En cuantización de 4 bits ocupa alrededor de 1 GB en disco, y el conjunto funciona con unos 3 GB de RAM, así que cabe en casi cualquier cosa: un portátil viejo, una placa tipo Raspberry Pi, un teléfono o una GPU de gama baja que tenías olvidada. Es el modelo al que recurres cuando no tienes tarjeta gráfica dedicada o quieres algo corriendo en segundo plano sin preocuparte por la memoria.

En una GPU de verdad es casi absurdamente rápido. Una RTX 3060 alcanza unos 297 tok/s y una 4090 supera los 831, mientras que un Apple Silicon M Max ronda los 338. Incluso en CPU pura con DDR5 logra cerca de 49 tok/s, que sigue siendo más rápido de lo que lees. La ventana de contexto es de 32K y, a diferencia de los modelos pesados, aquí puedes llenarla sin mayor problema: con el contexto completo de 32K el consumo total es de apenas unos 3.1 GB, así que una máquina modesta mantiene una conversación larga en memoria con holgura.

Hora de ser sinceros: con 1.7B de parámetros esto es un modelo de chat, no un motor de razonamiento. Maneja bien preguntas y respuestas cortas, reformulaciones y llamadas a herramientas sencillas, pero se vuelve frágil en lógica de varios pasos o en cualquier cosa que requiera planificación real. Si tienes memoria de sobra, Qwen 3 4B suele razonar bastante mejor; si vas aún más justo, Qwen 3 0.6B es el escalón más ligero, mientras que SmolLM2 1.7B es un rival del mismo tamaño que merece compararse. Su gran virtud es la relación velocidad-tamaño, y como usa Apache 2.0 puedes emplearlo comercialmente y en producción sin preocupaciones de licencia.