¿Puedo ejecutar GLM-4.6V-Flash?

GLM-4.6V-Flash es un modelo de 9B de visión y chat de Z.ai, pensado para quien quiere un asistente local que realmente pueda mirar imágenes, no solo leer texto. En cuantización de 4 bits ocupa unos 5.5 GB, así que entra sin apuros en una tarjeta de 12 GB como una RTX 3060 y cabe en la memoria unificada de cualquier Mac con Apple Silicon de especificaciones razonables. El mínimo recomendable ronda los 12 GB de RAM para cargarlo con holgura. Si vas justo de espacio, una versión de 2 bits baja a unos 3.8 GB, aunque sacrificas calidad a cambio de ese margen.

En el uso diario se siente ágil. En una RTX 3060 puedes esperar alrededor de 56 tokens por segundo a 4 bits, lo bastante rápido para que las respuestas fluyan más deprisa de lo que lees, y una 4090 lo lleva a unos 157 tok/s si dispones de una. Un M-series Max se sitúa cerca de los 64 tok/s, mientras que la CPU pura sobre DDR5 se arrastra a unos 9 tok/s, usable solo si tienes paciencia. El contexto de 128K es real pero costoso: llenarlo empuja la memoria total hacia los 23.2 GB, muy por encima de lo que cabe en una tarjeta de 12 GB, así que mantén el contexto de trabajo moderado y apóyate en tareas de visión en lugar de documentos enormes.

Frente a sus parientes, Qwen 2.5 VL 7B es el punto de comparación obvio en el apartado de visión y por lo general aguanta bien, mientras que Qwen 3.5 9B suele ser la mejor opción si además quieres razonamiento junto a las imágenes. El rasgo distintivo de GLM-4.6V-Flash es ser un modelo multimodal genuinamente compacto que corre en hardware modesto sin demasiadas complicaciones. La licencia es MIT, lo que significa que puedes usarlo libremente con fines comerciales y en producción, sin condiciones del proveedor, una ventaja real frente a muchos lanzamientos de pesos abiertos.