¿Puedo ejecutar EXAONE 4.5 33B?

EXAONE 4.5 33B es el modelo de visión y razonamiento de LG AI Research, y con sus 33B de parámetros densos se ubica de lleno en la categoría pesada de lo que puedes alojar tú mismo. Una cuantización de 4 bits ronda los 20 GB, así que no entra de ninguna manera en una tarjeta de 12 GB como una RTX 3060; necesitas una GPU de 24 GB tipo 4090, o un Mac con bastante memoria unificada. El mínimo para cargarlo con sensatez son unos 32 GB de RAM. No es un modelo para un portátil cualquiera. Está pensado para quien quiere un asistente multimodal capaz y tiene el hardware para sostenerlo.

En el uso diario sobre una 4090 corre a unos 43 tokens por segundo en 4 bits, lo cual resulta cómodo para chatear y leer imágenes, aunque se nota bastante más pesado que un modelo pequeño de 8B. En un Apple M Max hablamos de aproximadamente 17 tokens por segundo, usable pero más pausado, y en CPU con DDR5 baja a unos 3 tokens por segundo, algo que pone a prueba la paciencia. La ventana de contexto de 256K es amplia, pero la trampa es la memoria: incluso con 128K de contexto el consumo total sube a unos 51.7 GB, así que una tarjeta de 24 GB te obliga a mantener el contexto de trabajo moderado.

Frente a Qwen3-VL 32B, la comparación más cercana en su categoría, EXAONE por lo general intercambia golpes en lugar de imponerse; Qwen3-VL suele tener un ecosistema de herramientas más amplio y mayor disponibilidad de cuantizaciones, mientras que Qwen 3 32B es la opción más ligera si solo necesitas razonamiento sobre texto. El rasgo que distingue a EXAONE es ser un modelo genuinamente fuerte de visión más razonamiento en un solo paquete, y de un laboratorio de primer nivel. La advertencia importante es la licencia: se distribuye bajo la EXAONE License, que es no comercial, así que no puedes usarlo en producción ni en ningún producto comercial. Limítalo a investigación, prototipado y uso personal.