Posso rodar o EXAONE 4.5 33B?

O EXAONE 4.5 33B é o modelo de visão e raciocínio da LG AI Research e, com 33B de parâmetros densos, está firmemente na categoria peso-pesado do que dá para rodar localmente. Um quant de 4-bit fica em torno de 20 GB, então ele simplesmente não cabe numa placa de 12 GB como uma RTX 3060; você precisa de uma GPU de 24 GB, como uma 4090, ou de um Mac com bastante memória unificada. O mínimo para carregá-lo de forma sensata é cerca de 32 GB de RAM. Não é um modelo casual de notebook. É para quem quer um assistente multimodal capaz e tem o hardware para sustentar isso.

No uso diário em uma 4090, ele roda em torno de 43 tokens por segundo em 4-bit, confortável para chat e leitura de imagens, embora bem mais pesado que um modelo pequeno de 8B. Em um Apple M Max, você fica em aproximadamente 17 tokens por segundo, utilizável, mas mais lento, e na CPU com DDR5 cai para cerca de 3 tokens por segundo, o que testa a paciência. A janela de contexto de 256K é grande, mas a memória é a pegadinha: mesmo em 128K de contexto, o consumo total sobe para cerca de 51.7 GB, então uma placa de 24 GB obriga você a manter o contexto de trabalho modesto.

Contra o Qwen3-VL 32B, a comparação mais próxima na sua classe, o EXAONE geralmente troca golpes em vez de dominar; o Qwen3-VL costuma ter ferramental e disponibilidade de quants mais amplos, enquanto o Qwen 3 32B é a escolha mais leve se você só precisa de raciocínio em texto. O grande diferencial do EXAONE é ser um modelo genuinamente forte de visão mais raciocínio em um único pacote, vindo de um laboratório de peso. A ressalva importante é a licença: ele vem sob a EXAONE License, que é não comercial, então você não pode usá-lo em produção nem em nenhum produto comercial. Limite-se a pesquisa, prototipagem e uso pessoal.