Posso rodar o Qwen 3.5 27B?

O Qwen 3.5 27B é o modelo para quando um 8B parece raso demais e você tem hardware de verdade para gastar. É um 27B denso que dá conta de chat, raciocínio, programação e visão, então serve como cavalo de batalha local em vez de um assistente de truque único. O porém é o tamanho: em 4-bit ele fica em torno de 16.4 GB, e você quer pelo menos 24 GB de RAM para carregá-lo sem aperto. Isso elimina uma placa de 12 GB como uma RTX 3060, onde ele simplesmente não cabe, e aponta para uma GPU de 24 GB ou um Mac com Apple Silicon e memória unificada generosa.

Numa RTX 4090 você pode esperar cerca de 52 tokens por segundo em 4-bit, o que transmite mais rápido do que você lê e fica confortável para trabalho interativo. Num M-series Max ele se estabiliza perto de 21 tokens por segundo, ainda tranquilo para chat e código, mas mais lento em gerações longas; CPU pura em DDR5 cai para uns 3 tokens por segundo, terreno de paciência. O contexto de 256K é o número de destaque, mas trate-o como um teto: em 128K a memória total sobe para cerca de 45.4 GB, então numa placa de 24 GB mantenha o contexto de trabalho bem abaixo do máximo.

A comparação natural é o Gemma 3 27B, o outro 27B de pesos abertos com visão nessa faixa de tamanho. O Gemma costuma ser a escolha mais segura se o foco é principalmente chat polido e compreensão de imagens, enquanto o Qwen 3.5 27B em geral se sai mais forte em programação e raciocínio estruturado, que é onde mora seu valor de destaque para desenvolvedores. A grande vitória prática é o licenciamento: ele vem sob Apache 2.0, então você pode usá-lo comercialmente e em produção sem amarras específicas do provedor, ao contrário dos termos de pesos abertos que acompanham o Gemma.