Posso rodar o Qwen 3 4B?

O Qwen 3 4B é o modelo que você procura quando quer raciocínio de verdade em algo pequeno. Em quantização de 4 bits ele fica em torno de 2.4 GB, então cabe em quase tudo: uma GPU de 6 GB sobra espaço, qualquer Mac com Apple Silicon engole o modelo inteiro e até um notebook antigo com placa integrada consegue rodá-lo. O mínimo recomendado para um uso confortável é cerca de 6 GB de RAM. Se você roda em uma máquina só com CPU ou em um dispositivo classe Raspberry, este é um dos poucos modelos que continua realmente útil nesse tamanho, em vez de apenas tecnicamente carregável.

No dia a dia ele parece rápido. Numa RTX 3060 ele alcança cerca de ~126 tok/s em 4 bits, e um M-series Max fica perto de ~144 tok/s, ambos bem acima da velocidade de leitura, então as respostas chegam na hora para chat e cadeias curtas de raciocínio. Uma 4090 chega a uns ~353 tok/s, se você tiver uma. Só CPU em DDR5 cai para uns ~21 tok/s, lento mas viável para tarefas em segundo plano. A janela de contexto é de 32K, suficiente para a maioria dos trabalhos, mas enchê-la empurra a memória total para cerca de 5.5 GB, então numa máquina apertada de 6 GB mantenha seu contexto de trabalho enxuto.

Dentro da própria família, o Qwen 3 4B é o salto óbvio a partir do Qwen 3 1.7B quando o modelo menor começa a tropeçar em prompts de várias etapas, mantendo-se bem mais leve que a faixa de 7-8B. O Phi-4 Mini 3.8B é uma alternativa razoável de tamanho parecido e costuma empatar no chat, mas o destaque do Qwen 3 4B é render acima da sua contagem de parâmetros em tarefas de raciocínio pelo pouco que custa para rodar. Ele vem sob licença Apache 2.0, então você pode usá-lo comercialmente e em produção sem preocupações de licença, algo raro nessa relação qualidade/tamanho.