Posso rodar o Qwen 3 30B-A3B?

O Qwen 3 30B-A3B é um modelo mixture-of-experts, e esse único detalhe define tudo na forma como você deve pensar nele. No papel são 30.5B de parâmetros, mas apenas 3.3B ativam por token, então ele roda na velocidade de um modelo pequeno enquanto raciocina com a amplitude de um grande. O problema é a memória: você ainda precisa manter o modelo inteiro na RAM. Um quant de 4 bits ocupa cerca de 18.5 GB e o modelo pede pelo menos 32 GB para respirar, o que descarta uma placa de 12 GB como a RTX 3060, mas cabe confortavelmente em um Mac Apple Silicon de 32 GB, ou em uma 4090 de 24 GB se você mantiver o contexto modesto.

No uso diário, o design MoE compensa de um jeito que a ficha técnica não revela. Em uma 4090 você vê cerca de 428 tokens por segundo, e até um M-series Max se mantém ágil em torno de 174 tok/s, muito mais rápido do que um 30B denso jamais conseguiria no mesmo hardware. Só na CPU com DDR5 a taxa cai para uns 25 tok/s, útil para tarefas em lote, mas não para chat interativo. O contexto de 128K é real, mas fique de olho no orçamento: preenchê-lo empurra a memória total para cerca de 49.1 GB, então em uma máquina de 32 GB você mantém o contexto de trabalho modesto e aposta em um quant menor em vez de perseguir a janela inteira.

Contra o Gemma 4 31B, que fica em quase idênticos 30.7B de parâmetros, a troca é clara. O Gemma é denso e adiciona código e visão, então tende a se sair melhor em trabalho multimodal e em código estruturado, enquanto o design esparso do Qwen 3 30B-A3B o torna drasticamente mais rápido por token para chat e raciocínio nessa faixa de tamanho. Essa velocidade em relação ao seu tamanho é seu traço de destaque. Ele também vem sob a licença Apache 2.0, então, ao contrário de termos open-weight específicos de cada provedor, você pode usá-lo livremente em trabalho comercial e em produção, sem asteriscos de licenciamento.