Posso rodar o Phi-4 Mini 3.8B?

O Phi-4 Mini 3.8B é o pequeno modelo de chat da Microsoft, a escolha certa quando você quer algo realmente leve que ainda assim mantém uma conversa. Em quantização de 4-bit ele fica em torno de 2.3 GB, caindo para cerca de 1.6 GB em 2-bit, então cabe em quase qualquer lugar: uma GPU de 6 GB tem espaço de sobra, um Mac M1 de entrada roda sem esforço e até um notebook antigo na CPU dá conta. A licença MIT é a parte fácil: nenhum termo para ler e sem restrições comerciais, então você pode colocá-lo em um produto livremente.

No uso diário ele é rápido. Em uma RTX 3060 você vê cerca de 133 tok/s, um M-series Max fica perto de 151 tok/s, e uma 4090 ultrapassa os 370 tok/s, o que é muito mais veloz do que você consegue ler. O contexto de 128K é o número de destaque, mas trate-o com cautela: encha esse contexto e a memória total sobe para cerca de 14.3 GB, bem acima dos 6 GB que o modelo precisa em repouso. Em uma GPU pequena, mantenha o contexto de trabalho em alguns milhares de tokens e você fica confortável. Até na CPU com DDR5 ele gerencia cerca de 22 tok/s em prompts curtos.

Onde ele revela o seu tamanho é na profundidade. Para raciocínio e instruções de múltiplas etapas, o Qwen 3 4B normalmente leva vantagem, apesar de ter praticamente a mesma contagem de parâmetros, e se você precisa de fôlego real para raciocínio, o Phi-4 14B é o passo seguinte óbvio. O traço marcante do Phi-4 Mini é a eficiência: ele rende acima dos seus 3.8B em chat simples e resumos, mantendo-se pequeno o bastante para rodar em quase qualquer lugar, com licença MIT e sem restrições. Se você quer um assistente local minúsculo que carrega rápido e sai do seu caminho, esse é um ótimo padrão.